“AI가 검색해서 알려 줬습니다.” 이 말만으로는 답을 믿기 어렵습니다. 검색한 곳이 사내 문서인지, 공개 웹인지에 따라 답의 근거가 달라지기 때문입니다.
가상의 출장 상황에서 두 질문을 생각해 보겠습니다. 회사 출장비 기준은 무엇인지, 오늘 열차가 정상 운행하는지 묻습니다. 둘 다 검색이 필요해 보입니다. 하지만 앞의 질문은 회사가 현재 적용하는 규정을 찾아야 하고, 뒤의 질문은 시점이 중요한 공개 정보를 확인해야 합니다.
OpenAI API의 File Search와 Web Search를 예로 들어, AI 검색 기능을 기획하거나 결과를 검토할 때 무엇을 구분해야 하는지 살펴보겠습니다. 두 도구는 개발자가 앱에 연결하는 기능입니다. 앱을 쓰는 사람도 답에 파일명이나 웹 링크가 붙어 있다면 같은 기준으로 출처와 시점을 확인할 수 있습니다. 무엇을 찾게 할지 정하지 않으면 검색이 성공해도 엉뚱한 출처에서 답을 가져올 수 있습니다.
File Search는 미리 넣어 둔 자료에서 찾습니다
OpenAI의 File Search 가이드는 이 도구가 사전에 업로드한 파일을 담은 벡터 저장소에서 관련 내용을 찾는다고 설명합니다. 벡터 저장소는 검색할 파일을 등록해 두는 공간입니다. 검색에는 단어를 맞춰 찾는 방식과 뜻이 비슷한 내용을 찾는 방식이 함께 쓰입니다.
따라서 ‘내 파일을 검색한다’는 표현에는 조건이 붙습니다. 컴퓨터나 사내 서버에 있는 모든 파일을 AI가 자동으로 읽는다는 뜻은 아닙니다. 해당 파일을 검색 대상 저장소에 넣어 두어야 합니다. 뜻이 비슷한 문장을 찾아내더라도, 그 문서가 현행판인지는 별도로 판단해야 합니다.
출장비 질문이라면 현재 적용 중인 규정이 그 저장소에 있는지가 먼저입니다. 오래된 규정만 올려 두었다면 AI는 그 안에서 잘 찾아도 오래된 기준을 답할 수 있습니다. 검색이 잘됐는지와 자료가 지금도 유효한지는 다른 문제입니다.
Web Search는 공개 웹에서 찾습니다
Web Search 가이드는 인터넷 정보를 검색하고 답에 출처를 붙이는 기능을 설명합니다. 오늘 발표된 내용이나 공개 사이트의 현재 안내를 확인할 때 이쪽이 적절합니다.
실시간 웹 접근이 가능해도 오래된 페이지가 검색될 수 있습니다. 또 앱 제작자는 가이드의 external_web_access 설정을 꺼서 미리 저장하거나 색인한 웹 자료만 쓰게 할 수도 있습니다. 이 저장 자료의 수집 시점은 답만으로 알 수 없으며, 현재 웹 페이지와 다를 수 있습니다. 오늘 열차 운행처럼 시점이 중요한 질문이라면 인용 링크를 열어 원문의 갱신일을 봐야 합니다. 앱을 검토한다면 개발자에게 실시간 웹 접근을 켰는지도 물어야 합니다.
검색할 자료의 위치에 따라 도구가 갈립니다. 회사의 현재 출장비 규정이 기준이라면 등록된 정본 파일, 즉 지금 공식 기준으로 쓰는 문서를 찾아야 합니다. 공개된 열차 운행 안내가 기준이라면 해당 운영기관의 최신 웹 안내를 확인해야 합니다.
두 출처가 모두 필요한 질문은 나누어 봐야 합니다
“오늘 열차 요금을 출장비로 청구할 수 있고, 열차는 정상 운행하나요?”라는 질문에는 두 종류의 근거가 섞여 있습니다. 출장비 기준은 회사 규정에서, 운행 상황은 공개 웹에서 확인해야 할 수 있습니다. 한쪽 검색만으로 두 사실을 모두 안다고 가정하면 빠진 근거가 생깁니다.
OpenAI의 Responses API 설명은 개발자가 앱에서 AI 응답을 만들 때 한 번의 요청에 File Search와 Web Search 같은 여러 도구를 사용할 수 있다고 안내합니다. 개발자라면 결과의 file_search_call과 web_search_call 항목에서 어떤 검색을 실행했는지 확인하고, 답변의 인용 표시에서 어떤 출처를 근거로 제시했는지 확인할 수 있습니다. 두 도구를 연결한 사실만으로 양쪽 근거가 답에 모두 쓰였다고 볼 수는 없습니다.
이때는 답을 이루는 주장을 나누어 보는 편이 낫습니다. ‘열차 요금을 출장비로 청구할 수 있는가’와 ‘오늘 열차가 운행하는가’는 서로 다른 자료로 확인합니다. 결론을 합칠 때도 어느 문장이 어느 출처에서 왔는지 드러나야 합니다. 회사 규정이 웹 검색 결과에 보여도 그 페이지가 현행 정본인지는 확인해야 합니다. 등록 파일에 운행 정보가 있어도 오늘의 상황을 반영하는지는 다시 봐야 합니다.
출처가 붙어도 확인은 끝나지 않습니다
두 도구 모두 답에 출처 정보를 붙일 수 있습니다. 출처 표시는 어디를 봤는지 추적하는 데 도움이 됩니다. 다만 그 페이지나 파일이 해당 질문의 정본인지, 필요한 날짜의 정보인지, 답변 문장이 실제 원문과 맞는지는 별도로 확인해야 합니다.
검색 도구를 고를 때 먼저 적어 볼 질문은 간단합니다. “이 답의 기준이 되는 자료는 어디에 있고, 언제의 자료여야 할까.” 이 두 칸을 정하면 File Search와 Web Search 중 무엇이 필요한지, 둘을 함께 써야 하는지 드러납니다. 결과가 나오면 파일 인용의 문서명을 확인하고 원문 파일에서 개정일을 봅니다. 웹 인용 링크에서는 운영 주체와 게시·갱신일을 봅니다. 마지막으로 답의 핵심 문장이 실제 원문에 있는지도 대조합니다.
AI 검색을 기획한다면 질문 유형마다 ‘근거 자료’와 ‘필요한 시점’을 한 줄씩 적어 보시길 권합니다. 출장 질문이라면 ‘현행 출장 규정, 오늘의 운영기관 공지’처럼 적을 수 있습니다. 결과를 읽는 입장이라면 답에 붙은 파일명과 웹 링크가 그 두 조건을 충족하는지 살펴볼 수 있습니다.
이 글은 AI의 도움을 받아 작성했습니다.
참고 자료
이 글의 기능 설명은 2026년 10월 3일 공식 문서 기준입니다.
- OpenAI File search: https://developers.openai.com/api/docs/guides/tools-file-search
- OpenAI Web search: https://developers.openai.com/api/docs/guides/tools-web-search
- OpenAI Migrate to the Responses API: https://developers.openai.com/api/docs/guides/migrate-to-responses