AI의 답변, 어디까지 믿을 수 있나요?
Gemini Enterprise와 Collavate가 만드는 ‘추적 가능한 AI’
AI는 빨라졌지만, 책임은 누가 지나요?
업무에 생성형 AI를 도입하는 기업이 빠르게 늘고 있습니다. “올 하반기 보안 리스크 대비 조치는 무엇인가?” 같은 질문을 던지면, Gemini Enterprise는 사내 문서를 근거로 정돈된 답변을 수 초 만에 내놓습니다.
그런데 막상 그 답변을 의사결정에 쓰려고 하면, 경영진과 보안·컴플라이언스 담당자에게는 한 가지 근본적인 질문이 남습니다. “이 답변의 근거가 된 문서는 누가, 언제, 어떤 절차로 승인한 것인가?”
AI가 아무리 그럴듯한 답을 내놓아도, 그 근거가 검증되지 않은 초안이거나 누군가의 임의 메모라면 그 답변은 신뢰할 수 없습니다. 규제 산업(금융·공공·의료)일수록, 그리고 IPO·감사·대외 보고를 앞둔 기업일수록 이 문제는 더 치명적입니다. AI의 속도가 오히려 ‘검증되지 않은 정보의 확산 속도’가 될 수 있기 때문입니다.
핵심은 ‘학습’이 아니라 ‘근거 인용’입니다
먼저 짚고 넘어갈 중요한 점이 있습니다. Gemini Enterprise는 사내 데이터를 모델 학습에 사용하지 않습니다. 대신 구글 드라이브에 저장된 문서를 실시간으로 검색하고, 그 내용을 근거(grounding)로 답변하며, 출처를 인용합니다.
이 차이는 보안 관점에서 결정적입니다. 데이터가 모델에 흡수되어 사라지는 것이 아니라, 원본 문서가 그대로 남아 있고 AI는 그것을 ‘참조’할 뿐이라는 의미이기 때문입니다. 즉, AI 답변에는 항상 “이 내용은 어느 문서에서 왔는가”를 가리키는 출처가 존재합니다.
그렇다면 다음 질문은 자연스럽게 이어집니다. 그 출처 문서 자체는 믿을 수 있는가?
Collavate가 채우는 마지막 고리 — 결재 이력
바로 이 지점에서 Collavate가 결정적인 역할을 합니다.
Collavate는 구글 워크스페이스 기반의 전자결재·문서 승인 솔루션입니다. 구글 드라이브에 저장되는 문서가 Collavate를 통해 정식 검토·승인 절차를 거치면, 각 문서에는 결재 이력이 함께 기록됩니다. 누가 상신했고, 어떤 승인자들이 어떤 순서로 검토했으며, 각자 언제·어떤 의견으로 승인했는지가 전자서명과 타임스탬프로 남습니다.
이제 세 가지가 하나의 사슬로 연결됩니다.
① AI 답변 → ② 인용된 출처 문서 → ③ 그 문서의 결재 이력
Gemini Enterprise가 인용한 출처를 따라가면 원본 문서에 도달하고, 그 문서의 Collavate 결재 이력을 열면 “누가·언제·어떤 근거로 이 내용을 승인했는가”까지 거슬러 올라갈 수 있습니다. AI가 내놓은 답변의 신뢰 근거를, 사람이 책임지고 승인한 기록으로 끝까지 추적하고 감사할 수 있게 되는 것입니다.
실제 화면으로 보는 추적의 흐름
위 예시를 보면 그 작동 방식이 명확합니다.
왼쪽 Gemini Enterprise 화면에서 사용자는 “보안 사고 발생 시 리스크 관리 조치”를 질문합니다. AI는 “생성형 AI 보안 통제 체계”, “퇴사자 인사·노무 리스크 관리”, “Netkiller ISMS를 활용한 선제적 관제” 등 구체적인 답변을 내놓으며, 각 항목마다 구글 드라이브 출처 아이콘을 함께 표시합니다.
그 출처를 따라가면 오른쪽의 실제 문서 — 정식 경영 로드맵 문서 — 에 도달합니다. 그리고 화면 우측의 Collavate 패널에는 이 문서가 거쳐 온 결재 이력이 그대로 보입니다. 여러 승인자가 순차적으로 검토하고 전자서명한 기록, 승인 일시, 상신자의 코멘트까지 한눈에 확인됩니다.
결국 AI가 인용한 한 줄의 답변이, 실존하는 승인 문서와 그 문서를 책임진 사람들의 결재 기록으로 완벽하게 뒷받침되는 것입니다.
왜 이것이 중요한가 — ‘Human in the Loop’ 거버넌스
이 구조의 본질은 단순한 기능 연동이 아닙니다. AI 워크플로우 안에 사람의 판단과 책임을 명확히 남기는 거버넌스 체계입니다.
- 신뢰성 — AI 답변이 검증된 승인 문서에 근거하므로, 미검증 정보가 의사결정에 섞여 들어갈 위험이 줄어듭니다.
- 감사 대응 — 규제 기관이나 감사인이 “이 결정의 근거는?”이라고 물을 때, AI 답변에서 출처 문서, 그리고 결재 이력까지 끊김 없이 제시할 수 있습니다.
- 책임 소재 명확화 — AI는 초안과 답변을 만들지만, 최종 책임은 그 문서를 승인한 사람에게 있습니다. 누가 무엇을 승인했는지가 기록으로 남습니다.
- 보안 정합성 — 원본 문서는 구글 드라이브에 안전하게 보관되고, Collavate가 권한과 접근을 통제하므로 AI 활용과 정보 보안이 양립합니다.
마치며
생성형 AI 시대의 경쟁력은 ‘얼마나 빠르게 답을 얻는가’에서 ‘그 답을 얼마나 신뢰하고 책임질 수 있는가’로 이동하고 있습니다.
Gemini Enterprise가 사내 지식을 근거로 답하고, Collavate가 그 지식의 승인 이력을 증명할 때, 기업은 비로소 추적 가능하고 감사 가능한 AI를 갖게 됩니다. AI는 일하고, 결정과 책임은 사람이 남기는 것 — 이것이 안심하고 AI를 업무에 들이는 가장 확실한 방법입니다.