Voice AI 투명성: 고지했다는 말보다 증명할 기록이 필요합니다

AI 음성 상담을 평가하는 질문이 바뀌고 있습니다. 말을 얼마나 잘하느냐보다, 고객에게 무엇을 고지했고 어떤 근거로 응답했으며 어떤 데이터가 남았는지를 증명할 수 있느냐가 더 중요해졌습니다. 한국에서는 2026년 1월 22일 인공지능 기본법이 시행됐고, EU AI Act의 투명성 조항도 2026년 8월부터 적용되고 있습니다. Voice AI 운영팀이 지금 준비할 것은 기능 목록보다 고지 감사 기록(disclosure audit trail), 즉 고지·동의·보관 처리를 통화마다 다시 확인할 수 있게 남긴 기록입니다.

고지 문구 한 줄로는 부족합니다

고객에게 "AI 상담사입니다"라고 한 번 말하는 것만으로는 충분하지 않습니다. 기업 환경에서는 고지 시점, 고객의 계속 진행 의사, 상담 중 사람 전환 기준, 저장·삭제 정책이 함께 기록되어야 합니다. 고지·동의·보관·검토가 같은 운영 체계 안에서 재현되어야 감사나 민원 대응 때 설명이 됩니다.

외부 기준도 구체화되고 있습니다. 한국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(인공지능 기본법)은 제31조에서 생성형 AI 등을 이용한 제품·서비스를 제공할 때 그 사실을 이용자에게 미리 알리도록 정합니다. 과학기술정보통신부는 과태료 부과를 1년 이상 유예하고 계도 중심으로 운영하겠다고 밝혔지만, 의무 자체는 시행일부터 적용됩니다. EU AI Act는 AI를 위험 기반으로 관리하는 첫 포괄 규제 체계이고, AI와 대화하고 있다는 사실을 알리도록 한 제50조 투명성 의무가 2026년 8월 2일부터 적용되고 있습니다. OpenAI도 2026년 6월 11일 EU의 AI 생성 콘텐츠 투명성 실천 강령(Code of Practice)을 지지한다고 밝혔습니다.

통화 한 건에 최소 5개 이벤트를 남깁니다

Voice AI의 투명성 로그는 일반 챗봇보다 엄격해야 합니다. 통화는 실시간으로 진행되고, 고객은 화면의 약관을 읽는 대신 음성 안내에 의존하기 때문입니다.

이벤트                    남기는 이유
AI 고지 재생              고객이 AI 응대임을 안내받았는지 확인
계속 진행 / 이탈 신호     계속 통화 의사 또는 이탈 지점 기록
상담사 전환 트리거        민감·불만·복잡 문의의 전환 기준 증명
전사본 최소화             필요한 데이터만 남겼는지 점검
보관 / 삭제 처리          보관 기간과 삭제 실행 여부 감사

이 다섯 가지가 통화 ID 하나로 묶여 있어야 고객 민원, 규제 문의, 내부 품질 점검에서 같은 통화를 같은 방식으로 재구성할 수 있습니다.

한국 기업은 규제보다 구매 심사를 먼저 만납니다

국내 기업이 EU 제재 대상이 아니더라도, 대기업 구매·보안 심사는 이미 비슷한 질문을 던집니다.

1. 고객에게 AI 응대임을 언제 알립니까?
2. 상담 녹취와 전사본(transcript)은 어디에, 얼마나 보관합니까?
3. 외부 LLM(대형 언어 모델)으로 개인정보가 전달될 때 보관 정책은 무엇입니까?
4. 상담 실패·불만·민감 정보 감지 시 사람에게 어떻게 넘깁니까?
5. 위 절차를 샘플이 아니라 전체 운영 로그로 증명할 수 있습니까?

개인정보 보호법은 보유기간이 끝났거나 처리 목적을 달성한 개인정보를 지체 없이 파기하도록 정하고 있어서(제21조), 녹취·전사본의 보관 기간과 실제 파기 기록은 심사에서 거의 빠지지 않는 항목입니다. 이 질문들에 답하지 못하면 모델 품질이 좋아도 파일럿에서 본계약으로 넘어가기 어렵습니다. 금융, 자동차, 렌탈, 의료 예약처럼 본인확인·민원·결제 정보가 섞이는 산업에서는 기능 데모보다 운영 증거가 먼저 병목이 됩니다.

Zero Retention은 단독 기능으로 끝나지 않습니다

BringTalk이 말하는 Zero Retention(무보관)은 외부 LLM 서버에 고객 개인정보가 남지 않도록 구성하는 원칙입니다. 범위는 분명히 해 둘 필요가 있습니다. Zero Retention이 다루는 것은 외부 모델 제공사 서버에 남는 데이터이고, 기업이 법령과 내부 정책에 따라 보관하는 녹취·상담 기록·감사 로그는 별도의 보관 정책으로 관리합니다. 실제 구매 심사에서는 이 원칙이 고지, 맥락 주입, 전사본 정책, 사람 전환과 한 묶음으로 검토됩니다.

• 고지: 첫 발화 또는 본인 인증 전 단계에서 AI 응대임을 알립니다.
• 맥락 주입(Context Injection): 상담에 필요한 최소한의 고객 이력만 모델에 넘깁니다.
• Zero Retention: 외부 모델 서버에 개인정보가 남지 않도록 구성합니다.
• 사람 전환: 불만·민감·불확실 발화는 상담사에게 넘깁니다.
• 감사 로그: 위 이벤트를 통화 단위로 남깁니다.

좋은 Voice AI 시스템은 고객이 불편해하지 않을 만큼 자연스러워야 하고, 감사자가 나중에 다시 봐도 설명할 수 있어야 합니다. 둘 중 하나만 맞으면 운영 단계에서 막힙니다.

지금 해야 할 3가지

1. 고지 문구를 표준화합니다. 브랜드 톤을 다듬기 전에 법무·보안·고객경험(CX) 담당이 합의한 기본 문장부터 정합니다.
2. 이벤트 로그 구조를 정합니다. 통화 ID, 고지 시각, 전환 사유, 보관 정책, 삭제 상태를 같은 형식으로 남깁니다.
3. 파일럿 품질 점검에 규정 재검토를 넣습니다. 성공 통화만 보지 말고 실패·불만·전환 통화를 다시 들으며 증거가 남았는지 확인합니다.

응답 속도만으로는 기업 계약을 따내기 어렵습니다. AI임을 분명히 알리고, 필요한 데이터만 쓰고, 나중에 설명할 수 있는 흔적을 남기는 팀이 본계약에 더 가까워집니다.