AI 기본법 시대, Voice AI 컴플라이언스 실무 가이드

2026년 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 AI 기본법)이 시행되었다. EU AI Act와 함께 국가 단위의 포괄적 AI 규제 체계로 꼽힌다. 콜센터·고객 응대에 Voice AI를 운용하는 기업이라면, 이 법이 우리 시스템에 어떤 의무를 부과하는지 지금 점검해야 한다.

고영향 AI란 무엇인가

AI 기본법은 EU AI Act의 '고위험(High-Risk)' 대신 '고영향(High-Impact)'이라는 용어를 쓴다. 제2조 제4호는 에너지 공급, 먹는물 생산, 보건의료와 의료기기, 원자력 시설, 범죄 수사·체포를 위한 생체인식, 채용·대출 심사처럼 개인의 권리·의무를 판단하는 일, 교통, 공공서비스 관련 국가기관 의사결정, 학생 평가 등의 영역을 열거하고, 그 밖의 영역은 대통령령에 맡겼다. 이런 영역에서 사람의 생명·신체 안전·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI가 대상이다.

판단은 '영역 + 영향도' 두 요건을 함께 본다. 위 영역에 속한다고 곧바로 고영향 AI가 되는 것은 아니고, 해당 시스템이 실제로 사람의 권익에 중대한 영향을 미치는지를 같이 따진다.

Voice AI는 고영향 AI에 해당하는가

콜센터 Voice AI의 고영향 여부는 활용 맥락에 따라 달라진다. 단순 FAQ 응대라면 해당 가능성이 낮다. 그러나 대출 상담에서 사전 심사 의견을 내거나, 보험 클레임 접수에서 승인·거절 판단에 관여하거나, 의료 예약 때 증상 분류(triage)를 한다면 고영향으로 분류될 수 있다.

AI 기본법 제34조(요지): 고영향 인공지능 사업자는 위험관리방안 수립·운영, 설명 방안 수립·시행, 이용자 보호 방안 수립·운영, 사람의 관리·감독, 그리고 이런 안전성·신뢰성 확보 조치를 확인할 수 있는 문서의 작성·보관 등의 조치를 해야 한다.

문서 보관 기간은 시행령에서 정하며, 2025년 공개된 시행령 입법예고안은 5년을 제시했다. 고영향 여부가 불확실하면 사업자는 과학기술정보통신부에 확인을 요청할 수 있다. 먼저 자가 평가를 하고, 모호한 경우는 공식 확인을 받아 두는 편이 안전하다.

생성형 AI 투명성 의무: Voice AI에도 적용

고영향 여부와 관계없이, 생성형 AI로 제품·서비스를 제공하는 사업자에게는 투명성 의무(제31조)가 있다. 서비스를 제공하기 전에 AI 기반이라는 사실을 이용자에게 미리 알려야 하고(제1항), 생성형 AI가 만든 결과물에는 그 사실을 표시해야 한다(제2항). Voice AI에서는 통화 시작 때 'AI 상담원입니다'라고 알리는 것이 대표적인 이행 방식이다.

아래 세 가지는 법적 의무와 권고를 나눠 적었다.

1. 통화 시작 시 AI 상담원임을 명확히 고지(법적 의무)

2. AI 생성 음성 표시. 표시 자체는 의무이고, 안내 문구·음성으로 알리는 방식 외에 워터마크·메타데이터 같은 비가시적 표시도 쓸 수 있는 방법 중 하나다

3. 이용자가 원하면 사람 상담원으로 넘기는 경로 확보(조문이 직접 요구하지는 않지만, 고영향 AI의 이용자 보호와 사람의 관리·감독 의무에 맞닿는 권고 사항)

EU AI Act와의 교차 규제: 글로벌 기업이 주의할 점

한국에서 Voice AI를 운용하면서 유럽 고객에게도 서비스하는 기업이라면, AI 기본법과 EU AI Act를 동시에 충족해야 한다. EU AI Act는 고위험 AI에 적합성 평가(Conformity Assessment), CE 마킹, EU 데이터베이스 등록을 요구하며, 한국법보다 기술 요구사항이 상세하다.

반면 한국 AI 기본법은 자가 평가 기반이고 과태료 상한이 3,000만 원이어서, EU의 매출액 비례 과징금(최대 3,500만 유로 또는 전 세계 매출 7%)보다 제재 수준이 낮다. 다만 계도기간 이후 시행령 개정으로 제재가 강화될 가능성은 남아 있다.

지금 당장 시작할 5단계 컴플라이언스 체크리스트

1. AI 시스템 인벤토리 작성: 현재 운용 중인 모든 AI 시스템을 목록으로 만들고, 각각의 활용 영역과 의사결정 개입 수준을 기록한다.

2. 고영향 여부 자가 판단: 제2조 제4호 영역 해당 여부와 권익 영향도를 기준으로 각 시스템을 분류한다. 모호하면 과기정통부 확인 요청을 검토한다.

3. 투명성 프로토콜 설계: AI 고지 문구, 생성 음성 표시 방식(안내 음성 또는 워터마크 등), 사람 상담원 전환 경로를 설계하고 구현한다.

4. 데이터 워크플로 매핑: 학습 데이터의 수집·처리·보관 경로를 문서화한다. 고영향 AI라면 설명 방안에 학습용 데이터의 개요가 들어가야 한다.

5. 문서화 및 보관 체계 구축: 안전성·신뢰성 확보 조치를 확인할 수 있는 문서를 작성하고, 시행령에서 정한 기간(입법예고안 기준 5년) 동안 보관할 체계를 마련한다.

BringTalk의 접근: 컴플라이언스를 설계에 넣다

BringTalk은 Voice AI 플랫폼 설계 단계에서부터 투명성과 설명 가능성을 핵심 요구사항으로 반영하고 있다. 통화 시작 시 AI 고지, 실시간 사람 상담원 전환(Human Handoff), 통화 로그 자동 보관은 기본 기능으로 제공된다. AI 기본법 시대에는 컴플라이언스를 따로 진행하는 프로젝트로 두기보다 제품 기본 사양에 넣어 두는 편이 낫다.

이 글은 2026년 10월 기준 법령과 공개 자료를 바탕으로 했다. 시행령·고시 확정본은 국가법령정보센터에서 확인할 수 있다.