AI 리터러시는 교육이 아니라 Voice AI 관제실입니다

EU AI Act는 2024년 8월 1일 발효됐고, European Commission은 AI literacy 의무가 2025년 2월 2일부터 적용됐다고 안내합니다. Voice AI를 쓰는 기업에게 이 변화는 “직원 교육을 한 번 했다”가 아니라, 현장 판단을 반복적으로 점검하는 운영 체계를 만들라는 신호입니다.

AI 리터러시는 교육 수료증이 아닙니다

EU AI Act Article 4는 AI 시스템의 provider와 deployer가 직원과 운영 관련 인력에게 “sufficient level of AI literacy”를 확보하기 위한 조치를 취해야 한다고 설명합니다. 여기서 중요한 단어는 literacy보다 operation and use입니다.

Voice AI 환경에서는 한 명의 상담사가 화면을 보며 답변하는 것이 아니라, AI가 고객 발화를 듣고, CRM을 조회하고, 다음 질문을 선택하고, 필요하면 사람에게 넘깁니다. 따라서 리터러시는 모델 원리를 아는 교양 과목이 아니라 다음 질문에 답하는 실무 능력입니다.

• 이 통화에서 AI가 계속 진행해도 되는가?
• 고객이 고위험 의사결정을 요구하고 있는가?
• 어떤 순간에 사람 상담사로 넘겨야 하는가?
• 사후 감사에서 어떤 증거가 남아야 하는가?

교육은 “AI가 무엇인지”를 설명합니다. 리터러시는 “이 통화에서 지금 무엇을 해야 하는지”를 판단하게 합니다.

규제 문구를 관제실 언어로 바꿔야 합니다

European Commission의 AI Act 안내는 2026년 8월 2일 전면 적용을 기본 일정으로 두면서, 금지 AI 관행과 AI literacy 의무는 2025년 2월 2일부터 적용됐다고 정리합니다. 즉, 기업 입장에서는 나중에 준비할 컴플라이언스가 아니라 이미 운영 체크리스트에 들어와야 하는 항목입니다.

Voice AI 운영팀이 읽기 쉬운 언어로 바꾸면 AI literacy는 다음 5개 레이어로 나뉩니다.

1. Policy context     — 어떤 규제·내부 정책이 통화에 적용되는가
2. Role training      — 영업, CS, QA, 관리자별 판단 기준은 무엇인가
3. Scenario playbook  — 환불, 민원, 개인정보, 계약 변경은 어디까지 자동화하는가
4. Human escalation   — 사람이 반드시 승인해야 하는 순간은 언제인가
5. Audit evidence     — 나중에 설명 가능한 로그와 결정 근거가 남는가

이렇게 쪼개야 교육 자료가 운영 도구가 됩니다. “AI 사용 시 주의하세요”라는 한 줄 지침은 현장에서 아무 행동도 만들지 못합니다.

Voice AI에서 리터러시가 무너지는 4가지 장면

Voice AI의 리스크는 대개 모델이 어려운 질문에 틀린 답을 했을 때만 발생하지 않습니다. 더 자주 발생하는 문제는 사람이 개입해야 할 순간을 조직이 정의하지 않았을 때 생깁니다.

1. 고객 동의가 모호한 통화 — 녹취, AI 응대 고지, 재연락 동의가 섞여 있는데 agent가 다음 단계로 넘어갑니다.
2. 정책 예외가 필요한 요청 — 환불, 해지, 금융 조건, 의료·보험 관련 안내처럼 자동 답변 범위를 넘는 질문이 들어옵니다.
3. CRM 정보가 부족한 상태 — 고객 여정 데이터가 비어 있는데 AI가 확정적인 답을 합니다.
4. 상담사 인계 후 맥락 손실 — handoff는 됐지만 왜 넘겼는지, 무엇을 확인해야 하는지가 사람에게 전달되지 않습니다.

이 네 장면은 “AI를 이해하지 못해서”라기보다, 조직이 운영 기준을 통화 흐름 안에 넣지 못해서 발생합니다.

ISO/IEC 42001과 NIST AI RMF가 주는 힌트

ISO는 ISO/IEC 42001:2023을 AI management systems 표준으로 소개하며, AI와 관련된 위험과 기회를 governance와 함께 관리하는 구조적 방법을 제시한다고 설명합니다. NIST의 AI Risk Management Framework 역시 조직이 AI 리스크를 관리하기 위한 프레임워크와 playbook을 제공합니다.

이 두 자료가 Voice AI에 주는 실무적 힌트는 분명합니다. 리터러시를 “교육팀의 과제”로 두면 약해지고, 관리 시스템의 일부로 넣으면 강해집니다.

Voice AI 팀은 최소한 다음 산출물을 갖춰야 합니다.

• 역할별 1페이지 판단표: 상담사, QA, 운영 관리자, 영업 리더가 각각 무엇을 봐야 하는지
• 시나리오별 금지/허용/승인 조건: 자동 응대 가능 범위와 human approval 기준
• 로그 기준: transcript뿐 아니라 consent, escalation reason, tool result, override 기록
• 변경 주기: 새 정책, 새 상품, 새 캠페인이 생길 때 playbook을 누가 갱신하는지

BringTalk 관점: LQA와 FUA도 리터러시를 필요로 합니다

LQA(Lead Qualification Automation)는 리드를 빠르게 분류하고, FUA(Follow-Up Automation)는 이후 재접촉을 자동화합니다. 하지만 두 기능 모두 “좋은 자동화”가 되려면 사람이 확인해야 할 경계가 명확해야 합니다.

예를 들어 고의도 리드가 가격, 계약 조건, 개인정보 처리 범위를 묻는 순간에는 단순 lead score보다 더 중요한 질문이 생깁니다.

자동 진행 가능: 제품 기능 문의, 일정 조율, 기본 자료 요청
조건부 진행: 가격 범위, 캠페인별 혜택, 기존 계약 조건
사람 승인 필요: 예외 할인, 법적 책임, 민감정보, 공식 약속

AI 리터러시는 이 경계선을 현장팀이 같은 방식으로 읽게 만드는 장치입니다. agent가 어떤 말을 했는지도 중요하지만, 사람이 언제 멈추고 확인해야 하는지를 조직이 공유하는 것이 더 중요합니다.

실행 체크리스트: 교육보다 먼저 설계할 것

Voice AI를 운영 중이거나 도입하려는 기업은 교육 영상을 만들기 전에 다음 5가지를 먼저 정해야 합니다.

1. 고위험 통화 유형 — 결제, 계약, 의료·보험, 민원, 개인정보 처리처럼 자동화 한계를 정해야 하는 영역
2. 역할별 책임 — AI 운영자, 상담사, QA, 보안·컴플라이언스, 영업 리더의 확인 책임
3. handoff 문장 — 사람에게 넘길 때 전달해야 하는 reason, summary, required action
4. 감사 로그 필드 — 동의, 고지, tool result, escalation, human override
5. 갱신 리듬 — 정책·상품·스크립트 변경 시 playbook을 업데이트하는 주기와 담당자

이 목록이 있어야 AI literacy 교육도 구체화됩니다. 교육은 마지막 산출물이 아니라 운영 설계가 사람에게 전달되는 포맷입니다.

결론: 리터러시는 통화 품질의 운영 장치입니다

AI literacy를 규제 대응 문구로만 보면 “교육 완료” 체크박스로 끝납니다. 하지만 Voice AI에서는 리터러시가 고객 통화의 품질, 사람 인계의 정확도, 사후 감사 가능성을 동시에 좌우합니다.

Voice AI 리터러시의 목표는 모든 직원이 모델 전문가가 되는 것이 아닙니다. 목표는 같은 위험 신호를 보고, 같은 순간에 멈추고, 같은 근거로 사람에게 넘기는 것입니다.

Sources: European Commission, “AI Act” application timeline; EU Artificial Intelligence Act, Article 4: AI literacy; ISO, “ISO/IEC 42001:2023 — AI management systems”; NIST, “AI Risk Management Framework.”