2025년 1월 국회를 통과한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 2026년 1월 22일 본격 시행됐다. EU AI Act에 이어 세계 두 번째 포괄적 AI 규제 체계로, 고영향 AI와 생성형 AI에 대한 구체적 의무사항이 발효됐다. 과태료 부과에는 최소 1년의 계도 기간이 적용되지만, 법적 의무는 시행일부터 유효하다.
배경: 왜 AI 기본법인가
AI 기본법은 AI 산업의 발전과 국민 권익 보호라는 두 축을 동시에 추구한다. 기존에는 개별 법률(개인정보보호법, 전자상거래법 등)에 의존해 AI를 간접 규제했으나, AI 기술의 급속한 확산에 대응하기 위해 전용 법체계를 마련한 것이다. 과학기술정보통신부(MSIT)가 주무 부처로, 시행령 세부 사항을 확정 중이다.
상세 내용: 고영향 AI와 생성형 AI 의무
고영향 AI는 '사람의 생명, 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템'으로 정의된다. 의료, 에너지, 교통, 채용, 생체인식, 정부 의사결정 등이 해당 분야다.
- 기본권 영향평가: 고영향 AI 사업자는 서비스 출시 전 기본권 영향평가를 실시해야 한다
- 위험 관리 체계: 시스템 수명주기 전반에 걸친 위험 관리 계획을 수립하고 이행 결과를 MSIT에 보고해야 한다
- 투명성 의무: 생성형 AI로 생성된 음성, 이미지, 영상이 사람이 만든 것과 구분이 어려운 경우 AI 생성물임을 명시해야 한다
- 사전 고지: AI 기반 제품이나 서비스를 제공할 때 이용자에게 AI 활용 사실을 사전 고지해야 한다
해외 빅테크 기업의 경우, 연매출 1조 원 이상이거나 국내 AI 서비스 매출 100억 원 이상 또는 일평균 이용자 100만 명 이상(직전 3개월 기준)이면 국내 대리인을 지정해야 한다. 위반 시 과태료는 최대 3,000만 원이다(Cooley 분석 기준).
국내 시사점: Voice AI 기업이 주목해야 할 점
Voice AI 서비스는 고영향 AI 분류에 직접 해당하지 않을 수 있으나, 의료 안내, 금융 상담, 채용 스크리닝 등에 활용될 경우 고영향 AI로 분류될 가능성이 높다. 특히 음성 합성과 대화형 AI는 생성형 AI 투명성 의무의 적용 대상이 된다.
계도 기간은 '준비의 유예'이지 '의무의 유예'가 아니다. 법적으로는 2026년 1월 22일부터 모든 의무가 발생한다. 과태료가 즉시 부과되지 않을 뿐, 규제 프레임워크에 대한 준비는 지금 시작해야 한다.
향후 계획: 시행령 확정과 기업 대응 로드맵
MSIT는 시행령 세부 사항을 확정 중이며, 통합안내지원센터를 통해 기업 대응을 지원하고 있다. 기업 입장에서는 다음 세 가지를 우선 점검해야 한다. 자사 AI 서비스가 고영향 AI에 해당하는지 사전 평가할 것, 생성형 AI 출력물에 대한 라벨링 및 고지 체계를 구축할 것, 기본권 영향평가 프로세스를 내부적으로 설계할 것이다.