실시간 음성 지연, OpenAI는 빠르게 만드는 대신 단계를 없앴습니다

통화가 굼뜨다는 말이 나오면 대개 모델부터 봅니다. OpenAI가 2026년 8월에 공개한 실시간 음성 시스템 구축기를 보면, 6개월 동안 손댄 자리 중 숫자가 가장 크게 붙은 곳은 모델 바깥이었습니다.

아래 수치는 전부 OpenAI가 스스로 공개한 값입니다. 독립 벤치마크가 아니고, 비교 대상도 자사의 이전 시스템입니다.

가장 큰 숫자는 대화가 시작되기 전에 있습니다

OpenAI는 WARP라는 전송 프로토콜을 새로 만들어, 오디오와 데이터를 주고받기 시작하는 데 필요한 네트워크 왕복을 6회에서 1회로 줄였다고 밝혔습니다. 여기에 붙인 Instant Connect로는 UDP 패킷 하나만으로 세션이 열립니다.

이 구간은 통화 품질 대시보드에 잘 안 잡힙니다. 우리가 재는 것은 보통 「물어보고 답이 나오기까지」인데, 왕복 6회는 그 시계가 돌기 전에 지나갑니다.

그다음에 한 일은 부품을 하나 뺀 것입니다

OpenAI는 GPT-Live를 3세대 음성 시스템이라 부르면서, 턴 감지기를 오디오 경로에서 제거했다고 적었습니다. 상대가 말을 멈췄는지 판정하는 그 부품이 없어졌다는 뜻입니다.

모델이 듣는 동시에 말할 수 있게 되니 판정할 일 자체가 사라진 것입니다. 빠르게 만든 게 아니라 단계를 지웠습니다.

세 자리 모두 「더 빠른 부품으로 교체」가 아닙니다. 출처는 OpenAI 자사 공개 자료입니다.

나머지 하나는 다시 쓰는 일이었습니다

미디어 프런트엔드와 추론 로직을 Python asyncio에서 Go로 옮겼고, 그 결과를 이렇게 적었습니다.

새 시스템의 p95  =  이전 시스템의 p50

밀리초 절대값은 공개하지 않았습니다. 백분위끼리의 비교만 있습니다. 그래도 방향은 분명한데, 느린 쪽 꼬리가 예전의 한가운데까지 당겨졌다는 얘기입니다.

여기에 하나 더 있습니다. 도구 호출과 무거운 추론은 별도의 비동기 경로로 빼서, 백엔드가 느려도 통화 자체는 안 멈추게 했습니다.

국내 콜센터에서 이 발표를 읽는 법

세 가지 다 「어느 부품을 더 빠른 걸로 바꿀까」의 답이 아닙니다. 그래서 국내에서 볼 자리도 달라집니다.

1. 연결 수립 시간을 따로 재고 있는지 봅니다. 응답 시간만 재는 계기판에는 이 구간이 없습니다
2. 경로에 놓인 단계 수를 세어 봅니다. 하나를 지울 수 있으면 그게 그 단계를 최적화하는 것보다 큽니다
3. 외부 조회가 통화를 붙잡고 있는지 봅니다. CRM이나 재고 조회가 느릴 때 말이 끊기면 경로가 안 갈라져 있는 것입니다

지연을 줄이는 방법은 두 가지입니다. 빠르게 만들거나, 안 하거나.

이 방법이 통하지 않는 경우

그대로 가져오면 안 되는 자리가 둘 있습니다.

• 턴 감지기 제거는 모델이 듣는 동시에 말할 때만 성립합니다. 국내에서 흔한 STT → LLM → TTS 단계형 스택은 말이 끝났는지 판정하는 쪽이 없으면 응답 시점을 못 잡습니다. 이 구성에서 엔드포인팅을 빼면 빨라지지 않습니다. 말을 자릅니다
• WARP는 이름 그대로 WebRTC 위의 것입니다. 고객이 일반 전화망으로 걸어 오는 통화는 통신사 구간을 우리가 못 고칩니다. 6회에서 1회라는 개선이 그 통화에 그대로 오지는 않습니다

스택 구성부터 확인해야 어느 항목이 적용되는지 갈립니다.

BringTalk에서는 통화 지연을 볼 때 응답 시간보다 경로의 단계 수를 먼저 셉니다. 지울 수 있는 단계가 남아 있으면 모델을 바꾸는 일은 그다음입니다.

정리: OpenAI가 공개한 6개월치 작업에서 큰 숫자 둘은 연결 왕복 6회 → 1회와 턴 감지기 제거였고, 셋 다 부품 교체가 아니었습니다. 자사 공개 수치입니다.