눈치까지 배우는 카카오 AI '선톡'…가상 카톡서 대화 훈련

핵심 요약

• 카카오가 AI가 먼저 말 거는 선톡 기능을 고도화한다
• 가상 카톡 환경 클론으로 AI끼리 대화를 학습시킨다
• 클론 도입으로 모델 배포 기간이 2주로 줄었다

카카오가 인공지능(AI)이 이용자에게 먼저 말을 거는 '선톡' 기능을 고도화한다. 대화 흐름과 맞지 않는 제안이나 불필요한 개입 문제를 줄이고, 이용자에게 실질적으로 도움이 되는 순간을 판단하도록 개선하는 것이 목표다. 이를 위해 실제 카카오톡과 유사한 가상 환경에서 AI끼리 대화하며 다양한 상황을 학습하는 '클론' 기술을 활용하고 있다.

윤소원 카나나 인 카카오톡 프로덕트 매니저는 13일 경기도 용인시에서 열린 개발자 컨퍼런스 '이프카카오(if(kakao)26)'에서 클론을 활용한 카나나 인 카카오톡(카인카) 개발 과정과 향후 고도화 방향을 소개했다. 카나나 인 카카오톡은 이용자 대화 내용을 기기 안에서 분석해 일정 관리와 예약, 구매, 검색 등을 먼저 제안하는 AI 서비스다. 지난해 이프카카오에서 핵심 기능이 처음 공개됐고, 비공개 베타 테스트를 거쳐 올해 3월 정식 출시됐다.

온디바이스와 서버 모델 협력

카카오는 선톡 체계를 만들기 위해 온디바이스 모델과 서버 모델이 협력하는 하이브리드 아키텍처를 구현했다. 카나나 가입 시 단말기에 설치되는 작은 온디바이스 모델과 카카오 서버에 있는 큰 서버 모델이 협력하는 구조에서 선톡이 생성된다.

개입 판단과 그 근거가 되는 대화 맥락 요약은 1.3B 규모의 초경량 온디바이스 모델이 맡는다. 카카오는 이를 위해 데이터 엔지니어링에 집중했고, 공개된 SNS 대화 데이터로 학습 데이터의 기반을 만들었다. 부족한 주제는 시나리오를 뽑아 초거대언어모델(LLM) 증강으로 보완했다.

카카오톡 대화를 똑똑하게 처리하는 모델을 만들기 위해 학습 데이터 구축부터 시작했다

— 윤소원 카나나 인 카카오톡 프로덕트 매니저

클론 도입 성과와 향후 계획

카카오는 출시 이후 나타난 '뜬금없는 선톡'과 '맥락 오류' 문제를 해결하기 위해 클론을 개발했다. 클론은 AI가 서로 대화하며 제보받은 상황을 무한히 생성하고, 파악되지 않은 상황을 미리 발견하는 도구다. LLM 프롬프팅 대화와 비교했을 때 클론 대화는 단어 겹침이 35% 감소하고 표현 다양성은 13% 증가한 것으로 확인됐다.

클론 기반 자동 개선 파이프라인 도입으로 기능과 모델 성능이 개선됐고, 한두 달 걸리던 모델 배포 기간도 약 2주로 줄었다. 카카오는 앞으로 대화 원문을 보지 않고도 대화 분포를 따라가는 구조로 개선하고, 에이전트들이 선톡을 주고받으며 적절한 개입 정도를 찾도록 학습시킬 방침이다.

ⓒ K새벽 무단 전재 및 재배포 금지