개인정보보호위원회(이하 개인정보위)가 출시를 앞둔 카카오의 인공지능 비서 서비스 '카나나'에 대한 사전 적정성을 검토한 뒤 개인정보 유출을 막는 안전장치를 마련하라는 지시를 내렸다고 13일 밝혔다.

사전 적정성 검토제는 인공지능(AI) 등 새로운 기술이나 서비스의 기획·개발 단계에서 기존 법 해석 및 집행 선례만으로는 명확한 개인정보 보호법 준수 방안을 찾기 어려운 경우 개인정보위에 의뢰해서 법 적용안을 마련해 이행하면 사후 행정 처분을 면제해주는 제도다.

앞서 카카오는 지난해 12월 개인정보위에 사전 적정성 검토를 신청했다. 카나나는 대화의 맥락을 파악해 답변을 내놓는 인공지능 친구(AI 메이트) 서비스다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 대답하는 '카나', 이용자와 단둘이 주고받은 대화를 토대로 질의에 답하는 '나나'로 구성됐다. 카나나는 카카오가 자체 개발한 거대 언어 모델(LLM)을 메인으로, 오픈AI사의 ChatGPT를 보조로 활용한다.

먼저 개인정보위는 카나와 나나가 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화할 것을 주문했다.

대화방 내 데이터는 카카오 내 별도 데이터베이스에 보관하고 오픈AI측에는 저장되지 않도록 했다. 특히 대화 내용에 계좌, 카드번호 등 개인 식별 정보가 포함된 경우 카카오의 자사 언어 모델에서만 처리하거나 오픈AI가 알아볼 수 없도록 해당 부분을 암호화 처리하라고 지시했다.

아울러 개인정보위는 챗GPT에서 처리되는 데이터에 대한 보호를 강화하기 위해 오픈AI와의 위수탁 계약에 관련 조건을 명확히 담을 것을 촉구했다.

위탁 계약에는 해당 데이터를 카카오가 맡긴 업무를 위해서만 활용하고 오픈AI의 사업 목적에 쓰이지 않도록 해야 한다는 조건을 명시하고, 챗GPT가 응답한 후 오픈AI에 별도로 저장되지 않도록 기술적 제약을 두라고도 주문했다.

앞으로 카카오는 이용자와 대화 데이터를 자사 언어 모델의 학습 자료로 활용하려면 사전에 별도 동의를 받아야 한다. 원치 않는 이용자는 이를 거부할 수 있다.

카카오는 개인정보위의 권고를 받아들이고 개인정보 유출을 막기 위해 ▲자동 필터링 ▲인적 검토 절차 마련·공개 ▲피드백 프로세스 구축 등을 시행키로 했다.

개인정보위는 카나나 서비스 출시 후 카카오가 해당 사항들을 이행하고 있는지 점검할 방침이다.

개인정보위 관계자는 "사전 적정성 검토제를 더욱 활성화해 데이터 경제 시대 급변하는 현장과 긴밀히 소통할 것"이라며 "AI를 비롯한 신기술·서비스의 법적 불확실성이 해소되고 정보 주체의 권익이 보호될 수 있도록 노력해 나가겠다"고 말했다.