AI와의 대화, 지워지지 않는다...AI 데이터 논쟁 불붙다

인공지능(AI)이 사용자의 대화를 ‘기억’하는 시대가 본격화되면서, 편리함 뒤에 ‘누가 내 데이터를 소유하고 통제할 것인가’라는 근본적 질문이 제기되고 있다. 챗GPT를 비롯해 네이버·카카오 등 주요 플랫폼이 기억형 AI를 내세우면서, 데이터 삭제권과 ‘머신 언러닝’ 논의도 본격화되고 있다.

AI, 이제 사용자의 말과 취향까지 기억한다

직장인 A씨는 스마트폰 AI 비서에게 “지난번에 추천받았던 영화 제목이 뭐였지?”라고 물었다. AI는 기다렸다는 듯 “F1 더 무비였어요. 브래드 피트가 출연했죠”라고 답했다.

이 자연스러운 대화 뒤에는 사용자의 발화 기록, 입력 데이터, 심지어 취향까지 쌓이는 ‘기억’이 작동하고 있었다.

이처럼 챗GPT, 네이버, 카카오 등 AI 비서들은 단순 응답을 넘어, 사용자의 대화 맥락을 학습하고 기억하는 ‘기억형 AI’로 진화하고 있다.

챗GPT의 ‘메모리 기능’, 사용자가 통제할 수 있을까

오픈AI는 올해 초 챗GPT에 대화 내용을 저장하고 활용하는 ‘메모리’ 기능을 도입했다. 

이 기능은 사용자의 취향이나 프로젝트 정보를 기억해 다음 대화에 반영하는 것이 핵심이다. 예를 들어 “나는 싱거운 음식이 좋아”라고 입력하면 이후 요리 추천에서 “짜지 않은 스타일”을 먼저 제안한다.

물론 사용자는 설정에서 메모리 기능을 끄거나 ‘임시 채팅’으로 대화 저장 없이 이용할 수 있다. “이건 잊어줘”라는 명령으로 개별 정보 삭제도 가능하며, 데이터 관리 메뉴에서 열람·수정·삭제·비활성화가 자유롭다.

다만, 사용자가 인식하지 못한 채 누적된 ‘비식별 데이터’가 여전히 시스템 학습에 활용될 수 있다는 점은 우려의 여지를 남긴다.

네이버·카카오도 ‘기억형 AI’ 도입… 통제 방식은 제각각

국내 AI 비서들도 ‘기억 기능’을 속속 탑재하고 있다.

네이버의 ‘클로바 X’는 대화 내역을 비식별화한 뒤 서비스 개선 목적 등으로 최대 5년간 보관하며, 동의한 이용자만 1년간 대화 목록을 유지한다. 삭제 요청 시 즉시 파기되며, 학습용 데이터는 별도 분리 관리된다.

카카오의 AI 메이트 ‘나나’ 역시 개인 맞춤형 서비스를 위해 대화 맥락을 기억하도록 설계됐다. 현재는 베타 단계지만, 사용자 대화 기반 기억 기능이 핵심 구조다.

결국 이용자는 이제 ‘AI에 기억될 사람’이 될지 여부를 스스로 선택해야 하는 시대에 들어선 셈이다.

정부, 최초의 AI 개인정보 가이드 제정

AI의 ‘기억’이 개인정보 침해로 이어질 수 있다는 우려 속에, 정부는 지난 8월 개인정보보호위원회를 통해 ‘생성형 AI 개발·활용을 위한 개인정보 처리 안내서’를 발표했다.

안내서에는 AI 개발과 운영 전 과정에 개인정보 보호법을 적용하도록 권고하며, AI의 데이터 학습, 운영 단계별 법적 근거, 프라이버시 중심 설계 등을 상세히 안내되어 있다.

또 데이터 삭제권과 ‘머신 언러닝’(AI 학습 데이터의 제거)을 공식적으로 언급했다.

서비스 제공자는 데이터 수집 목적과 활용 범위를 명확히 밝히고, 투명한 통제 기능을 의무적으로 제공해야 한다.

이는 AI 기업이 기술 혁신뿐 아니라 ‘기억의 설계자’로서 사회적 책임을 져야 한다는 의미로 해석된다.

AI는 기억하지만, 인간은 망각한다

AI는 더 이상 단순히 ‘대답하는 기계’가 아니다. 이제 AI는 ‘듣고, 저장하고, 다시 말하는 존재’로 진화했다. 하지만 사용자가 기능을 껐다 해도 기억이 완전히 사라지는지, 삭제 요청이 AI 모델에서 근본적으로 반영되는지는 여전히 불분명하다.

인간은 망각으로 보호받지만, AI는 기억으로 성장한다. 이 간극이 새로운 기술적·윤리적 논쟁의 중심이 되고 있다.

AI의 편리함이 커질수록, ‘기억의 주체와 객체’ 사이 경계는 흐려지고 있다. 결국 디지털 시대의 핵심 과제는 AI가 얼마나 더 편리해지는가보다 ‘기억을 어떻게 통제할 것인가’가 될 것이다.

최송아 객원기자 choesonga627@gmail.com