오픈AI, '프라이버시 필터'로 개인정보 학습 최소화…AI 거버넌스도 강화

청소년 보호·AI 권리 안내 기능도 도입 예정

오픈AI가 개인정보 처리 최소화를 목표로 하는 ‘프라이버시 필터’ 기술을 2026년 정식 공개한다. 제이슨 권 오픈AI 최고보안책임자(CSO)는 9월 17일 서울에서 열린 글로벌 프라이버시 총회(GPA) 2025에서 이 같은 내용을 발표하며, 인공지능 학습의 ‘개인정보 비의존성’ 전략을 강조했다.

프라이버시 강화 기술로 신뢰 확보

권 CSO는 "프라이버시 필터는 모델 학습 단계에서 개인정보 개입을 줄여주는 기술로, 기존 대비 성능 저하 없이 보안성을 높일 수 있다"고 말했다. 이 기술은 개인정보 노출을 막는 동시에 모델 정밀도를 유지하는 방식으로 설계되었으며, 전 세계 개발자들이 활용 가능한 API 형태로 제공될 예정이다.

이는 최근 AI 학습 데이터와 관련된 개인정보 침해 우려가 커지는 가운데, 오픈AI가 기술적 신뢰를 확보하기 위한 전략으로 해석된다.

AI와 '프라이버시 대화' 가능해진다

오픈AI는 단순한 기술 개발을 넘어, AI와 직접 프라이버시 권리를 묻고 답하는 인터페이스도 실험 중이다. 권 CSO는 “이용자가 ‘내 데이터는 어떻게 보호되나요?’라고 질문하면, AI가 맥락에 맞는 법적 권리와 조치 방법을 알려주는 대화형 기능”이라고 설명했다.

이는 유럽 일반개인정보보호법(GDPR)이나 한국의 개인정보 보호법과 같은 제도적 장치와 사용자 간의 간극을 줄이기 위한 시도로, 향후 기업용 AI 서비스에도 포함될 것으로 보인다.

청소년 전용 GPT와 보호 기능 공개 예정

권 CSO는 18세 미만 전용 GPT 모델 출시 계획도 함께 밝혔다. 해당 모델은 부모 및 보호자가 콘텐츠 사용 범위를 설정하거나, 자녀가 위험한 키워드에 접근할 경우 실시간 알림을 받을 수 있는 기능을 탑재한다.

권 CSO는 "AI가 부적절하거나 위험 신호를 감지하면 즉시 보호자에게 알리는 방식"이라며, 청소년의 디지털 권리를 보호하기 위한 AI 감시 및 알림 체계 구축도 함께 병행 중이라고 전했다.

신주백 기자  jbshin@kmjournal.net