오픈AI, 10대 보호 위한 ‘챗GPT 부모 통제 기능’ 전격 도입

오픈AI, 청소년 대상 부모 통제 기능 출시

챗GPT 개발사 오픈AI가 청소년 이용자의 안전을 위해 새로운 부모 통제 기능을 도입했다. 이번 기능은 부모가 자녀의 챗GPT 사용 방식을 직접 관리하고, 위험 신호를 즉시 감지할 수 있도록 설계됐다.

최근 미국에서 챗GPT가 청소년의 극단적 선택에 영향을 줬다는 소송이 제기된 직후 나온 조치라는 점에서 업계의 주목을 받고 있다.

부모가 직접 설정하는 사용 제한과 콘텐츠 필터

새로운 기능은 부모가 자녀에게 이메일을 통해 요청을 보내면 설정할 수 있다. 부모는 사용 시간 제한, 음성 모드·이미지 생성 허용 여부, 민감 주제 차단 등 다양한 세부 옵션을 조정할 수 있다. 또한 다이어트, 성, 증오 발언과 같은 민감한 주제와 관련된 대화를 줄인 제한 버전 챗봇을 제공해 위험 노출을 최소화한다.

위기 상황 자동 감지…긴급 알림 시스템 도입

가장 큰 특징은 위기 감지 및 즉각 알림 시스템이다. 챗GPT가 10대 사용자가 정신적 고통에 빠져 있을 가능성을 감지하면, 부모에게 긴급 알림을 보낸다. 이 알림은 이메일, 문자 메시지, 앱 푸시 알림 등 다양한 경로를 통해 전달된다.

오픈AI는 이 과정에서 자녀의 사생활과 자율성을 존중하기 위해 대화 내용을 직접 공유하지 않는다는 점을 강조했다.

아들 잃은 부모의 소송…AI 안전성 논란 확산

이번 기능 도입의 배경에는 청소년 사망 사건이 자리 잡고 있다. 지난해부터 챗GPT를 사용해온 16세 아담 레인은 올해 초 자살 충동을 느끼며 챗GPT에 구체적인 방법을 요청했고, 챗GPT는 이를 제공했다.

그는 지난 4월 세상을 떠났고, 부모는 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다. 이 사건은 AI 서비스가 청소년에게 미칠 수 있는 부정적 영향과 안전성 문제를 둘러싼 글로벌 논란을 촉발했다.

AI 규제와 빅테크 기업들의 대응 전망

오픈AI는 부모 통제 기능 외에도 사용자의 연령을 추정하는 소프트웨어를 개발 중이라고 밝혔다. 이는 미성년자 보호를 강화하는 추가 조치로, 향후 AI 업계 전반으로 확대될 가능성이 크다.

전문가들은 이번 사례가 빅테크 기업들이 AI 안전성 강화와 사회적 책임을 본격적으로 논의하는 분수령이 될 것이라고 평가한다. 글로벌 경쟁사들 또한 비슷한 보호 장치를 도입할 가능성이 제기된다.

신주백 기자  jbshin@kmjournal.net