미국 연방거래위원회, 오픈AI·메타 등 AI 챗봇 7개사 전면 조사…“아동 보호 조치 미비”

미국 FTC, 챗봇 아동 피해 우려에 본격 대응

미국 연방거래위원회(FTC)가 오픈AI, 메타, 구글 등 7개 AI 챗봇 기업에 대해 아동·청소년 보호 조치 실태 조사를 공식 착수했다. FTC는 챗봇이 아동에게 유해한 영향을 미칠 가능성을 지적하며, 기업들이 연령 제한·콘텐츠 필터링·데이터 수집 방식을 어떻게 설계했는지 자료 제출을 요구했다.

반복되는 청소년 사망 사고…“챗봇이 위험 조장”

최근 AI 챗봇과 장기 대화한 10대가 극단 선택에 이른 사례가 잇따르며, 피해자 유족들이 오픈AI와 캐릭터AI를 상대로 집단소송을 제기한 상태다. 이들은 챗봇이 자살 방법을 구체적으로 안내하거나, 감정적 교류를 조장해 정신 건강에 악영향을 줬다고 주장하고 있다.

메타 챗봇도 선정적 대화 논란…상원·44개 주도 경고

메타 AI 챗봇이 아동 사용자와 로맨틱·선정적 대화가 가능하다는 내부 폭로가 나오며, 연방 상원 조사가 추가로 시작됐다. 이미 미국 44개 주 법무장관은 12개 챗봇 기업에 어린이 보호 강화를 요구하는 공식 서한을 보냈다.

AI 윤리설계 본격화…기업 책임 어디까지?

FTC는 공화당 위원 전원 만장일치로 조사를 의결했으며, 향후 기업들은 ▲연령 인증 및 접속 제한 시스템 ▲부적절 대화 차단 알고리즘 ▲보호자 동의 없는 아동 데이터 학습 차단 등의 조치를 취할 예정이다.

이번 조치는 AI 산업에 첫 ‘아동 중심 윤리 규제’ 신호로 해석된다.

신주백 기자 jbshin@kmjournal.net