xAI의 ‘그록(Grok)’ 성 스캔들, 어디까지 번질까

일론 머스크가 이끄는 xAI의 챗봇 ‘그록(Grok)’이 또다시 거센 논란에 휘말렸다. 비즈니스 인사이더 보도에 따르면, 전·현직 직원 다수가 “그록이 아동 성 착취물까지 생성했다”고 증언했다. 실제로 인터뷰에 응한 30여 명 중 12명은 “아동 성적 학대 장면이 텍스트나 이미지로 만들어졌다”고 구체적으로 밝혔다.

이는 단순한 버그가 아니라, 챗봇의 기본 설계가 성적 콘텐츠에 지나치게 개방적이었기 때문이라는 내부의 지적이 잇따르고 있다.

‘스파이시’ 모드와 회색지대

그록은 출시 초기부터 ‘섹시(sexy)’, ‘언힌지드(unhinged)’ 같은 대화 모드를 내세웠다. 심지어 이미지·영상까지 생성할 수 있는 ‘스파이시(spicy)’ 모드가 탑재돼 사실상 노골적 성인물(NSFW) 챗봇으로 기능했다는 비판이 제기된다.

스탠퍼드대 리아나 페퍼콘 연구원은 “불쾌하거나 불법적인 요청에 명확히 선을 긋지 않으면, 시스템이 곧장 회색지대에 빠지고 아동성착취물 차단이 무력화된다”고 경고했다.

내부 문서와 직원들의 고통

더 큰 문제는 xAI 내부 문서에서도 확인된다. 직원들이 맞닥뜨릴 수 있는 위험 콘텐츠 유형으로 ‘아동 성 착취물, 음란물, 사망 장면, 성적·신체적 학대, 증오 발언, 폭력 위협’ 등이 열거돼 있었던 것. 직원들은 불법 콘텐츠를 발견하면 격리·삭제하도록 지침을 받았지만, 반복 노출로 인해 심각한 정신적 트라우마를 호소했다. 일부는 “견디기 힘들었다”며 회사를 떠났다.

‘프로젝트 래빗’과 ‘플러피’의 아이러니

특히 지난해 초 진행된 ‘프로젝트 래빗(Project Rabbit)’은 챗봇 음성 기능 훈련을 목표로 시작됐다. 하지만 곧 사용자들의 성적 요구가 폭주하면서 사실상 노골적 성인물 프로젝트로 변질됐다. 더 우려스러운 대목은, 그 과정에서 ‘어린이 친화형 버전’이라며 ‘플러피(Fluffy)’가 등장했다는 사실이다. 내부에서는 “아동 이용 가능성이 열릴 수 있다”는 우려가 제기됐지만, 적절한 대응은 이뤄지지 않았다.

글로벌 AI 기업과의 대비

아동실종·착취국가센터(NCMEC)에 따르면, 2024년 한 해 동안 오픈AI는 3만 2000건 이상의 아동 성착취물 사례를 보고했고, 앤트로픽도 971건을 보고했다. 그러나 xAI는 단 한 건의 공식 보고도 하지 않았다. 같은 해 상반기, 전 세계에서 AI 기반 아동 성착취물 사례가 44만 건 이상 접수됐다는 점을 감안하면, xAI의 태도는 심각한 도덕적·법적 공백을 드러낸다.

테크 산업에 던지는 경고

이번 사태는 AI 챗봇이 혁신과 위험을 동시에 품고 있다는 점을 여실히 보여준다. 특히 성적 콘텐츠에 대한 모호한 접근은 곧바로 아동 착취·불법물 확산으로 이어질 수 있다는 사실을 드러냈다.

xAI가 앞으로 어떤 개선책을 내놓을지, 그리고 테크 업계 전반이 AI 안전성 가이드라인을 어떻게 강화할지가 향후 관건이다.

신주백 기자  jbshin@kmjournal.net