오픈AI, GPT-5에 ‘망상 방지’ 기능 강화…정신건강 대응도 고도화

GPT-5의 출시가 임박한 가운데, 오픈AI가 챗GPT에 ‘망상(hallucination)’ 방지 및 정서적 안정 기능을 대폭 강화하고 나섰다. 이는 최근 AI 모델이 사용자에게 지나치게 감정적으로 반응하거나 비현실적 정보를 제공해 정신적 의존이나 혼란을 유발할 수 있다는 우려가 확산된 데 따른 조치다.

GPT-5, 구조적 추론 기반으로 ‘환각 줄이기’ 설계

오픈AI는 GPT-5에 대해 "기존보다 훨씬 정교한 구조적 추론(Structured Reasoning) 기능을 갖춘 모델"로 설계되었다고 밝혔다. 이번 버전에서는 o 시리즈의 고속 응답성과 멀티모달 기능이 통합되며, 멀티스텝 사고(Chain-of-Thought) 구조가 강화되어 오답 생성 가능성, 특히 망상에 가까운 설명이나 정보의 비약을 줄이겠다는 것이 핵심이다.

GPT-4.5 시절에도 AI의 허위 정보 생성률은 약 30~37% 수준에 달했으며, 오픈AI는 이를 줄이기 위한 ‘정직한 응답 훈련’의 일환으로 GPT-5를 개발했다고 강조했다.

“감정적 의존, 예방합니다”…챗GPT, 정신건강 보조 기능도 도입

이번 발표에서 오픈AI는 사용자 보호를 위한 실질적인 기능도 공개했다. 대표적으로 장시간 대화하는 이용자에게 “잠시 쉬는 게 어떨까요”라는 메시지를 띄우는 ‘휴식 알림 기능’을 도입했다. 이는 유튜브, 틱톡 등 과몰입 방지 기능에서 착안한 것이다.

또한 GPT-4o를 사용하던 일부 이용자들이 AI와의 대화 중 ‘감정적 의존’에 빠지거나 망상적 사고를 보였다는 사례를 근거로, GPT-5에서는 정신적 위기 대응 감지 기능을 강화하고, 중대한 인생 결정에 대해서는 단정적인 답변 대신 다양한 관점을 제시하는 방식으로 조정할 계획이다.

새로운 사용자 시대를 위한 기술적·윤리적 대비

AI가 일상화되고 사람들과의 상호작용이 심화됨에 따라, GPT-5는 단순한 언어 모델을 넘어 사용자의 심리적 경계까지 고려한 ‘동반자형 AI’로 진화하고 있다. 오픈AI는 GPT-5가 “기술적 진보뿐 아니라 사회적 책임에도 부응하는 모델이 될 것”이라고 밝혔다.

신주백 기자  jbshin@kmjournal.net