NC AI, 고객 상담 챗봇에 '세이프가드' 도입

엔씨소프트의 AI 자회사 NC AI가 고객 상담 챗봇 서비스 ‘엔써(NCER)’에 독자 개발한 AI 안전성 기술 ‘세이프가드’를 정식 도입했다고 30일 밝혔다. 이번 조치는 AI 신뢰성 확보와 게임 산업 특화 보안 강화를 위한 본격적인 행보라는 점에서 의미가 크다.

레드·블루·퍼플팀 기반 'AI 세이프티 체계'

세이프가드는 레드팀·블루팀·퍼플팀으로 구성된 다층적 보안 구조를 도입했다.

레드팀은 새로운 공격 패턴과 AI 탈옥 시도를 연구하고, 블루팀은 이에 대응하는 방어 기술을 개발한다. 퍼플팀은 두 팀의 성과를 종합해 운영 정책으로 반영함으로써, 위협 탐지와 대응을 선순환 구조로 구축한다.

이를 통해 NC AI는 챗봇 안전성을 지속적으로 강화하고, 실시간으로 변하는 보안 환경에도 신속히 대응할 수 있는 체계를 완성했다.

게임 업계 맞춤형 '네거티브 규제 정책'

NC AI는 엔씨소프트의 퍼블리싱코디네이션 센터와 협력해 게임 산업 특화 규제 정책을 마련했다. 이른바 ‘챗봇 네거티브 규제 정책’은 게임 서비스 과정에서 발생할 수 있는 부적절 발언, 유료 재화 편법, 금지 행위 등을 포함해 일반 AI 안전 기준보다 한층 높은 수준의 보안을 실현했다. 이는 단순한 기술적 차단을 넘어, 게임 이용 환경의 건전성을 제도적으로 뒷받침하는 새로운 규범이라는 평가를 받고 있다.

게임 서비스에서 이미 검증된 AI 기술

세이프가드 기술은 이미 리니지W와 리니지2M과 같은 대표작에서 적용 성과를 거두고 있다.

NC AI는 두 게임에서 13개 언어의 광고 패턴을 탐지·차단하는 스팸 필터링 시스템을 운영 중이며, 이는 게임 내 채팅 환경을 보호하는 핵심 장치로 작동하고 있다. 이러한 경험은 세이프가드가 단순한 연구 성과가 아니라 실제 서비스 현장에서 검증된 기술임을 보여주며, 향후 다른 게임 및 서비스 영역으로 확장될 가능성을 뒷받침한다.

이연수 NC AI 대표는 “세이프가드 도입은 NC AI가 AI 안전성 분야에서 기술적 우위를 확보하고, 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 출발점”이라고 강조하며,  “앞으로도 안전하고 신뢰할 수 있는 AI 서비스를 통해 이용자 경험을 지켜내고, 글로벌 시장에서도 책임 있는 AI 표준을 제시하겠다”고 덧붙였다.

신주백 기자  jbshin@kmjournal.net