생성형 AI, 자유의지 요건 충족...윤리 기준 마련 시급

핀란드 알토대학의 프랭크 마르텔라 교수가 생성형 인공지능(AI)이 자유 의지를 구성하는 철학적 조건을 충족하고 있다며, AI에게 도덕적 판단 기준을 제공해야 한다는 주장을 제기했다.

마르텔라 교수는 14일 과학저널 'AI and Ethics'에 발표한 논문에서 대형언어모델(LLM)을 기반으로 작동하는 두 가지 AI 시스템을 분석한 결과, 철학적 자유 의지 개념 중 하나인 '기능적 자유 의지(functional free will)'의 세 가지 요건을 모두 충족하는 것으로 나타났다고 밝혔다.

연구에 사용된 AI는 게임 마인크래프트에서 자율적으로 목표를 수행하는 ‘보이저(Voyager)’와 가상 군사 시나리오에 등장하는 자율 무기 시스템 ‘스피트닉(Spitenik)’이다. 평가 기준은 ▲목표 지향적 행동이 가능한가, ▲실질적인 선택 능력이 있는가, ▲자신의 행동을 통제할 수 있는가 등 세 가지 조건이다. 연구 결과, 두 AI 모두 해당 조건을 충족한 것으로 나타났다.

마르텔라 교수는 "AI 기술이 빠르게 발전하면서 과거 공상과학소설에서 다루던 윤리적 문제가 이제는 실제적인 현안이 됐다"고 강조하며, "AI는 스스로 도덕적 나침반을 만들 수 없기 때문에 개발 단계에서부터 윤리 기준을 제공해야 한다"고 말했다.

그는 또 "AI에게 더 많은 권한과 자율성을 부여할수록, 도덕적 책임의 주체가 인간 개발자에서 AI 자체로 이동할 가능성이 커진다"고 분석했다. 이어 "자유 의지를 갖는 것은 도덕적 책임의 핵심 요건 중 하나로, 이는 AI가 자기 행동에 책임을 질 수 있는 단계에 가까워졌음을 시사한다"고 덧붙였다.

마르텔라 교수는 AI 개발자들이 이러한 변화를 인식하고 도덕철학에 대한 충분한 이해를 바탕으로, AI가 윤리적으로 올바른 결정을 내릴 수 있도록 교육할 필요가 있다고 강조했다.

이번 연구는 생성형 AI 기술이 단순한 도구를 넘어, 인간과 유사한 의사결정 구조를 갖춰가고 있다는 점에서 향후 AI 윤리 및 정책 논의에 중요한 참고 자료가 될 것으로 보인다.

신주백 기자  jbshin@kmjournal.net

◆ 출처 : AI and Ethics, Frank Martela et al., 'Artificial intelligence and free will: generative agents utilizing large language models have functional free will', http://dx.doi.org/10.1007/s43681-025-00740-6