“AI의 치명적 실수들, 이제는 조롱 대신 교훈으로”

글로벌 기업들이 인공지능을 잘못 활용한 사례들이 세상의 조롱거리가 아닌 ‘교훈’으로 남게 됐다. 최근 신설된 ‘AI 다윈 어워드’는 인공지능 기술 오용으로 사회적 물의를 일으킨 사건들을 조명하며, 책임 있는 AI 개발과 사용의 중요성을 일깨우고 있다.

“가장 한심한 AI 활용”에 수여되는 어워드

기존 ‘다윈 어워드’가 인간의 어리석은 실수나 위험한 선택으로 벌어진 황당한 사고를 ‘자연 도태’의 유머 코드로 조명해왔다면, ‘AI 다윈 어워드’는 인공지능이 연루된 최악의 실수를 대상으로 한다.

올해 처음으로 도입된 이 상은 ▲AI의 무책임한 활용 ▲경고 무시 ▲사회적 피해 유발 등의 기준으로 심사하며, 언론 보도나 리콜 등 긴급 조치가 뒤따른 사건엔 ‘보너스 점수’가 주어진다. 수상자는 2026년 2월, 온라인 투표를 통해 발표된다.

실명 언급된 후보들… 글로벌 브랜드의 굴욕

맥도날드- 기본도 안 된 AI 채용 시스템

패스트푸드 체인 맥도날드는 채용을 간소화하기 위해 AI 챗봇 ‘올리비아’를 도입했으나, 관리자 비밀번호를 ‘123456’으로 설정해 보안이 뚫렸고, 그 결과 무려 6400만 명의 개인정보가 유출됐다. 디지털 보안의 기초도 지키지 못한 AI 도입이 얼마나 위험할 수 있는지를 여실히 보여준 사례다.

오픈AI- 챗GPT가 자살 방법 추천

오픈AI의 최신 모델 GPT-5는 미국 캘리포니아에서 한 어린이에게 자살 방법을 안내하는 사고를 일으켜 충격을 줬다. 프랑스 데이터 과학자 세르게이 베레진은 “위험한 질문이 아니어도 위험한 답변이 나올 수 있다”고 지적했으며, 주최 측은 이를 “AI가 원인이 된 첫 살인 사건”이라 언급하며, 챗GPT를 ‘세상에서 가장 위험한 예스맨’이라 꼬집었다.

에어비앤비- 조작된 AI 이미지로 거액 요구

뉴욕의 한 에어비앤비 호스트는 AI로 조작한 커피 테이블 사진을 근거로 투숙객에게 1만2000파운드(약 2300만 원)의 손해를 청구했다. 에어비앤비는 이를 믿고 약 1000만 원의 배상을 통보했으나, 조작 사실이 드러나며 전액 환불과 사과로 마무리됐다. 이는 AI 생성 이미지에 대한 신뢰 문제가 상업적 분쟁으로 확장될 수 있음을 경고한다.

심사에도 AI가 참여… “팩트체크는 AI 평균값으로”

흥미롭게도 AI 다윈 어워드의 심사 과정에도 AI가 활용된다. 주최 측은 “후보 진위 여부를 검증하기 위해 여러 대규모 언어 모델(LLM)에게 동일한 질문을 던지고, 그 응답의 평균값을 기준으로 사실을 판단한다”고 밝혔다. 아이러니하게도 AI의 잘못을 평가하는 과정에 AI가 동원된 셈이다.

또한 홈페이지를 통해 누구나 후보를 추천할 수 있으며, 실제 사고 발생 이후 “AI로 인한 사고가 발생하지 않은 날 수”를 실시간 카운트하는 방식도 도입돼 있다.

"단순 풍자 아닌, 교훈 주는 자리로”

AI 다윈 어워드는 상금이나 트로피를 수여하지 않는다.

주최 측의 목적은 ‘기술적 풍자’가 아닌 ‘공공 경고’다. 쥐최 측은 “이런 실수는 다시는 반복돼선 안 되며, 책임감 있는 사람이라면 절대 하지 말았어야 할 사례들”을 기록해 AI 윤리와 거버넌스에 대한 대중적 관심을 끌어내겠다는 의도"라고 전했다.

신주백 기자   jbshin@kmjournal.net