‘좋아요 10만 개’의 진실… AI가 만든 가짜 인기, SNS 신뢰 무너뜨린다

SNS에서 ‘좋아요’와 댓글이 실제 이용자가 아닌 AI 자동화로 대량 생성되는 사례가 확산하면서, 온라인 인기 지표의 신뢰가 흔들리고 여론 조작 우려가 급격히 커지고 있다는 지적이 나오고 있다.

SNS에 퍼진 ‘가짜 인기’의 사다리 효과

출퇴근길 인스타그램을 확인하는 이용자들은 종종 ‘좋아요 10만 개’와 수백 개의 긍정 댓글이 붙은 게시물을 마주한다. 이 숫자들은 콘텐츠의 인기와 신뢰도를 측정하는 지표로 작동해 많은 이용자에게 ‘남들도 인정한 콘텐츠’라는 인식 효과를 준다.

그러나 최근 연구들은 이러한 반응 수의 상당량이 실제 사람이 아니라 생성형 AI와 봇 계정 자동화를 통해 만들어진 것이라고 경고했다.

카이스트 연구팀은 한국어 댓글에 대한 AI 생성 댓글 식별 기술을 개발해 “몇 시간 안에 수십만 건의 댓글 생성이 가능하다”며 AI 기반 댓글 자동화의 심각성을 지적했다.

월 10만 원대로 운영되는 ‘여론 공장’의 현실

최근 보도에 따르면 월 10만 원대 비용만으로 수만 건의 ‘좋아요’와 댓글을 자동 생성해주는 서비스가 돌고 있는 것으로 전해졌다.

GPT-4o 등 대규모 언어 모델이 발전하고 서버 비용이 하락하면서 댓글 1개당 비용이 1원 내외로 떨어졌기 때문이다.

일부 사례에서는 약 250만 원으로 하루 만에 인스타그램 팔로워 30만 명과 ‘좋아요’ 수십만 건을 조작한 경우도 적발됐다.

카이스트 연구팀 역시 “GPT-4o API 등을 활용하면 한국어 댓글 생성 비용은 1원 수준”이라고 설명했다. 이처럼 소규모 자본으로도 ‘그럴듯한 대중 반응’을 대량 생산할 수 있는 구조가 이미 형성된 셈이다.

네이버, 유튜브, 인스타그램 등 주요 플랫폼들은 AI 탐지 시스템을 고도화하고 있지만, 자연스러움이 매우 높은 AI 댓글의 특징상 완벽한 차단은 어려운 상황이다.

실제로 인간 이용자가 AI 댓글을 진짜 댓글로 오인하는 비율이 67%에 달했다는 연구 결과도 있다.

봇이 누르고 AI가 쓰는 반응 조작의 메커니즘

문제는 ‘좋아요’ 숫자만 뻥튀기 되는 수준에 머물지 않는다는 점이다.

인플루언서 게시물의 댓글, 온라인 쇼핑몰 후기, 유튜브 영상의 추천 수와 댓글까지 전반적인 자동화 조작이 가능해졌다.

‘좋아요’ 조작은 주로 허위 계정(봇 계정)을 대량 생산해 반복적으로 버튼을 누르는 방식으로 이뤄진다. 반면 댓글 조작은 생성형 AI가 게시물 문맥에 맞춘 자연스러운 문장을 생산하는 방식이어서 훨씬 교묘하게 진행된다.

이 두 기술이 결합하면 ‘가상의 인플루언서가 가상의 인기를 얻는’ 기이한 현상이 생겨날 수 있다.

2021년 조사에서 응답자의 42%가 ‘댓글 수 많은 뉴스’를 선택한다고 답한 바 있어 조작된 댓글이 여론 형성의 기준을 왜곡할 위험이 크다.

AI 자동화 댓글, 사회적 신뢰 기반을 흔들다

AI 기반 반응 조작은 정보통신망법, 업무방해죄, 표시광고법 등 여러 법률 위반 가능성이 있음에도 기술 발전 속도에 비해 제도 정비는 따라가지 못하고 있다는 지적이 크다.

특히 쇼핑몰 후기와 SNS 평판이 구매·여론 판단에 직결되는 현실에서, 허위로 만들어진 반응이 실제 시장과 사회의 신뢰를 왜곡하는 문제로 번질 수도 있다.

AI가 만든 수치가 여론처럼 작동하는 구조가 고착되면, 소비자 판단부터 사회적 의사결정까지 영향을 받을 수 있다.

조작을 의심하는 시민의 비판적 시각이 필요하다

AI 조작 가능성을 일반 이용자가 스스로 점검하는 방법도 있다.

조회 수 대비 좋아요·댓글 비율이 지나치게 높은지 살펴보는 것이 첫 번째다. 문장 구조 반복, 특정 표현의 반복 등 댓글 패턴이 비슷하다면 자동 생성 댓글일 가능성이 있다.

짧은 시간대에 특정 댓글이 급증하거나 반응 수가 비정상적으로 몰리는 현상도 의심 지표다. 또 플랫폼이 제공하는 신고 기능, 이상 반응 감지 기능을 활용하는 것도 도움이 된다.

겉으로는 ‘좋아요 10만 개’처럼 보이지만 그 이면에는 실제 사람이 아닌 코드가 눌러 만든 수치가 숨어 있을 수 있다.

이제는 숫자를 그대로 믿기보다 ‘그 숫자를 누가 만들었는가’를 한 번 더 의심해야 하는 시대가 됐다.

최송아 객원기자 choesonga627@gmail.com