[GPA 2025 서울 리포트] AI 시대, 빅테크는 어떻게 프라이버시를 지킬 것인가

서울에서 열린 제47차 글로벌프라이버시총회(GPA)는 단순한 정책 포럼이 아니었다. 개인정보 보호를 둘러싼 기술적·윤리적 전선이 급속히 확대되는 가운데, 전 세계 빅테크 기업들이 직접 계획과 실행을 밝히며 본격적인 ‘프라이버시 OS 재설계’에 나섰다.

구글, 마이크로소프트, 메타, 오픈AI, 네이버는 인공지능(AI) 시대의 개인정보 위협에 대응하기 위한 자사의 전략을 공개하고, 프라이버시를 ‘옵션’이 아닌 ‘인프라’로 삼겠다는 공통 메시지를 내놓았다.

구글, 프라이버시는 ‘디폴트 기능’이어야 한다

구글은 생성형 AI 플랫폼 'Vertex AI'의 안전 기능을 대대적으로 소개하며, 프라이버시 보호를 사용자 선택이 아닌 기본값(default)으로 설정하겠다는 방향성을 강조했다. 구체적으로는 민감정보를 탐지·차단하는 DLP(Data Loss Prevention) 기능과 콘텐츠 안전성을 평가하는 내부 툴킷을 공개했으며, 이를 통해 개발자들이 생성형 AI의 위험요소를 모델 개발 단계에서부터 선제적으로 관리할 수 있도록 지원한다고 밝혔다. GPA 사전 행사로는 별도의 ‘AI & 프라이버시’ 워크숍도 개최해, 기업과 감독기구 간의 실질적 협력 가능성을 높였다.

마이크로소프트, 운영단계에서 ‘프라이버시 실드’ 적용

마이크로소프트는 AI가 사용자 데이터를 학습하거나 출력할 때 발생할 수 있는 프라이버시 리스크를 운영 시스템 단계에서 차단하는 기술 전략을 제시했다. ‘Azure AI Foundry’ 기반의 프롬프트 실드(Prompt Shield)와 모델 라우터(Model Router)는 민감한 질문이나 악성 프롬프트 시도를 사전에 탐지하고, AI의 응답 경로를 유연하게 조절할 수 있는 기능이다. 이와 함께 CIPL(정보정책리더십센터)과의 공동 포럼을 통해, 민감정보 처리에 대한 글로벌 규범 확산 필요성을 제기하며 ‘기술 내장형 규제’ 모델을 실현하겠다고 밝혔다.

메타, 오픈소스로 AI ‘탈옥’ 막는다

메타는 AI 안전성에 대한 자사의 접근법을 오픈소스화하는 방향으로 선회했다. 이번 총회에서는 프롬프트 인젝션과 유해 콘텐츠 생성을 막는 라마 가드 2.0과 프롬프트 가드(Prompt Guard)를 발표하며, 개발자 누구나 안전 모델을 수정·적용할 수 있도록 API와 코드 저장소를 함께 공개했다. 메타 측은 "안전한 오픈소스가 기술 생태계 전반의 신뢰도를 높이는 핵심"이라며, 특히 한국어 환경에서도 적용 가능한 버전을 지속 개선 중이라고 밝혔다. 이는 국내 스타트업이나 중견 IT 기업들의 기술 내재화를 유도할 수 있는 출발점이 될 것으로 보인다.

오픈AI, 데이터 보존과 삭제의 균형 선언

오픈AI는 최근 미국 법원의 보존 명령 이슈 속에서도, API 기반 기업고객·교육기관·ZDR(Zero Data Retention) 사용자에 대해서는 개인정보 비보존 원칙을 계속 유지하겠다고 밝혔다. 이들은 데이터 학습에 활용하지 않고, 30일 보존을 넘기지 않으며, 경우에 따라 대화 내용 삭제 후 즉시 소멸 처리도 가능하도록 설계하고 있다고 강조했다. 단, 일반 사용자에 대해서는 법적 보존 의무를 이행하기 위한 별도 조치를 취하고 있어, 향후 데이터 보존의 국제 기준 정립 논의가 필요한 시점이다.

네이버, AI 안전성 프레임워크 ‘ASF’ 전면 공개

국내 기업 중에서는 네이버가 가장 선도적으로 나섰다. 이번 총회에서 네이버는 자사 AI 거버넌스 구조인 AI Safety Framework(ASF)를 처음으로 대외 공개하고, 대형 언어모델 ‘하이퍼클로바 X’의 안전성 확보 절차를 리포트 형태로 설명했다. 이 프레임워크는 AI 기획·학습·검증·서비스화까지 전 단계에 걸쳐 레드팀 실험, 위험 요소 튜닝, 거부 샘플링 등 기술적 필터링 체계를 구축하고 있다. 이는 향후 글로벌 기술 파트너십에서 한국형 AI 신뢰 모델로 기능할 가능성이 크다는 평가다.

GPA 서울, 왜 중요한가

서울에서 열린 이번 GPA는 단순한 연례 총회를 넘어, AI 시대의 국제 개인정보 거버넌스 체계를 논의하는 시작점으로 평가받는다. 특히 이번 총회는 ‘에이전트 AI’ 시대 도래를 전제로, 국경을 초월한 데이터 이동과 규제 불균형 문제, 그리고 아동·청소년 프라이버시 등 민감 영역에 대한 다층적 대응 전략이 본격적으로 논의된 자리였다.

고학수 개인정보보호위원장은 “한국은 이번 GPA 서울을 계기로 국제 규범과 산업 협력 사이의 가교 역할을 적극 수행하겠다”고 강조했다.

신주백 기자 jbshin@kmjournal.net