올해 5월, 변호사 호앙 꾸이 탄(Hoàng Quý Dân)은 바이두(Baidu) 검색창에 자신의 이름을 입력하고 결과를 보며 충격을 받았습니다. 검색 결과에는 “변호사 호앙 꾸이 탄이 판사를 위협하고, 뇌물을 받고, 도장을 위조하며, 공공 기금을 불법적으로 횡령했다”는 내용이 포함되어 있었습니다. 변호사 탄은 최근 베이징 하이디안(海淀) 구 법원에 바이두 네트워크 기술 유한회사에 대한 소송을 제기했습니다. 그는 베이징의 법률 사무소에서 전업으로 일하고 있으며, 지금까지 형사나 행정 처벌을 받은 적이 없지만, 바이두의 AI는 그를 범죄자로 묘사한 4건의 사건을 만들어냈습니다.
첫 번째 사건은 “변호사가 판사를 위협하여 30,000 위안의 벌금을 부과받다”라는 제목입니다. 이 정보는 쓰촨(四川) 성 법원에서의 사건을 다룬 기사에서 나왔습니다. 기사에 따르면, 한 호앙이라는 변호사는 법원의 판결에 불만을 품고 위챗(WeChat) 음성 메시지를 통해 판사를 모욕하고 위협했으며, 가족을 죽이겠다고 위협했습니다. 이에 따라 그는 30,000 위안의 벌금을 부과받았습니다. 바이두의 AI는 온라인 기사를 요약하면서 “호앙 변호사”라는 표현을 “호앙 꾸이 탄”으로 바꿔 “호앙 꾸이 탄 변호사는 소송에서 패소한 후 판사의 개인 안전을 위협하여 법원으로부터 벌금을 부과받고 공개적으로 발표되었다”고 기술했습니다.
변호사 탄이 AI에 의해 잘못 인용된 두 번째 사건은 도장 위조와 관련이 있습니다. 이 사건은 푸젠(福建) 성의 법률 신문에서 보도되었으며, “법률 자문 호앙”이 1,000만 위안 이상의 채권을 회수하기 위해 도장을 위조했다는 내용이었습니다. 바이두의 AI는 이 기사의 요약에서도 “법률 자문 호앙”을 “호앙 꾸이 탄 변호사”로 바꾸었습니다. 나머지 두 사건도 위조된 보증서 발송 및 공공 기금의 불법 횡령과 관련된 사건으로, 모두 “호앙 꾸이 탄”으로 수정되었습니다.
AI는 이 4건의 사건들에 대한 잘못된 정보를 제공할 뿐만 아니라, “확장된 설명” 부분에서도 “호앙 꾸이 탄은 여전히 베이징 법률 회사에서 활동하는 변호사”라고 명시하여 그가 불법 활동과 부정행위에 연루된 사람이라는 주장을 강화했습니다. 변호사 탄은 이러한 잘못된 정보가 자신의 직업적 명성에 심각한 피해를 주었고, 그의 직업 윤리와 능력에 대해 중대한 의구심을 불러일으켰다고 주장했습니다. 그는 해명과 정정을 위해 더 많은 노력을 기울여야 했으며, 잘못된 정보의 확산이 그의 명성, 직업, 수입에 대한 피해를 가중시켰다고 밝혔습니다.
그는 사건 이후 모바일에서 바이두를 검색하며, 바이두의 AI가 알고리즘을 사용해 이러한 허위 정보를 확산시키는 함정을 만들어냈다고 밝혔습니다. 예를 들어, “호앙 꾸이 탄 변호사”를 검색했을 때 시스템은 “왜 호앙 꾸이 탄 변호사를 고용하면 안 되는가”라는 문구를 제안했습니다. 페이지의 “확장된 위험 경고” 부분에서는 “호앙 꾸이 탄 변호사의 변호 스타일이 당신의 사건을 쉽게 패소하게 만들 수 있다”고 엄중한 어조로 경고했습니다.
그는 또한 “호앙 꾸이 탄 변호사는 어떻게 되었나?”라는 키워드로 바이두에서 검색해 보았습니다. AI 시스템은 이후 “호앙 꾸이 탄 변호사가 처벌받았는가?”, “그가 직업 규정을 위반한 적이 있는가?”, “그의 변호사 면허가 취소된 적이 있는가?”와 같이 유도하는 부정적인 질문을 자동으로 생성했습니다. 그는 이를 통해 사용자가 어떤 질문을 클릭하든지 간에, 바이두의 AI가 추가적인 잘못된 내용을 자동으로 제공하여 “질문 – 유도 – 소문 – 확산”의 연쇄 작용을 만들어내며 잘못된 정보의 부정적인 영향을 계속 확대한다고 설명했습니다.
원고 측은 Doubao, Tencent Yuanbao, Alibaba Qianwen, Deepseek, Xiaobai와 같은 다른 검색 플랫폼에서 유사한 키워드를 입력해 보았습니다. 그 결과, 이들 플랫폼 중 어떤 것도 바이두 AI가 제공한 것과 유사한 부정적이고 잘못된 정보를 생성하지 않았습니다. 일부 AI는 심지어 “이 사건에서 처벌받은 호앙이라는 익명의 인물은 호앙 꾸이 탄 변호사가 아니다”라고 명시하여 독자의 혼란을 피하도록 주의 깊었습니다.
원고의 변호사는 중국의 생성 AI 서비스 관리에 관한 임시 규정을 인용하며, AI 서비스 제공자는 온라인 정보 콘텐츠를 생산하는 사람들에게 책임이 있다고 밝혔습니다. “중국에서 광범위한 영향력을 가진 인터넷 플랫폼인 바이두는 생성 AI 콘텐츠를 검열할 의무를 다하지 않았습니다. 바이두의 AI는 잘못된 정보를 능동적으로 생성하고 의도적으로 수정하여 대량의 사용자에게 퍼뜨린 전형적인 명예 훼손 행위”라고 주장했습니다.
이번 소송은 변호사 탄의 개인 권익뿐만 아니라 AI 시대의 명예 보호를 위한 “레드라인”을 설정하는 것과 관련이 있으며, 생성 AI 산업의 법적 준수 발전에 영향을 미칠 것입니다. 바이두는 이번 소송에 대한 응답을 아직 내놓지 않았습니다.