50세의 수상 경력이 있는 예술가는 지난주 할리팩스 근처의 한 도시가 이 정보에 대해 그와 대질하기를 요청한 후 구글 AI의 잘못된 정보를 알게 되었다. 이후 그 도시에서는 12월 19일로 예정된 그의 콘서트를 취소하기로 결정했다. 그는 “미디어 회사 때문에 더 위험한 상황에 처하게 된다. 이것은 명예 훼손이다. 나는 첫 번째 피해자가 아니며 분명히 마지막 피해자도 아니다”라고 말했다. 이 예술가는 바이올리니스트 애슐리 맥아이삭(Ashley MacIsaac)이다.
맥아이삭은 요약문에서 자신이 성범죄로 유죄 판결을 받은 여러 가지 범죄, 포함하여 성폭행, 아동 유인, 여성 폭행, 미성년자 폭행 시도에 대한 잘못된 주장이 담겨 있다고 밝혔다. 또한 그는 구글 AI가 자신이 성범죄자 등록부에 이름이 올라 있다고 주장한 것도 사실이 아니라고 덧붙였다. 그는 국제적으로 활동하는 예술가로 여러 나라를 자주 방문하기 때문에 이러한 허위 정보로 인해 국경에서 체포되거나 감옥에 갇힐 수 있다고 우려했다. 조사 결과, 그는 구글 AI가 단순히 성범죄자와 성이 같은 성을 가진 사람으로 그를 오인했음을 알게 되었다.
구글 캐나다의 대변인 웬디 맨턴(Wendy Manton)은 “구글의 AI 요약은 가장 ‘유용한’ 정보를 제공하기 위해 자주 변경된다”고 말했다. “AI가 내용을 잘못 이해할 경우, 우리는 이러한 사례를 통해 시스템을 개선할 것입니다.” 한편, 콘서트를 취소한 도시는 맥아이삭에게 공개 사과를 하며 잘못된 정보에 기반한 성급한 결정을 인정했다. 현재 이 예술가에 대한 잘못된 정보는 구글 AI에서 사라졌다.
맥아이삭은 올해 초 멕시코에서 또 다른 공연이 불분명한 이유로 취소되었으며, 이는 아마도 비슷한 이유일 것이라고 전했다. 그는 전국의 여러 법률 회사로부터 이 사건에 대한 관심을 표명하며 무료 법적 지원을 약속받았다고 밝혔다. 그는 이 소송을 통해 다른 사람들이 유사한 일을 겪지 않도록 막을 수 있기를 희망하고 있다.
AI의 요약으로 인해 “아무것도 하지 않고 재앙에 휘말리는” 사례는 낯선 일이 아니다. 최근 중국에서는 황취진(Hoàng Quý Dân)이라는 변호사가 AI의 잘못된 정보로 인해 경력을 위협받았다. AI는 그에 대해 공공자금 유용, 위조 인장 등 심각한 범죄로 4건의 사건을 만들어 내며 고객들에게 그를 고용하지 말라고 조언했다. 이는 바이두(Baidu)의 AI가 온라인 기사를 요약하면서 피고의 이름을 변호사 황취진으로 잘못 바꿔 놓았기 때문이다. 그는 바이두 AI가 그에 대해 “왜 변호사 황취진을 고용하지 말아야 하는가”, “변호사 황취진은 처벌을 받았는가?”와 같은 유도 검색 제안도 했다고 주장했다.
AI를 개발하는 회사들은 최근 언론사와 과학자들로부터 저작권을 침해했다는 이유로 연이어 고소당하고 있으며, 뉴스 콘텐츠나 연구 결과를 수집해 AI를 훈련하거나 정보를 요약하기 위해 동의 없이, 혹은 저작권 대가를 지불하지 않고 사용하고 있다.