런던 타임스에 따르면, 우버 이츠(Uber Eats), 딜리버루(Deliveroo), 저스트 이트(Just Eat)와 같은 여러 음식점과 배달 앱이 “AI를 이용한 사기의 급증”을 보고하고 있다. 이들은 평가 정책을 악용해 음식을 촬영한 후 AI로 조작하여 덜 익은 모습이나 이상한 물체 또는 결함이 있는 것처럼 보이게 만들어 무료 식사나 환불을 받으려 한다. NYPost의 보도에 따르면, 많은 사람들이 자신의 속임수를 소셜 미디어에 “공유”하는 것을 주저하지 않고 있다. “나는 사진을 수정해 DoorDash에서 환불을 받았다”라고 King Sukuna라는 이름의 한 사용자가 X에 올린 “생고기가 들어있는” 햄버거 사진과 함께 이야기했다. 이 게시물은 현재 110만 회 이상의 조회수를 기록하고 있다. 한 사용자는 “생고기가 들어있는” 햄버거 사진(왼쪽)과 실제 사진을 비교하여 공개했다.
다른 Threads 게시물에서 thomascoretv라는 계정은 AI를 사용하여 덜 익은 치킨 다리를 만드는 방법을 안내하기도 했다. 이 사용자는 배달 서비스에 이 이미지를 보내고 “불편을 드려 죄송하다”는 사과를 받으며 26.6달러를 환불받았다. 그러나 이러한 게시물은 빠르게 비판을 받았다. “이건 전혀 웃기지 않다”라는 댓글이 달렸고, “이런 행동을 하는 사람은 감옥에 가길 바란다”라는 의견이 나오기도 했다.
전문가들은 음식 사진의 조작, 예를 들어 녹아내린 케이크나 케이크 위에 파리를 합성하는 것 등이 AI의 놀라운 능력을 보여준다며, 이는 신뢰성 있는 증거를 생성할 수 있는 능력이 있다고 말했다. 그러나 모델들이 점점 더 사실과 유사한 이미지와 비디오를 생성할 수 있는 능력을 갖추면서, 음식점과 배달 서비스는 피해를 입을 수 있지만 개별 사건에 대한 증명이나 처리가 어려운 상황에 직면하고 있다.
전문가들은 이러한 추세가 “오래전부터 존재해온 소매 사기의 현대화된 버전”이라고 평가하며, 점점 더 정교해지는 AI가 신뢰성 있는 이미지 증거를 생성할 수 있는 가능성을 높이고 있다고 주장하고 있다. 브라운 제이콥슨(Browne Jacobson) 법률회사 소매 및 공급망 분석 부서장 캐롤라인 그린(Caroline Green)은 “도구들이 점점 더 정교해지면서 악당들이 왜곡하여 사기를 치는 것이 용이해졌다”라고 말했다. “실패하더라도 이는 범죄로 간주될 수 있다.”
AI가 “파리”를 추가한 케이크 사진. 사진: Facebook/Nini’s Kitchen
브라운 제이콥슨의 AI 전문 변호사 사라 레이노(Saara Leino)는 점점 더 많은 기업, 특히 음식점이나 식품 상점이 고객이 AI를 사용하여 “진짜처럼 보이지만 비진실한 이미지를 생성”하는 사례를 보고하고 있다고 밝혔다. 동시에 이들은 배달 플랫폼이 종종 고객 편에서 자동으로 환불을 진행하여 철저한 조사를 하지 않고, 그 비용이 사업체로 다시 전가된다고 불만을 토로하고 있다.
“AI 사기 탐지 도구는 실제로 신뢰할 수 없고 비쌉니다”라고 레이노는 말했다. “따라서 그들은 고객과의 논쟁이나 법적 절차를 피하기 위해 조용히 있는 것을 선택하는 경우가 많다.” 몇몇 소매업체는 고객이 영향을 받은 제품을 촬영하여 증거를 제공하도록 요구하는 방안을 고려하고 있지만, 이는 불필요한 비용을 초래할 수 있으며, 충성 고객을 잃을 위험도 있다.
바오람 (출처: 런던 타임스, NYPost)