구글이 AI 오버뷰 기능에서 잘못된 건강 정보를 보여준 것에 대해 조치를 취했다. 이는 가디언이 조사한 결과, AI 오버뷰가 일반적인 질병과 관련된 부정확한 정보를 노출하여 일부 사용자가 영향을 받았다는 사실에 따른 것이다. 예를 들어, “정상적인 혈액 검사 범위”나 “간 기능 검사 지표, 정상 범위”와 같은 정보가 문제가 되었다. 구글의 한 대변인은 “각 개별 콘텐츠의 삭제에 대해 언급하지 않겠다. AI 오버뷰가 맥락이 부족할 경우, 우리는 전반적인 제안을 개선하려고 노력하며, 정책에 따라 필요한 조치를 취한다”고 밝혔다.
AI 오버뷰 기능은 스마트폰에서 구글 사용자에게 보여진다. 가디언은 1월 2일, 사용자 건강에 해로운 영향을 미치는 AI 오버뷰에 대한 조사 기사를 발표했다. 예를 들어, 이 AI는 췌장암 환자에게 지방이 많은 음식을 피하라고 권장하지만, 의료 전문가들은 이는 권장 사항과 정반대이며 환자의 사망 위험을 증가시킬 수 있다고 강조했다. 췌장암 지원, 연구 및 정책 옹호 단체인 팬크레아틱 캔서 UK의 안나 주얼 이사는 “췌장암 환자에게 지방이 많은 음식을 피하라고 하는 것은 완전히 잘못된 것이다”라고 말했다. “누군가 검색 결과를 따를 경우 충분한 칼로리를 섭취하지 못해 체중 증가가 어려워지고 화학요법이나 수술을 견디지 못할 수 있다.”
다른 경우에는 구글의 AI가 간 기능 검사에 대한 잘못된 정보를 제공했다. 이 AI는 여러 숫자를 제시하지만 맥락을 거의 제공하지 않으며, 환자의 국적, 성별, 인종 또는 나이를 고려하지 않는다. 이로 인해 심각한 간 질환을 앓고 있는 사람들이 자신이 건강하다고 오해할 수 있다. 브리티시 리버 트러스트의 패멜라 힐리 이사는 “많은 질병은 후기 단계까지 증상이 없기 때문에 검사가 매우 중요하다. 그러나 AI 오버뷰가 ‘정상’이라고 제시하는 것은 실제 정상과 매우 다르며, 환자들은 자신이 건강하다고 오해하고 진료를 받지 않게 된다”고 말했다. “AI의 요약은 심각한 우려를 불러일으킨다.”
구글의 반응에 대해 전문가들은 우려를 표명하고 있다. 브리티시 리버 트러스트의 언론 및 정책 담당 이사인 바네사 헤브딧치는 “구글이 AI 오버뷰에 대한 특정 결과에만 반응하는 것은 문제의 일부분만 해결하는 것에 불과하다”고 말했다. “전 세계의 수백만 성인이 여전히 신뢰할 수 있는 건강 정보를 찾는 데 어려움을 겪고 있다. 구글은 보다 전반적인 통제를 해야 한다.”
퓨처리즘에 따르면 조사 결과, 구글은 “AI 오버뷰가 건강에 대한 위험한 잘못된 정보를 퍼뜨리지 않도록 더 많은 노력이 필요하다”고 지적했다. 한편 구글 측은 AI 오버뷰가 “신뢰할 수 있는 유명한 정보 출처에 연결된다”고 주장하며, 정보 검증을 위한 의료 전문가 그룹이 있다고 밝혔다. 하지만 이 그룹의 역할에 대해서는 구체적으로 언급하지 않았다.
AI 오버뷰는 제미니의 지원으로 자동 요약 기능으로, 검색 결과 페이지 상단에 나타나 사용자의 질문에 직접 답변한다. 2024년 5월에 시험적으로 시행된 이 기능은 사용자들로부터 큰 관심을 받았지만, 잘못된 정보 제시나 유해한 웹사이트로 연결되는 우려도 있었다.
AI의 확산 속에서 점점 더 많은 사용자가 건강을 포함한 다양한 분야에 대한 질문을 위해 도구를 이용하고 있다. 펜실베이니아 대학교 앤넬버그 공공정책 센터의 2025년 4월 조사에 따르면, 성인 10명 중 8명은 “증상 및 건강 상태에 대한 정보를 온라인에서 검색했다”고 응답했다. 그들 중 약 2/3는 AI가 생성한 결과를 “어느 정도 신뢰할 수 있거나 매우 신뢰할 수 있다”고 느꼈다.
MIT의 지난해 연구에 따르면, AI의 정확도가 낮은 콘텐츠에 대해서도 많은 사람들이 이를 “유효하고 적절하다”고 여기고 있었다. 심지어 일부는 AI의 의료 조언을 따르려는 경향이 있어, AI의 피드백을 읽은 후 불필요한 의료 서비스를 찾기도 했다.
전문가들은 잘못된 인식을 없애고 사람들이 “AI에 의해 잘못된 방향으로 이끌리지 않도록” 노력하고 있다. 캐나다 의학회는 AI가 제공하는 건강 조언이 “위험할 수 있으며, 이를 따를 경우 건강에 해를 끼칠 수 있다”고 평가했다. 다른 전문가들은 사용자가 인터넷에서 정보를 찾고 스스로 판단하기보다 면허가 있는 의사와 전문가의 의견을 참조해야 한다고 강조하고 있다.