‘성범죄자’로 잘못 표기한 구글… 150만달러 민사소송 휩싸여 췌장암 환자에게 엉터리 식단 추천한 AI, 알고 보니 ‘유튜브’가 출처 캐나다의 한 음악가가 구글을 상대로 거액의 민사소송을 제기했다. 최근 구글이 제공하는 'AI 개요(AI Overview)'가 자신을 성범죄자로 지목하는 허위 정보를 생성했기 때문이다. AI 개요는 구글에 검색어를 입력하면 최상단에 자동으로 제공되는 AI 기반 정보 요약 서비스로 2024년 5월 미국을 시작으로 같은 해 12월 한국에도 공식 도입됐다. 문제는 AI 개요가 제공하는 정보 중 오류나 환각(Hallucination) 현상이 적지 않다는 점이다. 이로 인해 일부 이용자들이 불편을 겪거나 명예훼손 피해를 호소하는 등 각종 부작용이 속출하고 있으나 구글은 구체적인 대응책을 내놓는 대신 "개선하고 있다"는 입장만 되풀이하고 있다. 사진=셔터스톡 AI 개요에 성범죄자로 표기… "사회적 매장" 위기5일(현지시간) 영국 가디언에 따르면 캐나다 출신 음악가 애슐리 매카이작(Ashley MacIsaac)이 구글을 상대로 150만달러의 손해배상을 청구했다. 구글이 제공하는 AI 개요에 자신이 성범죄자로 허위 기재돼 명예가 훼손됐으며 이로 인해 콘서트까지 취소됐다는 이유에서다. 매카이작이 이번 사건을 공론화하기 전까지 구글에서 그의 이름을 검색하면 AI로 생성된 개요에 '성폭행, 신체적 상해를 유발한 폭행 등 여러 형사 범죄로 유죄 판결을 받았다'는 허위 정보가 표기돼 있었다. 심지어 국가 성범죄자 명부에 영구 등록됐다는 내용까지 담긴 것으로 알려졌다. 매카이작이 이러한 사실을 알게 된 것은 지난해 12월 19일로 예정된 콘서트가 돌연 취소됐을 때다. 당시 공연을 예매한 사람들은 구글 AI 개요를 통해 그가 성범죄자라는 내용을 확인하고 주최 측에 불만을 제기했으며 결과적으로 콘서트가 취소됐다는 설명이다. 주최 측은 추후 매카이작에게 공개 사과를 하며 "이번 공연 취소 결정은 구글 AI 개요의 잘못된 정보에 근거했으며, 귀하와 무관한 범죄를 잘못 연결했다"며 "이로 인해 귀하의 명성과 생계에 피해를 끼친 점을 깊이 후회한다"고 밝혔다. 다만 주최 측은 사과문 외에 별다른 조치는 취하지 않은 것으로 알려졌다. "구글, 알면서도 방치했다" 주장 매카이작은 온타리오 상급 법원에 소장을 제출하며 "구글이 자사의 AI 개요 기능의 '예견 가능한 재배포(Foreseeable republication)'에 대해 책임이 있다"고 주장했다. 그는 구글은 AI 개요에 사실이 아닌 것을 사실처럼 말하는 AI 환각 현상이 있다는 것을 이미 알고 있었으며, 이러한 정보를 사람들이 재배포할 가능성에 대해서도 인지하고 있는 상황에서 이를 방치한 것에 대해 책임이 있다고 봤기 때문이다. 매카이작은 구글에 일반 손해배상금 50만달러, 가중 손해배상금 50만달러, 징벌적 손해배상금 50만달러를 청구했다. 매카이작이 제출한 소장에는 "AI 개요의 제작자이자 운영자로서 구글은 AI 개요의 결함으로 인해 발생하는 명예훼손과 손실 등에 책임이 있다"며 "구글은 AI 개요가 불완전하며 사실이 아닌 정보를 제공할 수 있다는 것을 알았거나 알았어야 했다"는 내용이 포함됐다. AI라고 해서 책임이 경감돼서는 안 된다는 주장도 포함됐다. 소장에는 "만약 구글의 대변인이 이러한 허위 주장을 했다면 상당한 액수의 징벌적 손해배상이 보장됐을 것"이라며 "명예훼손적 진술이 AI에 의해 개시됐다고 해서 구글의 책임이 경감돼서는 안 된다"고 적혀 있다. 매카이작은 이번 사건이 사회적인 매장으로 이어질 것을 우려하고 있다고 밝혔다. 그는 지난 4일(현지시간) 캐나다 프레스와의 인터뷰에서 "무대에 오르는 것에 두려움을 느낀다"며 "이 일이 언제까지 계속될지 모르겠다"고 했다. 그러면서 "구글이 연락을 취하거나 사과를 한 적도 없다"고 했다. 구글은 개인적인 연락을 취하는 대신 공개적인 입장 표명을 내놨다. 지난해 12월 매카이작이 언론과 인터뷰를 시작했을 때 구글 대변인은 "AI 개요는 가장 유용한 정보를 보여주기 위해 자주 개선되고 있다"며 "AI 개요 기능이 정보를 잘못 해석하거나 맥락을 놓치는 등의 문제가 발생하면 시스템을 개선하고 정책에 따라 조치를 취할 수 있다"고 말했다. 다만 매카이작의 피해에 대한 조치나 그의 정보와 관련해 AI 환각 현상이 나타난 이유에 대해서는 구체적으로 언급하지 않았다. 사진=셔터스톡 명예훼손 넘어 생명의 위협으로… '환자 잡는 AI'구글의 AI 개요 기능으로 인한 피해는 명예훼손에 국한되지 않는 것으로 드러났다. 특히 의료 분야 전문가들이 AI 개요의 심각성에 대해 목소리를 높였다. 지난해 11월 환자정보포럼(Patient Information Forum)의 소피 랜달(Sophie Randall) 디렉터는 "구글의 AI 개요가 부정확한 건강 정보를 온라인 검색 상단에 올려 사람들의 건강에 위험을 초래할 수 있다"고 말했다. 임종 자선 단체 마리 퀴리(Marie Curie)의 스테파니 파커(Stephanie Parker)는 "사람들은 걱정과 위기의 순간에 인터넷을 찾는다"며 "만약 이 정보가 부정확하거나 맥락을 벗어날 경우 건강에 심각한 해를 끼칠 수 있다"고 했다. 일부 전문가들은 실제로 AI 개요를 직접 테스트한 결과 심각한 오류를 발견하고 이를 강하게 비판했다. 안나 주웰(Anna Jewell) 췌장암 전문가는 "구글 AI 개요는 췌장암 환자들에게 고지방 음식을 피하라고 제안하며 추천 음식 목록을 제시하는데 이대로 섭취하면 충분한 칼로리를 섭취하지 못하고 치료나 수술을 견디지 못할 수도 있다"고 경고했다. 영국 간 트러스트(British Liver Trust)의 최고 경영자 파멜라 힐리(Pamela Healy)도 AI 개요의 문제점을 꼬집었다. 그는 "간 혈액 검사의 정상 범위가 얼마인지 물어보면 AI 개요가 답변을 제공하는데 여기에는 성별, 인종, 나이가 전혀 고려되지 않았다"며 "심각한 간 질환을 앓고 있는 사람들이 정상적인 결과를 받았다고 생각하고 검사를 받지 않을 수 있기 때문에 위험하다"고 말했다. AI 개요가 가장 많이 인용하는 출처는 '유튜브' 일각에서는 출처의 신뢰성이 낮은 것이 AI 개요 환각의 원인 중 하나라는 주장이 나온다. 한 연구에서는 AI 개요의 건강 관련 정보 중 상당수가 공신력 있는 기관이 아닌 유튜브를 기반으로 한다는 사실을 발견했다. 웹사이트 기술, 검색 엔진 등을 조사하는 SE 랭킹(SE Ranking)은 AI 개요와 관련해 건강 관련 검색어 5만건 이상을 분석했다. 그 결과 46만5823건 인용 중 가장 많이 언급된 도메인은 유튜브다. 총 2만621건으로 전체의 4.43%를 차지한다. 병원 네트워크, 정부 보건 포털, 의료 학회, 학술 기관 등 단일 출처 중 가장 높은 수치다. 사진=셔터스톡 구글, AI 개요 왜 밀어붙이는가구글의 AI 개요는 2024년 5월 구글 연례 개발자 컨퍼런스에서 처음 공개됐다. 당시 업계에서는 이를 두고 "25년 만에 구글 검색 서비스에 일어난 가장 큰 변화"라고 평가했다. 미국에서 우선 시작된 AI 개요 서비스는 같은 해 10월 말 캐나다, 호주 등 100개국 이상으로 확대됐으며 한국에는 같은해 12월 5일 공식 도입됐다. 구글의 AI 모델인 제미나이(Gemini)를 기반으로 하며 검색 결과 상단에 AI가 종합한 요약 정보를 제공하는 것이 특징이다. 업계 반응은 엇갈렸다. 검색 효율성과 편리성을 획기적으로 높여줄 것이라는 기대감도 컸지만 부정확한 정보를 제공할 수 있다는 우려도 동시에 제기됐다. 실제로 이와 관련한 불만도 꾸준히 제기되고 있다. 미국에서 서비스 플랫폼을 운영하고 있는 한 사업가는 지난 2월 레딧(Reddit)에 자신의 사례를 공유했다. 지난 몇 달간 매출이 눈에 띄게 줄어든 것에 대해 분석한 결과 구글의 AI 개요가 수천 건의 긍정적인 후기는 배제하고 일부 부정적인 후기를 주로 요약해 제공하고 있다는 사실을 발견했다고 주장했다. 그는 "몇 개의 부정적인 후기가 올라오면 AI가 그걸 요약해 제공함으로써 마치 그 요약이 절대적인 것처럼 보이게 한다"며 "이 프레임이 한번 굳어지면 계속 강화되어 부정적인 요약으로만 채워진다"고 했다. 구글은 이용자의 구체적인 불만 사항에 대해서는 일일이 대응하지 않고 있다. 다만 AI 진행 보고서, 공식 블로그 등을 통해 AI 개요의 업데이트 방향성과 기술적 개선 사항을 발표하고 있다. 업계에서는 구글을 비롯한 검색 엔진의 AI 요약 서비스 도입을 불가피한 흐름으로 보고 있다. 챗GPT, 제미나이 등 AI 사용이 일상화되면서 검색의 정의 자체가 바뀌었기 때문이다. 과거의 검색이 정보가 있는 곳으로 이용자를 안내하는 경유지였다면 이제는 검색창 자체가 이용자가 찾던 목적지가 되는 시대가 도래했다. AI 챗봇을 사용하면서 인지적 편안함을 맛본 이용자들이 불편함을 감수할 리 없다는 분석이다. 구글은 경쟁자가 난무하는 상황에서 선제적으로 서비스를 개시해 이용자 이탈을 방지하고, 서비스 질은 꾸준히 개선해 나가는 전략을 택한 것으로 보인다. 아직까지 정확도와 신뢰도 측면에서 결함이 뚜렷하지만 압도적인 시장 점유율을 가진 만큼 구글 생태계 안에서 이용자들은 익숙함과 환각 사이의 타협점을 찾을 것이라는 분석이다. 게다가 AI 발전 속도를 고려하면 정확도와 신뢰도 개선은 시간문제라는 평가가 나온다. 다만 환각 없는 완성형 AI 개요를 내놓기 전까지는 이번 캐나다 음악가의 민사소송과 같은 법적 분쟁은 불가피할 것으로 전망된다.