구글의 AI 실수: 환각적 관용구와 인기 있는 속담
최신 AI 트렌드는 정말 재밌습니다. 한 사용자가 구글 검색에 가짜 문구를 입력하고 "의미"라는 단어를 추가하면 구글의 "AI 개요" 기능이 사용자의 상상력을 바탕으로 해당 문구의 의미를 생성해 준다는 것을 발견했습니다.
역사가 그렉 제너는 블루스카이(Bluesky )에 "오소리를 두 번 핥을 수는 없다(you can't lick a badger twice)"라는 표현의 의미를 구글에 설명해 달라는 글을 올리면서 이러한 유행을 촉발시켰습니다. 구글의 "AI 개요" 기능은 이 표현이 한 번 속은 사람을 두 번 속일 수는 없다는 뜻이라고 친절하게 설명했습니다. 그럴듯한 설명이긴 하지만, 이 질문이 입소문을 타기 전에는 이 표현이 존재하지 않았다는 사실을 간과한 것입니다.
그 이후로 사람들은 AI 개요 기능이 "꽃병 속 오징어가 당신에 대해 나쁜 말을 하지 않을 것"과 같은 용어를 설명하도록 만드는 데 많은 즐거움을 느꼈습니다.의미 자연 환경 밖에 있는 것은 해를 끼칠 수 없을 것 같습니다.) 또는 "개를 해변에 데려갈 수는 있지만 스위스까지 배로 데려갈 수는 없습니다."(그리고 그는"AI 개요" 기능에 따르면, 반려동물과 함께 해외여행을 하는 데 따르는 어려움에 대한 설명은 매우 간단합니다.
하지만 모든 경우에 제대로 작동하는 것은 아니며, 일부 쿼리에서는 "AI 개요" 결과가 반환되지 않습니다. 인지 과학자 게리 마커스는 Wired와의 인터뷰 에서 "매우 일관성이 없는데, 이는 GenAI에서 예상할 수 있는 부분입니다." 라고 말했습니다.
제너는 이것이 재미있기도 하지만, "AI 개요"와 같은 AI 생성 정보에 지나치게 의존하는 것의 잠재적 위험성을 보여준다고 지적합니다. 그는 "이는 구글 검색의 핵심 기능 중 하나인 인용문의 진위 확인, 출처 확인, 또는 불완전하게 기억나는 정보를 찾아내는 능력이 AI가 실제 진실보다 통계적 확률을 우선시하게 되면 훨씬 더 어려워질 것이라는 경고 신호입니다."라고 썼습니다.
AI가 제공하는 정보, 특히 AI 오버뷰 기능의 한계를 지적한 것은 이번이 처음이 아닙니다. AI 오버뷰가 처음 출시되었을 당시, 사람들은 하루에 작은 돌멩이 하나를 먹어야 하고 피자에 접착제를 발라도 된다고 제안했지만, 이러한 구체적인 답변은 곧 삭제되었습니다.
그 이후로 구글은 대부분의 AI 개요가 유용하고 사실적인 정보를 제공하며, 자사의 AI 제품에 대한 피드백을 계속 수집하고 있다고 밝혔습니다.
지금은 Google 검색 결과 상단에 있는 "AI 개요" 상자에 표시되는 정보가 정확하지 않을 수 있으므로, 해당 정보를 다시 한번 확인하시기 바랍니다.
댓글이 닫혔습니다.