구글의 AI 실수: 환각적 관용구와 인기 있는 속담

최신 AI 트렌드는 정말 재밌습니다. 한 사용자가 구글 검색에 가짜 문구를 입력하고 "의미"라는 단어를 추가하면 구글의 "AI 개요" 기능이 사용자의 상상력을 바탕으로 해당 문구의 의미를 생성해 준다는 것을 발견했습니다.

역사가 Greg Jenner는 다음과 같은 게시물로 이러한 물결을 일으켰습니다. BLUESKY 그는 구글에 "오소리를 두 번 핥을 수 없다"라는 문구의 의미를 설명해 달라고 요청했습니다. AI 개요는 이 표현이 이미 한 번 속은 사람을 두 번째 속일 수 없다는 것을 의미한다고 친절하게 설명했습니다. 이는 타당한 설명처럼 보이지만, 이 검색어가 널리 퍼지기 전에는 이 용어가 존재하지 않았다는 사실을 간과하고 있습니다.

그 이후로 사람들은 AI 개요 기능이 "꽃병 속 오징어가 당신에 대해 나쁜 말을 하지 않을 것"과 같은 용어를 설명하도록 만드는 데 많은 즐거움을 느꼈습니다.의미 자연 환경 밖에 있는 것은 해를 끼칠 수 없을 것 같습니다.) 또는 "개를 해변에 데려갈 수는 있지만 스위스까지 배로 데려갈 수는 없습니다."(그리고 그는"AI 개요" 기능에 따르면, 반려동물과 함께 해외여행을 하는 데 따르는 어려움에 대한 설명은 매우 간단합니다.

하지만 일부 구문은 "AI 개요"에 대한 결과를 반환하지 않기 때문에 이 방법이 모든 경우에 적용되는 것은 아닙니다. 인지 과학자 Gary Marcus는 다음과 같이 말했습니다. 유선"GenAI에서 예상했던 대로 매우 일관성이 없습니다."

제너는 이것이 재미있기는 하지만 "AI 개요"와 같은 AI가 생성한 소스에 정보를 너무 많이 의존하는 데에는 잠재적인 위험이 있음을 지적합니다. 썼다 제너: "구글링의 핵심 기능 중 하나인 인용문의 사실 확인, 출처 확인, 기억하지 못한 내용 추적 등의 기능이 AI가 실제 진실보다 통계적 확률을 정당화하는 것을 선호하게 되면 훨씬 더 어려워질 것이라는 경고 신호입니다."

AI가 제공하는 정보, 특히 AI 오버뷰 기능의 한계를 지적한 것은 이번이 처음이 아닙니다. AI 오버뷰가 처음 출시되었을 당시, 사람들은 하루에 작은 돌멩이 하나를 먹어야 하고 피자에 접착제를 발라도 된다고 제안했지만, 이러한 구체적인 답변은 곧 삭제되었습니다.

그 이후로 구글은 대부분의 AI 개요가 유용하고 사실적인 정보를 제공하며, 자사의 AI 제품에 대한 피드백을 계속 수집하고 있다고 밝혔습니다.

지금은 Google 검색 결과 상단에 있는 "AI 개요" 상자에 표시되는 정보가 정확하지 않을 수 있으므로, 해당 정보를 다시 한번 확인하시기 바랍니다.

댓글이 닫혔습니다.