구글은 구글 어스에 나노 바나나를 넣는 실수를 저질렀다.

지난주 구글은 인공지능 기반 이미지 생성 모델인 나노 바나나 2(Nano Banana 2 )를 구글 어스(Google Earth) 세계 탐색 프로그램에 통합했습니다. 구글은 이 통합 기능을 통해 사용자들이 전 세계 여러 지역에 대한 인포그래픽을 만들거나 최근 이미지를 기반으로 역사적인 풍경을 생성할 수 있다고 홍보했습니다. 또한 사용자들은 나노 바나나 2를 이용해 현실적인 배경 위에 자신의 "꿈의 집"을 만들어 볼 수도 있었습니다. 집을 증축할 계획이 있거나 호숫가에 별장을 짓고 싶다면 구글 어스의 나노 바나나 2를 통해 시각화할 수 있는 것입니다.

이 소식은 구글이 자사의 AI 플랫폼을 거의 모든 제품 및 서비스에 통합하려는 움직임 속에서 나온 것입니다(예를 들어, 지난주에는 워크스페이스용 구글 문서 사용자에게 새로운 제미니 기능을 추가했습니다). 구글의 관점에서 볼 때, 구글 어스에 나노 바나나 2를 추가하는 것은 매우 합리적인 결정이었습니다. 그러나 나중에 밝혀진 바와 같이, 이러한 통합은 구글 어스에 적합하지 않았습니다.

Google Earth는 이미 Nano Banana 2를 출시하고 있습니다.

나노 바나나 2에 이 중요한 통합 기능을 출시한 지 단 하루 만에 구글은 해당 기능 을 삭제했습니다 . 구글은 원래 발표를 수정하여 다음과 같이 밝혔습니다. "구글 어스는 세계에 대한 권위 있는 정보를 제공하는 데 있어 사용자들의 높은 신뢰를 받고 있습니다. 지리 공간 전문가들이 이 기능을 다양한 유용한 목적으로 사용하고 있다는 점을 인지하고 있습니다. 그러나 일부 사용자들이 구글 정책을 위반하는 것으로 보이는 생성된 이미지의 스크린샷을 공유하는 사례도 확인했습니다. 따라서 더 강력한 제어 조치를 시행하는 동안 구글 어스에서 해당 기능을 제거합니다. 생성된 이미지는 다른 사용자가 볼 수 있도록 구글 어스 기본 화면에 표시되지 않았으며, AI로 생성되었음을 나타내는 워터마크가 표시되었음을 알려드립니다."

이 설명은 사용자들이 이 도구를 이용해 생성한 이미지들을 정확하게 묘사하지 못합니다. 제 생각에는 단순히 구글 정책을 "위반"한 것을 넘어섰습니다 . 예상대로 인터넷 사용자들은 나노 바나나 2를 이용해 실제 위치를 기반으로 부적절하고 민감한 이미지를 생성했습니다. 가장 널리 퍼진 이미지 중 하나가 맨해튼의 새로운 세계무역센터에 비행기가 충돌하는 장면 이었다는 사실은 그리 놀랍지 않을 것입니다 . 다른 이미지들은 에펠탑이 폐허가 되거나 이집트 피라미드가 깊은 구덩이 속으로 무너지는 모습을 보여주었습니다. 많은 사람들이 이러한 이미지들이 장난으로 만들어졌다는 것을 알겠지만, 훨씬 더 많은 사람들이 이러한 "공식" 구글 어스 이미지를 온라인에서 보고 최악의 상황을 가정할 수 있습니다.

농담은 접어두고, 허위 정보와 가짜 뉴스가 확산될 가능성은 우려스러웠습니다. 예를 들어, 한 사용자는 이 도구를 이용해 멕시코 국경 근처에 난민들을 어깨를 맞대고 배치하는 모습을 보여주었습니다 . 이러한 이미지가 순식간에 퍼져나가면서, 사람들은 구글 어스를 통해 생성된 이 스냅샷이 진짜 위성 사진이라고 착각할 수 있었습니다. 구글은 이미지 생성 과정의 여러 측면을 막기 위해 어느 정도 통제 장치를 마련해 두었겠지만, 이러한 제한은 분명히 충분하지 않았습니다. 구글의 AI 기능을 유료로 사용하든 무료로 사용하든, 누구나 구글 어스와 나노 바나나 2를 연동하여 사용할 수 있었기 때문에, 구글 어스를 열고 나노 바나나 2가 반응할 때까지 악성 메시지를 조작하기만 하면 됐습니다.

생성형 인공지능은 구글 어스와 같은 도구에 적합하지 않습니다.

인공지능 회의론자가 아니더라도 애초에 이것이 왜 잘못된 생각이었는지 설명할 수 있습니다. 하지만 인공지능 기업들은 생성형 인공지능 기능을 제품에 집어넣기 전에 회의적인 태도를 보이는 경우가 거의 없습니다 . 구글 어스와 같은 도구는 교육용으로 설계되었습니다. 우리는 그것을 통해 세계, 지리, 그리고 다양한 도시와 풍경이 어떻게 생겼는지 배웁니다. 저는 개인적으로 디지털 지구본을 돌려 새로운 장소를 탐험하는 것을 좋아하고, 종종 아무 곳에나 핀을 꽂아 스트리트 뷰로 어떻게 보이는지 확인합니다. 제가 구글 어스를 세계에 대한 정확하고 신뢰할 수 있는 정보원으로 여기기 때문입니다. 만약 그렇지 않다면 제가 왜 관심을 가지겠습니까?

따라서 구글이 본질적으로 부정확하고 왜곡된 세계 지도를 생성하는 도구를 제공하는 데에는 아무런 논리가 없다고 생각합니다. 이 도구의 주요 장점 중 하나는 과거의 모습을 지도에 보여준다는 것이었지만, 나노 바나나 2는 그런 기능을 제공하지 않았습니다 . 오히려 이 AI는 학습 데이터를 바탕으로 해당 지역의 역사적 모습을 추정하여 생성했습니다 . 예를 들어 1726년 파리의 모습을 보여달라고 하면, 실제 300년 전 파리의 모습이 아닌 공공 건물과 구조물을 지도에 표시할 가능성이 높습니다. 결과적으로 얻는 것은 역사의 환상일 뿐입니다. 재미는 있을지 몰라도 교육적이라고는 전혀 할 수 없으며, 소셜 미디어에서 AI가 생성한 조잡한 역사 콘텐츠를 보는 것과 다를 바 없습니다.

인공지능이 생성한 "정보성 인포그래픽"에도 같은 문제가 적용됩니다. 구글과 같은 기업들은 인공지능의 교육적 활용 능력을 홍보하고 있으며, 구글 어스가 지도상의 위치를 ​​보여주는 정보성 인포그래픽을 생성할 수 있다는 점은 훌륭해 보입니다. 그러나 이렇게 만들어진 인포그래픽은 어떤 권위 있는 기관, 특히 전문가의 검증을 거치지 않았습니다. 나노 바나나 2가 생성한 이미지는 반쪽짜리 진실이나 왜곡된 정보로 가득 차 있을 수 있으며, 더 심각한 것은 인공지능의 작업 결과를 확인할 수 있는 출처조차 제공하지 않는다는 점입니다. 일반 사용자들은 이러한 인포그래픽에서 "배운" 정보를 그 정보의 정확성 여부와 관계없이 그대로 받아들일 수 있습니다.

최악의 경우, 이 기능은 허위 정보를 퍼뜨리는 도구로 악용될 수 있었습니다. 특정 지역에서 나쁜 일이 일어났다고 사람들을 설득하고 싶다면, 간단히 요청 사항을 입력하기만 하면 나노 바나나 2가 그 상황을 사실적으로 묘사한 위성 이미지를 생성하여 소셜 미디어에 쉽게 공유할 수 있도록 해 주었습니다. 인공지능이 생성한 허위 정보가 빠르게 확산되는 시점에서, 이는 문제를 더욱 악화시키고 이미 심각한 상황에 기름을 붓는 격입니다. 구글과 같은 기업들은 인공지능이 생성한 허위 콘텐츠를 진짜 정보와 구분하는 방법을 찾아야지, 오히려 허위 정보 확산을 부추겨서는 안 됩니다.

이는 인공지능 도구 자체에 반대하는 주장이 아니라, 생성형 인공지능을 교육 도구에 통합하는 것에 반대하는 주장입니다. 구글이 인공지능을 통해 사실을 왜곡함으로써 얻는 이점이 무엇인지 모르겠습니다. 그저 자신들의 인공지능 "성공"을 자랑할 때 내세울 만한 또 다른 사례를 만드는 것 외에는 별다른 의미가 없어 보입니다.