인공지능: 진정한 위험은 미래에 대한 상상이 아니라 바로 현재에 있다.

하지만 실리콘 밸리는 인공 일반 지능(AGI)을 다가올 기적이자 동시에 닥쳐올 괴물로 여기고 있습니다. AGI는 기계가 광범위한 작업에서 인간의 지능에 필적할 수 있는 순간을 의미하는 것으로 여겨지지만, 어떤 작업, 어떤 인간, 그리고 무엇이 지능을 구성하는지에 대해서는 아직 합의가 이루어지지 않았습니다.

엔비디아 CEO 젠슨 황은 이러한 현상이 이미 일어났지만 아무도 알아채지 못했다고 생각합니다 . 최근 엔비디아 실적 발표 에서 그는 "많은 작업에서 우리는 이미 인공 일반 지능(AGI)을 달성했다고 말할 수 있다"고 밝혔습니다. 그는 또한 이러한 성과가 "현재 단계에서는 다소 무의미하다"고 덧붙였습니다. 그렇다면 스카이넷은 이제 안녕입니다.

하지만 그가 지적한 대로 인공 일반 지능(AGI)이라는 개념은 이제 발전의 척도로서 거의 쓸모가 없어졌습니다. 기업들은 자신들의 최신 모델이 뛰어난 부분에 따라 AGI를 재정의할 수 있기 때문입니다. 그것은 과학적 기준이 아니라 마케팅 수단일 뿐입니다.

재앙적인 주의 분산

하지만 인공지능이 핵폭탄을 가지고 장난치는 것을 좋아하지 않는다고 해도, 결코 순수하지만은 않습니다. 인간의 탐욕과 오랜 악의에 의해 촉발된, 덜 극적인 위험들이 인공지능으로 인해 발생할 수 있습니다.

오늘날 인공지능은 수많은 사기성 자료를 만들어낼 수 있습니다. 목소리와 얼굴을 정교하게 복제하여 사랑하는 사람들을 속이고 돈을 훔칠 수 있으며, 피싱 이메일을 이용해 보안 서버를 침해하고 , 소셜 네트워크에 끝없이 논쟁을 벌이는 가짜 계정을 쏟아낼 수도 있습니다. 이러한 행위들은 어떤 엄밀한 정의로 보더라도 인공 일반 지능(AGI)에 해당하지 않지만, 친척이 돈을 구걸하는 것처럼 꾸며낸 가짜 녹음을 들은 사람에게는 그러한 구분이 아무런 위안도 되지 못합니다.

인공 일반 지능(AGI)에 대한 집착은 실제로 규제 당국에 문제를 복잡하게 만들 수 있다.

이윤은 좋은 척도가 아닙니다.

황은 인공 일반 지능(AGI)이라는 개념 자체를 바꿔야 한다고 주장했습니다. 대신 "생산적이고 유용한 작업을 수행하는지" 그리고 "수익성 있는 코드를 생성하는지"를 고려해야 한다는 것입니다. 엔비디아 입장에서는 타당해 보일지 몰라도, 인공지능에 대해 우려하는 일반인들에게 수익성은 신뢰할 만한 안전성 검증 기준이 될 수 없습니다.

사기는 수익성이 좋기 때문에 만연해 있습니다. 인간 직원을 없애고 10%의 가격으로 30%의 품질을 제공하는 AI 모델로 대체하는 것 또한 (단기적으로는) 수익성이 있습니다. 하지만 이러한 결과들은 모두 제품의 성과를 자랑스럽게 설명할 만한 것이 아닙니다.

인공 일반 지능(AGI)을 업계의 지배적인 집착이자 두려움의 대상으로 여기는 시각에서 벗어나는 것은 타당하지만, 그렇다고 AI 기업들이 안심해도 된다는 의미는 아닙니다. 지능은 너무나 복잡해서 단순히 불안감의 원인만으로 판단할 수 없습니다. 오히려 권력이라는 관점이 더 나은 시각을 제시할 수 있을 것입니다. 누가 AI를 어떻게 사용하고 있는지, 그리고 AI가 실패했을 때 누가 책임을 져야 하는지를 측정할 수 있어야 합니다. 그래야만 AI가 우리 삶에 미친 심오한 영향을 진정으로 이해할 수 있을 것입니다.

책임, 신원 확인, 소유권 및 기타 법적 세부 사항에 대한 논의는 구름처럼 시각적으로 매력적이지는 않지만, 규제 당국은 AI 기업들이 이러한 문제들을 해결하도록 강제해야 합니다. 우리가 감시해야 할 것은 스카이넷의 끊임없는 도래가 아니라 키보드를 사용하는 인간의 손입니다.