다리오 아모디(앤트로픽): 사람들은 정부가 인공지능을 악용하는 것을 보고 신뢰의 위기를 느끼고 있습니다.

인공지능을 둘러싼 비관론과 두려움에 대해서는 이미 많은 이야기가 오갔습니다. 이러한 두려움 중 일부는 고전적인 디스토피아 소설의 경고에 근거하지만, 상당 부분은 현실에 뿌리를 두고 있습니다. 이 기술을 주도하는 사람들은 낙관적인 전망과 많은 약속을 내놓고 있지만, 아직까지 실질적인 이점으로 이어진 것은 거의 없습니다.

앤트로픽의 CEO이자 공동 창립자인 다리오 아모드는 X에 올린 글 에서 "앤트로픽을 포함한 AI 기업들 에 대한 가장 정확한 비판은 우리가 세상을 이롭게 하겠다는 거창한 약속을 아직 제대로 이행하지 못했다는 점이라고 생각합니다."라고 밝혔습니다.

아무디는 기술이 "신뢰의 위기"에 직면해 있다고 주장하는데, 이는 기업과 정부가 "사람들을 착취할 새로운 방법을 고안해내고 있다"는 사람들의 믿음에서 비롯됩니다. 하지만 미군, 법 집행 기관, 정보 수집 활동이 인공지능에 크게 의존하고 있다는 점을 고려할 때, 이러한 생각이 과연 틀린 것일까요?

인공지능은 홍보만으로는 이 위기를 극복할 수 없습니다.

인공지능(AI)의 등장과 함께, 이 기술의 많은 이점들은 경영진과 고위 관리자들에게 – 비록 완전히 입증되지는 않았지만 – 투자할 가치가 있다는 것을 확신시키기 위한 것이었습니다. 그 결과, 많은 AI 리더들은 AI를 통해 인간 노동자를 대체함으로써 기업의 인건비를 절감할 수 있다고 주장했습니다.

일부 AI "전문가"들은 여전히 ​​비공개 회의에서 이러한 주장을 펼치고 있습니다. 저는 올해 한 비공개 행사에 참석했는데, 그곳에서 한 AI "전문가"는 초지능이 10년 안에 전 세계 노동력의 최대 50%를 없애버릴 것이며, 이러한 재앙적인 사건을 가장 잘 활용할 수 있는 기업들이 상상할 수 없는 지배력과 부를 얻게 될 것이라고 예측했습니다. 물론, 참석한 기업 최고 경영진들은 그의 예측에 박수를 보냈습니다.

아무디 본인은 인공지능이 사무직 일자리의 50%를 없앨 수 있다고 말한 것으로 유명합니다. 그러나 그는 이후 그 발언을 수정하여 인공지능을 "생산성 증대제"라고 표현했습니다. 다시 말해, "보상 인상 없이 생산성을 높이는 것"인데, 이는 기업의 과장 광고에 불과합니다.

제가 거듭 강조해왔듯이, AI의 효과는 실제 결과에서 입증됩니다. 우리는 AI가 무엇을 할 수 있는지 에 대해서는 많이 들어왔지만, 실제로 AI를 통해 얻을 수 있는 이점은 미미했습니다 . 그리고 아모디 역시 이 점을 인정하고 있습니다.

그는 인공지능이 암을 치료할 수 있다고 주장하는 광고는 완전히 오해의 소지가 있다고 지적하며, " 실제로 효과가 있는 것은 암을 치료하는 것 "이라고 말합니다.

아무디는 앤트로픽이 이러한 문제에 대해 윤리적 책임을 다하고 있음 을 암시하며 , 생물학과 의학 분야에서 AI 활용에 집중하기 위해 "노력을 강화하고 있다"고 설명했습니다 . 하지만 아직 그 결과는 나타나지 않았습니다.

아무디의 게시글은 인공지능의 권력 집중 문제도 언급했는데, 이는 마크 저커버그가 최근 인공지능을 모두에게 이익이 되도록 활용하는 최선의 방법에 대해 제기한 비판과 맥락을 같이합니다. 아무디는 저커버그와는 다소 다른 견해를 제시하며 규제, 감독, 테스트, 그리고 개방형 가중치 모델 간의 균형을 주장했습니다.

아무디는 "프론티어 속도 조절" 운동에 일부 동의한다고 언급하며, 프론티어 연구소에 대한 통제를 적용하면 기술 개발 속도를 "조정"하는 동시에 나머지 산업이 따라잡을 수 있도록 할 수 있다고 설명했습니다.

이 계획의 명백한 결함은 다른 어떤 나라도 이 규제의 적용을 받지 않는다는 점이며, 이는 트럼프 행정부가 결코 용납하지 않겠다고 주장해 온 인공지능 산업에서 미국의 지배력을 의도적으로 저해할 수 있다는 점이다.

인공지능은 사람보다 권위주의 체제에 더 많은 이점을 제공하는가?

인공지능 시스템은 감시 인프라에 널리 배치되어 왔습니다. 앤트로픽은 미 국방부와의 관계가 틀어지기 전까지 국방부에 AI 시스템을 공급하는 사업을 진행해 왔습니다. 앤트로픽은 자사 기술이 대규모 감시 및 완전 자율 무기에 사용되는 것을 허용하지 않겠다고 거부했고, 그 결과 계약을 잃었습니다.

다행히 미국 국방부(DoD)에게는 오픈AI가 펜타곤과 새로운 계약을 체결하여 앤트로픽이 남긴 공백을 신속하게 메우는 동시에 미국인을 감시하는 데 자사 기술을 사용하는 것을 금지했습니다.

하지만 그렇다고 해서 다른 회사들도 같은 윤리 기준을 준수한다는 의미는 아닙니다. 예를 들어, 플록(Flock)은 미국 전역에서 차량 번호판을 추적하도록 설계된 AI 기반 카메라로 인해 광범위한 저항에 직면했습니다.

이 시스템은 용의자의 차량이 국경과 관할 구역을 넘나들 때 이를 식별하기 위해 고안되었지만, 오히려 법 집행관들이 과거 공범을 추적하고 , 동료를 감시하고, 연인의 행방을 추적하는 수단으로 성공적으로 활용되고 있습니다.

인공지능 시스템은 교통 단속 및 과속 단속 카메라에도 도입되고 있습니다. 하지만 이는 특히 차량 번호판을 잘못 식별하거나 설정이 잘못된 시스템과 관련하여 경찰 업무의 회색지대로 여겨지며 상당한 관심을 불러일으켰습니다.

미국 형사 사건에서 범죄를 저질렀다는 사실을 입증할 책임은 정부에 있습니다. 그러나 일부 자동 교통 위반 딱지 발부 시스템은 잘못된 차량에 딱지를 발부하는 사례가 발생하면서 피고인이 법정에서 무죄를 입증해야 하는 상황을 만들어 형사 사건의 입증 책임 원칙을 뒤집어 놓았다는 비판을 받고 있습니다.

그리고 바로 여기에 모두가 간과하고 있는 중대한 문제가 있습니다.

팔란티어의 인공지능 기술은 미군과 법 집행 기관 전반에 걸쳐 활용되고 있습니다. 특히 미국 이민세관집행국(ICE)은 이 기술을 이용해 불법 이민 용의자를 추적해 왔습니다. 또한, 팔란티어의 기술은 드론 이미지 분석, 장거리 정밀 타격, 데이터 분석, 군사 계획 수립 등에도 사용되고 있습니다.

단일 전쟁에서 가장 많이 승리한 "세계 기록"을 달성하는 데 있어 그것이 결정적인 도구였다는 것은 의심의 여지가 없습니다.

숨길 것이 없고 ‘선한 사람들’ 편에 서고 싶다면 인공지능은 희소식이지만, 그 정의는 끊임없이 변화하고 있습니다.