인공지능 진흥 협회(AAAI)가 이번 달에 발표한 새로운 연구에 따르면, 수백 명의 AI 연구자가 참여했으며, 중요한 사실이 밝혀졌습니다. AI에 대한 우리의 현재 접근 방식은 인공 일반 지능으로 이어질 가능성이 낮다는 것입니다.
인공지능은 지난 1950년 동안 뜨거운 화두였지만, 과학 연구 분야로서의 AI는 수십 년 전부터 존재해 왔습니다. 예를 들어, 앨런 튜링의 유명한 논문 "계산 기계와 지능"과 오늘날까지도 논의되는 튜링 테스트는 XNUMX년에 발표되었습니다.
오늘날 모두가 이야기하는 AI는 수십 년간의 연구를 통해 탄생했지만, 동시에 그로부터 멀어지고 있습니다. 과학 분야를 넘어, 이제는 "상업용 AI"라고 부를 수 있는 별도의 AI 분야가 생겨났습니다.
마이크로소프트, 구글, 메타, 애플, 아마존과 같은 거대 독점 기업들이 상업적 AI 활동을 주도하고 있으며, 그들의 주된 목표는 AI 제품 개발입니다. 이는 문제가 되지 않아야 하지만, 현재로서는 문제가 되고 있는 것으로 보입니다.
첫째, 대부분 사람들이 AI 연구를 불과 몇 년 동안만 관심을 가지고 있기 때문에, 일반인이 AI에 대해 아는 모든 것은 과학계가 아닌 이러한 기업에서 나온 것입니다. 이 연구는 다음을 포함합니다. 이 주제는 "인식 대 현실" 장에서 다루어지고 있으며, 참여 과학자의 79%는 AI 기능에 대한 현재 인식이 AI 연구 및 개발의 현실과 일치하지 않는다고 믿고 있습니다.
다시 말해, 일반 대중이 AI가 할 수 있다고 믿는 것과 과학자들이 AI가 할 수 있다고 믿는 것은 다릅니다. 그 이유는 간단하지만 안타까운 사실입니다. 거대 기술 기업의 임원이 AI에 대해 언급할 때, 그것은 과학적 의견이 아니라 제품 마케팅입니다. 그들은 신제품의 기반 기술을 과대광고하고 모두가 이러한 흐름에 동참하도록 만들고 싶어 합니다.
그가 말할 때 샘 알트만 또는 마크 주커 버그 예를 들어, 소프트웨어 엔지니어링 일자리는 AI로 대체될 것입니다. AI는 엔지니어들이 AI 기술을 배우도록 유도하고, 기술 기업들이 값비싼 엔터프라이즈 플랜에 투자하도록 유도하기 때문입니다. 하지만 그들이 자사 엔지니어를 대체하고 (그리고 그로부터 이익을 얻지 않는 한) 저는 그들이 하는 말은 하나도 믿지 않을 것입니다.
하지만 상업용 AI에 영향을 미치는 것은 대중의 인식만이 아닙니다. 설문 참여자들은 거대 기술 기업들이 만들어낸 "AI 과대광고"가 연구 활동에 악영향을 미치고 있다고 생각합니다. 예를 들어, 74%는 이러한 과대광고가 AI 연구의 방향을 좌우한다고 동의하는데, 이는 상업용 AI 목표에 부합하는 연구에 대한 자금 지원이 용이하기 때문일 가능성이 높습니다. 또 다른 12%는 그로 인해 이론적 AI 연구가 어려움을 겪고 있다고 생각합니다.
그렇다면 이 문제는 얼마나 심각한 걸까요? 거대 기술 기업들이 우리가 수행하는 연구 유형에 영향을 미친다고 하더라도, 그들이 이 분야에 쏟아붓는 막대한 자금은 전반적으로 긍정적인 영향을 미칠 것입니다. 하지만 연구에 있어서는 다양성이 중요합니다. 최고의 연구 방향을 찾기 위해서는 다양한 경로를 탐색해야 합니다.
하지만 대형 기술 기업들은 현재 단 한 가지, 바로 대규모 언어 모델에만 집중하고 있습니다. 이 매우 구체적인 유형의 AI 모델은 거의 모든 최신 AI 제품의 원동력이며, 샘 알트먼과 같은 사람들은 이러한 모델을 더욱 확장함으로써(즉, 더 많은 데이터, 더 긴 학습 시간, 더 높은 컴퓨팅 성능을 제공함으로써) 결국 일반 AI를 달성할 수 있다고 믿습니다.
규모 가설로 알려진 이 아이디어는 AI에 더 많은 힘을 부여할수록 인지 능력이 향상되고 오류율은 낮아진다는 주장입니다. 일부 해석에서는 새로운 인지 능력이 예상치 못한 방식으로 등장할 것이라고도 합니다. 따라서 대규모 언어 모델이 현재로서는 문제를 계획하고 추론하는 데 적합하지 않지만, 이러한 능력은 언젠가는 반드시 나타나야 합니다.
벽이 없다
— 샘 알트만(@sama) 2024 년 11 월 14 일
그러나 최근 몇 달 동안 확장 가설은 심각한 비판에 직면했습니다. 일부 과학자들은 대규모 언어 모델을 확장하는 것이 인공 일반 지능으로 이어지지 않을 것이라고 믿으며, 우리가 제공하는 모든 추가적인 능력이… 새로운 모델 더 이상 결과를 낼 수 없습니다. 오히려 우리는 "확장 벽" 또는 "확장 한계"에 부딪혔습니다. 엄청난 양의 컴퓨팅 파워와 추가 데이터가 새로운 모델의 개선을 미미하게만 이끌어내는 것입니다. AAAI 연구에 참여한 과학자 대부분은 이러한 주장의 이면에 있습니다.
응답자 대다수(76%)는 AGI를 달성하기 위해 "현재의 AI 접근 방식을 확장"하는 것이 성공할 가능성이 "전혀" 없거나 "매우" 낮다고 답했습니다. 이는 현재의 머신 러닝 모델이 일반 지능을 달성하기에 충분한지에 대한 의구심을 나타냅니다.
현재의 대규모 언어 시스템은 일이 잘 진행될 때 매우 관련성 있고 유용한 응답을 생성할 수 있지만 수학적 원리에 기반 이를 위해 많은 과학자들은 인공 일반 지능(AI)이라는 목표를 향해 나아가려면 논리, 이성, 그리고 사실적 지식을 활용하여 해결책을 도출하는 새로운 알고리즘이 필요하다고 믿습니다. 다음은 대규모 언어 시스템과 인공 일반 지능에 대한 통렬한 인용문입니다. 2022년 연구 논문 제이콥 브라우닝과 얀 르쿤의 작품입니다.
언어만을 학습한 시스템은 우주의 열이 사라질 때까지 계속 학습하더라도 결코 인간 지능에 근접할 수 없습니다.
하지만 누가 옳은지 알 수 있는 실질적인 방법은 아직 없습니다. 우선, 일반 AI의 정의는 고정되어 있지 않으며, 모두가 같은 목표를 향해 나아가는 것도 아닙니다. 어떤 사람들은 일반 AI가 인간과 유사한 방식으로 인간과 유사한 반응을 보여야 한다고 생각합니다. 즉, 주변 세계를 관찰하고 인간과 유사한 방식으로 문제를 해결해야 한다는 것입니다. 반면, 다른 사람들은 일반 AI가 인간과 유사한 반응보다는 정확한 반응에 더 집중해야 하며, 사용하는 방법은 중요하지 않아야 한다고 생각합니다.
하지만 여러 면에서 어떤 버전의 AGI에 관심이 있는지, 확장 가설에 찬성하는지 반대하는지 여부는 사실상 중요하지 않습니다. 우리는 여전히 연구 노력을 다각화해야 합니다. 대규모 언어 모델의 확장에만 집중한다면, 제대로 작동하지 않을 경우 처음부터 다시 시작해야 할 것이고, 새롭고 더 효과적이거나 효율적인 방법을 찾지 못할 수도 있습니다. 이 연구에 참여한 많은 과학자들은 상업용 AI와 이를 둘러싼 과대광고가 실질적인 발전을 저해할 것이라고 우려합니다. 하지만 우리가 할 수 있는 일은 그들의 우려가 해소되고 AI 연구의 두 분야가 공존하며 함께 발전할 수 있기를 바라는 것뿐입니다. 음, 물론… AI 버블 당신이 원한다면, 모든 AI 기반 기술 제품은 폭발하여 망각 속으로 사라질 수도 있습니다.
댓글이 닫혔습니다.