인공지능 진흥 협회(AAAI)가 이번 달에 발표한 새로운 연구에 따르면, 수백 명의 AI 연구자가 참여했으며, 중요한 사실이 밝혀졌습니다. AI에 대한 우리의 현재 접근 방식은 인공 일반 지능으로 이어질 가능성이 낮다는 것입니다.
인공지능은 지난 1950년 동안 뜨거운 화두였지만, 과학 연구 분야로서의 AI는 수십 년 전부터 존재해 왔습니다. 예를 들어, 앨런 튜링의 유명한 논문 "계산 기계와 지능"과 오늘날까지도 논의되는 튜링 테스트는 XNUMX년에 발표되었습니다.
오늘날 모두가 이야기하는 AI는 수십 년간의 연구를 통해 탄생했지만, 동시에 그로부터 멀어지고 있습니다. 과학 분야를 넘어, 이제는 "상업용 AI"라고 부를 수 있는 별도의 AI 분야가 생겨났습니다.
마이크로소프트, 구글, 메타, 애플, 아마존과 같은 거대 독점 기업들이 상업적 AI 활동을 주도하고 있으며, 그들의 주된 목표는 AI 제품 개발입니다. 이는 문제가 되지 않아야 하지만, 현재로서는 문제가 되고 있는 것으로 보입니다.
첫째, 대부분의 사람들이 인공지능 연구를 접한 기간이 지난 2년 정도에 불과하기 때문에, 일반인들이 인공지능에 대해 알고 있는 모든 정보는 과학계가 아닌 기업들로부터 나온 것입니다. 이 연구는 "인공지능에 대한 인식과 현실"이라는 장에서 이 문제를 다루고 있는데, 참여 과학자 중 79%가 현재 인공지능의 역량에 대한 인식이 인공지능 연구 개발의 현실과 일치하지 않는다고 생각하는 것으로 나타났습니다.
다시 말해, 일반 대중이 AI가 할 수 있다고 믿는 것과 과학자들이 AI가 할 수 있다고 믿는 것은 다릅니다. 그 이유는 간단하지만 안타까운 사실입니다. 거대 기술 기업의 임원이 AI에 대해 언급할 때, 그것은 과학적 의견이 아니라 제품 마케팅입니다. 그들은 신제품의 기반 기술을 과대광고하고 모두가 이러한 흐름에 동참하도록 만들고 싶어 합니다.
예를 들어 샘 알트먼 이나 마크 주커버그가 소프트웨어 엔지니어링 일자리가 인공지능으로 대체될 것이라고 말하는 것은 엔지니어들이 AI 기술을 배우도록 유도하고, 기술 기업들이 값비싼 엔터프라이즈 플랜에 투자하도록 설득하기 위한 것입니다. 하지만 실제로 엔지니어들을 인공지능으로 대체하고 그로 인해 수익을 창출하지 않는 한, 저는 개인적으로 그들의 말을 한 마디도 믿지 않을 것입니다.
하지만 상업용 AI에 영향을 미치는 것은 대중의 인식만이 아닙니다. 설문 참여자들은 거대 기술 기업들이 만들어낸 "AI 과대광고"가 연구 활동에 악영향을 미치고 있다고 생각합니다. 예를 들어, 74%는 이러한 과대광고가 AI 연구의 방향을 좌우한다고 동의하는데, 이는 상업용 AI 목표에 부합하는 연구에 대한 자금 지원이 용이하기 때문일 가능성이 높습니다. 또 다른 12%는 그로 인해 이론적 AI 연구가 어려움을 겪고 있다고 생각합니다.
그렇다면 이 문제는 얼마나 심각한 걸까요? 거대 기술 기업들이 우리가 수행하는 연구 유형에 영향을 미친다고 하더라도, 그들이 이 분야에 쏟아붓는 막대한 자금은 전반적으로 긍정적인 영향을 미칠 것입니다. 하지만 연구에 있어서는 다양성이 중요합니다. 최고의 연구 방향을 찾기 위해서는 다양한 경로를 탐색해야 합니다.
하지만 대형 기술 기업들은 현재 단 한 가지, 바로 대규모 언어 모델에만 집중하고 있습니다. 이 매우 구체적인 유형의 AI 모델은 거의 모든 최신 AI 제품의 원동력이며, 샘 알트먼과 같은 사람들은 이러한 모델을 더욱 확장함으로써(즉, 더 많은 데이터, 더 긴 학습 시간, 더 높은 컴퓨팅 성능을 제공함으로써) 결국 일반 AI를 달성할 수 있다고 믿습니다.
규모 가설로 알려진 이 아이디어는 AI에 더 많은 힘을 부여할수록 인지 능력이 향상되고 오류율은 낮아진다는 주장입니다. 일부 해석에서는 새로운 인지 능력이 예상치 못한 방식으로 등장할 것이라고도 합니다. 따라서 대규모 언어 모델이 현재로서는 문제를 계획하고 추론하는 데 적합하지 않지만, 이러한 능력은 언젠가는 반드시 나타나야 합니다.
벽이 없다
— 샘 알트만(@sama) 2024년 11월 14일
하지만 최근 몇 달 동안 확장성 가설은 상당한 비판에 직면했습니다. 일부 과학자들은 대규모 언어 모델을 확장하는 것이 결코 인공 일반 지능으로 이어지지 않을 것이라고 주장하며, 새로운 모델 에 추가적인 연산 능력을 부여해 도 더 이상 실질적인 결과를 가져오지 못한다고 말합니다. 오히려 우리는 "확장 장벽" 또는 "확장 한계"에 부딪혔고, 이 한계에 도달하면 막대한 양의 추가 컴퓨팅 능력과 데이터가 새로운 모델의 성능 향상에는 미미한 영향만 미친다는 것입니다. AAAI 연구에 참여한 대부분의 과학자들도 이러한 주장에 동의합니다.
응답자 대다수(76%)는 AGI를 달성하기 위해 "현재의 AI 접근 방식을 확장"하는 것이 성공할 가능성이 "전혀" 없거나 "매우" 낮다고 답했습니다. 이는 현재의 머신 러닝 모델이 일반 지능을 달성하기에 충분한지에 대한 의구심을 나타냅니다.
현재의 대규모 언어 시스템은 상황이 잘 풀릴 때는 매우 관련성 높고 유용한 응답을 생성할 수 있지만, 이는 수학적 원리에 기반합니다 . 많은 과학자들은 인공 일반 지능이라는 목표를 향해 나아가려면 논리, 추론, 그리고 사실적 지식을 활용하여 해결책을 도출하는 새로운 알고리즘이 필요하다고 믿습니다. 다음은 제이콥 브라우닝과 얀 르쿤이 2022년에 발표한 논문 에서 대규모 언어 시스템과 인공 일반 지능에 대해 신랄하게 비판한 내용입니다.
언어만을 학습한 시스템은 우주의 열이 사라질 때까지 계속 학습하더라도 결코 인간 지능에 근접할 수 없습니다.
하지만 누가 옳은지 알 수 있는 실질적인 방법은 아직 없습니다. 우선, 일반 AI의 정의는 고정되어 있지 않으며, 모두가 같은 목표를 향해 나아가는 것도 아닙니다. 어떤 사람들은 일반 AI가 인간과 유사한 방식으로 인간과 유사한 반응을 보여야 한다고 생각합니다. 즉, 주변 세계를 관찰하고 인간과 유사한 방식으로 문제를 해결해야 한다는 것입니다. 반면, 다른 사람들은 일반 AI가 인간과 유사한 반응보다는 정확한 반응에 더 집중해야 하며, 사용하는 방법은 중요하지 않아야 한다고 생각합니다.
하지만 여러모로 볼 때, 어떤 버전의 일반 인공지능에 관심이 있든, 확장성 가설에 찬성하든 반대하든 간에, 우리는 연구 노력을 다각화해야 합니다. 만약 대규모 언어 모델의 확장에만 집중한다면, 제대로 작동하지 않을 경우 처음부터 다시 시작해야 할 것이고, 더 효과적이고 효율적인 새로운 방법을 발견하지 못할 수도 있습니다. 이 연구에 참여한 많은 과학자들은 상업용 인공지능과 그에 대한 과대광고가 실질적인 발전을 저해할 것을 우려하고 있습니다. 하지만 우리가 할 수 있는 일은 그들의 우려가 해소되고 인공지능 연구의 두 분야가 공존하며 함께 발전하기를 바라는 것뿐입니다. 물론, 원한다면 인공지능 거품이 터지고 모든 인공지능 기반 기술 제품들이 사라지기를 바랄 수도 있겠죠.
댓글이 닫혔습니다.