Microsoft, DeepSeek R4과 경쟁할 초추론 AI 모델 Phi-1 출시
요약:
- Microsoft는 4억 개와 14억 개의 매개변수로 학습된 Phi-3.8 추론 AI 모델을 출시했습니다.
- Phi-4 추론 모델은 크기가 작음에도 불구하고 DeepSeek R1 및 o3-mini와 같은 훨씬 더 큰 모델과 경쟁합니다.
- Microsoft에서는 Phi-4 추론 모델이 크기가 작기 때문에 Windows Copilot+를 실행하는 PC에서 실행할 수 있다고 말합니다.
Microsoft는 Phi-4-reasoning, Phi-4-reasoning-plus, Phi-4-mini-reasoning 등 세 가지 새로운 추론 AI 모델을 출시했습니다. 이 모델들은 Windows PC 및 모바일 기기와 같은 엣지 디바이스용으로 설계된 소형 언어 모델입니다. Phi-4-reasoning AI 모델은 14억 개의 매개변수로 학습되었으며 복잡한 추론 작업을 수행할 수 있습니다.

Phi-4-reasoning-plus 모델은 기본 모델은 동일하지만, "Plus" 추론 시간 계산 방식을 사용하여 Phi-4-reasoning 모델보다 약 1.5배 많은 토큰을 처리함으로써 더 높은 정확도를 제공합니다. 작은 크기에도 불구하고 Phi-4-reasoning 모델은 DeepSeek R1 671B 및 o3-mini와 같은 대형 모델들과 경쟁할 만한 성능을 보여줍니다.
GPQA 벤치마크에서 Phi-4-reasoning-plus-14B 모델은 69.3%의 성능을 보였고, o3-mini 는 77.7%를 기록했습니다. AIME 2025 테스트에서는 Phi-4-reasoning-plus-14B가 78%, o3-mini가 82.5%의 성능을 보였습니다. 이는 마이크로소프트의 미니 모델이 훨씬 더 큰 규모의 주요 추론 모델들에 근접하고 있음을 보여줍니다.

마이크로소프트는 Phi-4 추론 모델이 " OpenAI o3-mini에서 엄선한 추론 데이터셋을 활용한 지도 학습 방식의 미세 조정을 통해 훈련되었다 "고 밝혔습니다. 또한, " 이 모델은 세심한 데이터 포맷팅과 고품질 합성 데이터셋을 통해 소형 모델도 대형 모델과 경쟁할 수 있음을 보여준다 "고 덧붙였습니다.
그뿐 아니라, 단 3.8억 개의 파라미터로 학습된 더 작은 Phi-4-mini-reasoning 모델은 7억 및 8억 개의 파라미터를 사용하는 많은 모델보다 우수한 성능을 보여줍니다. AIME 24, MATH 500, GPQA Diamond와 같은 벤치마크에서 Phi-4-mini-reasoning-3.8B 모델은 o1-mini에 근접하는 경쟁력 있는 결과를 제공합니다. Phi-4-mini 모델은 Deepseek-R1 모델에서 생성된 합성 데이터를 사용하여 정밀하게 조정 되었습니다.
마이크로소프트의 Phi 모델은 이미 Windows Copilot+ PC 에서 통합 신경 처리 장치를 활용하여 기본적으로 사용되고 있습니다 . Phi-4 추론 모델이 해당 기기에서 AI 성능을 어떻게 향상시킬지 지켜보는 것은 흥미로울 것입니다.
댓글이 닫혔습니다.