애플의 AI 노력은 구글의 제미니, 마이크로소프트의 코파일럿, 오픈AI의 챗GPT만큼 큰 영향을 미치지 못했으며, 이는 애플에게 이 분야에서 어려움을 안겨주었습니다. 애플의 AI 툴킷은 애플 인텔리전스이 회사는 사용자를 위한 iPhone 및 Mac의 기능을 질적으로 향상시켰을 뿐만 아니라 회사 내에서 경영 위기를 초래하여 이 분야에서의 전략을 재평가할 필요가 있었습니다.
사용자 데이터가 위기를 극복할 수 있을 것 같습니다. 오늘 회사는 머신러닝에 대한 연구 논문을 발표했습니다. 종이 iPhone에 저장된 데이터를 활용하여 내장 AI를 훈련하는 새로운 접근 방식을 자세히 설명하며, 이메일 메시지를 시작으로 합니다. 이러한 메시지는 이메일 요약 및 글쓰기 도구와 같은 기능을 개선하여 사용자 경험을 향상시키고 도구의 효율성을 개선하는 데 사용될 것입니다.
AI 훈련에 대한 간략한 요약
자세히 살펴보기 전에 AI 도구의 작동 방식을 간략하게 요약해 보겠습니다. 첫 번째 단계는 학습으로, 본질적으로 "인공 뇌"에 인간이 생성한 방대한 양의 데이터를 입력하는 것입니다. 책, 기사, 연구 논문 등을 생각해 보세요. 더 많은 데이터를 입력할수록 AI의 반응은 더욱 향상됩니다.
이는 기술적으로 대규모 언어 모델(LLM)로 알려진 챗봇이 단어 간의 패턴과 관계를 이해하려고 시도하기 때문입니다. 현재 Siri와 Apple Intelligence에 통합된 ChatGPT와 같은 도구는 본질적으로 단어 예측 도구입니다.
하지만 AI 학습에 사용할 수 있는 데이터는 제한적이며, 전체 과정은 매우 많은 시간과 비용이 소요됩니다. 그렇다면 AI가 생성한 데이터를 사용하여 직접 AI를 학습시키는 것은 어떨까요? 연구에 따르면, 그렇게 하면 기술적으로 AI 모델에 "독"이 될 수 있습니다. 즉, 부정확한 응답, 엉뚱한 결과, 그리고 오해의 소지가 있는 결과가 나올 수 있습니다.
애플은 AI를 어떻게 개선할 계획인가?
AI 도구의 응답은 합성 데이터에만 의존하기보다는 미세 조정 및 최적화를 통해 개선될 수 있습니다. 하지만 AI 비서를 훈련하는 가장 좋은 방법은 실제 인간 데이터를 더 많이 제공하는 것입니다. 휴대폰에 저장된 데이터는 이러한 정보의 가장 풍부한 원천이지만, 회사는 이를 제공할 수 없습니다.
이는 심각한 사생활 침해이며 소송으로 이어질 가능성이 큽니다.
Apple이 의도하는 것은 이메일을 복사하거나 서버로 전송하지 않고 간접적으로 확인하는 것입니다. 간단히 말해, 모든 데이터는 휴대폰에 그대로 남아 있습니다. 게다가 Apple은 엄밀히 말하면 이메일을 "읽지" 않습니다. 대신, 단순히 합성 이메일과 비교할 뿐입니다.
여기서 핵심은 어떤 합성 데이터가 사람이 작성한 이메일과 가장 가까운지 파악하는 것입니다. 이를 통해 Apple은 대화에서 사람이 상호작용하는 가장 현실적인 유형의 데이터가 무엇인지 파악할 수 있습니다. 보고서에 따르면, 지금까지 Apple은 AI를 훈련하기 위해 "전형적으로" 합성 데이터를 사용해 왔습니다. 블룸버그 게시물에서.
"이 합성 데이터는 더 대표적인 데이터를 기반으로 모델의 품질을 테스트하고 요약과 같은 기능의 개선 영역을 파악하는 데 사용될 수 있습니다."라고 회사는 설명합니다. 이는 향후 Siri와 Apple Intelligence에서 제공하는 응답을 실질적으로 개선하는 데 도움이 될 수 있습니다.
Apple은 실제 사용자 데이터에서 얻은 학습 내용을 바탕으로 이메일 요약 시스템과 글쓰기 도구의 일부 요소를 개선할 계획입니다. Apple은 "샘플링된 이메일의 내용은 기기 외부로 유출되지 않으며 Apple과 공유되지 않습니다."라고 강조합니다. Apple은 Genmoji에도 이미 유사한 개인정보 보호 중심 교육 시스템을 구축했다고 밝혔습니다.
이것이 왜 중요한 진전인가요?
현재 메일 앱에서 Apple Intelligence 덕분에 제공되는 요약 정보는 매우 혼란스럽고, 때로는 전혀 이해할 수 없는 경우가 많습니다. 앱 알림 관련 상황도 다르지 않습니다. BBC로부터 뉴스 기사를 잘못 전달했다는 비판을 받은 후 Apple은 일시적으로 알림을 중단해야 할 정도로 상황이 악화되었습니다.
상황이 너무 심각해서 요약 알림이 팀 채팅방에서 흔한 농담거리가 되었습니다. Apple Intelligence는 대화나 이메일을 요약할 때 종종 의미가 없거나 실제 상황에 대해 완전히 다른 관점을 제시하는 무작위 문장을 조합합니다. 이는 사용자 경험에 부정적인 영향을 미치고 지능형 비서의 효율성을 떨어뜨립니다.
근본적인 문제는 AI가 여전히 맥락과 인간의 의도를 이해하는 데 어려움을 겪고 있다는 것입니다. 이 문제를 해결하는 가장 좋은 방법은 적절한 맥락 이해를 바탕으로 상황 인식 능력이 뛰어난 자료를 학습시키는 것입니다. 최근 추론 기능을 갖춘 AI 모델이 등장했지만, 완벽한 해결책은 아닙니다. 이러한 새로운 모델은 이해 정확도를 크게 향상시킬 것으로 기대되지만, 여전히 고품질 학습 데이터가 필요합니다.
Apple이 설명한 방식은 양쪽의 장점을 모두 갖춘 것처럼 보입니다. Apple은 "이 프로세스를 통해 합성 이메일의 제목과 언어를 개선할 수 있으며, 이를 통해 이메일 요약과 같은 기능에서 더 나은 텍스트 출력을 생성하도록 모델을 훈련시키는 동시에 개인 정보를 보호할 수 있습니다."라고 말합니다. 이 접근 방식은 향상된 성능과 사용자 데이터의 기밀성을 모두 제공합니다.
자, 이제 좋은 점입니다. Apple은 전 세계 iPhone과 Mac에 저장된 모든 이메일을 읽지 않습니다. 대신, 사전 동의 방식을 취하고 있습니다. Apple과 Device Analytics 데이터를 공유하는 데 명시적으로 동의한 사용자만 AI 학습 과정에 참여합니다. 이를 통해 사용자는 자신의 데이터에 대한 완전한 통제권을 확보할 수 있습니다.
설정 > 개인정보 보호 및 보안 > 분석 및 개선 사항에서 활성화할 수 있습니다. 회사는 곧 출시될 iOS 18.5, iPad 18.5, macOS 15.5 베타 업데이트와 함께 이 요금제를 활성화할 예정이라고 합니다. 개발자를 대상으로 하는 유사한 버전이 이미 출시되었습니다. 이를 통해 개발자는 새로운 기능을 테스트하고 성능 개선에 대한 피드백을 제공할 수 있습니다.
댓글이 닫혀있다.