인공지능 게임이 우려를 낳고 있습니다: 작은 빨간 상자가 유망한 해결책을 제시합니다.

이 글은 혁신적인 기술이 우리의 삶을 어떻게 변화시키고 있는지 탐구하는 영상 및 오디오 시리즈인 '트렌딩 포워드'의 일부입니다.

" 인공지능이 어디에나 있는 것 같다 "라고 말하는 사람 중 하나라면, 당신은 틀렸습니다. 인공지능이 직장, 학교 등 여러 곳에 서서히 스며들고 있는 것은 사실이지만, 그보다 훨씬 더 빠른 속도로 새로운 영역으로 확장하고 있습니다.

그러한 세계 중 하나가 바로 게임 분야입니다. 그리고 게임 세계는 무시무시한 위험을 내포하고 있습니다. 부모로서 자녀가 인터넷에서 가장 좋은 (그리고 가장 나쁜) 콘텐츠에 거의 무제한으로 접근할 수 있다는 생각은 도저히 용납할 수 없는 일이지만, 우리는 잠자리 동화를 섬뜩한 악몽으로 바꿔놓을 수 있는 게임들이 급증하는 것을 목격하고 있습니다.

그래서 우리는 웨어러블 기기와 패션 소매 분야에서 성공적인 기업을 일구어 온 기업가 아룬 굽타와 이야기를 나누었습니다. 그는 가족과 시간을 보내면서 기술을 활용해 아이들에게 즐거움과 교육, 그리고 창의력을 동시에 제공할 수 있는 방법에 대해 생각하기 시작했습니다. 다른 사례에서 보았듯이, 인공지능은 무료 AI 기반 앱인 Meta를 활용한 게임 개발 과 같이 창의력을 발휘할 수 있는 새로운 길을 열어줄 수 있습니다.

굽타는 기술 파트너인 로버트 휘트니와 다시 협력하여 스티커박스(Stickerbox) 라는 독립형 장치 를 개발하기 시작했습니다. 이 장치는 인공지능을 사용하여 아이들이 상상하는 이미지(거의 모든 것)를 설명하고 인터페이스의 흑백 화면에 표시된 후 필요에 따라 인쇄할 수 있도록 해줍니다.

이 제품의 디자인은 예전 에치어스케치 장난감을 연상시키며, 라벨은 내장된 감열 프린터로 인쇄되어 깔끔하며 아이들은 원하는 대로 색칠할 수 있습니다.

컨셉은 간단하고, 이미 초기 사용자층을 넘어 더 넓은 인기를 얻고 있는 것을 확인했습니다. 최근 어린 자녀를 둔 영국 친구에게 스티커박스에 대해 이야기했더니, "아, 에 치어스케치처럼 생긴 AI 기반 스티커 말이야 ? 나도 하나 갖고 싶어!" 라고 말하더군요.

제 생각에는 그녀가 자녀들을 위해 그런 것을 원했던 것 같지만 , 이는 인공지능이 여기서는 부차적인 요소라는 것을 보여줍니다. 소리를 이용해 구체적인 사물을 만들어내는 능력 자체가 사람들을 매료시키는 것이지, 핵심에 머신러닝이 있다는 사실 때문만은 아닙니다.

새로운 세대의 게임

스티커박스는 시중에 나와 있는 다른 AI 기반 장난감들과는 완전히 정반대로 설계, 제작, 기능한 것으로 보입니다. 문제가 많은 다른 장난감들은 아이에게 친구이자 조력자처럼 행동하는 경향이 있습니다.

이 인공지능은 주변의 모든 대화를 끊임없이 듣고 심지어 아이들을 조종할 수도 있습니다. 아이들에게 무기와 성냥을 찾는 방법을 알려주는 인공지능 게임의 사례가 보고된 바 있습니다.

여기에 역설이 있습니다. AI 도구는 아이들의 호기심과 창의력을 키워 이전에는 불가능했던 일들을 가능하게 해 줄 수 있습니다. 하지만 이러한 기회에는 엄청난 위험도 따릅니다. 그래서 굽타와의 대화는 간단합니다. AI의 이점을 제공하면서도 AI 접근과 관련된 위험은 최소화하는 게임을 어떻게 만들 수 있을까요?

PIRG에서 최근 발표한 연구는 OpenAI의 ChatGPT와 같은 대규모 언어 모델(LLM)에 대한 접근에 의존하는 게임에 대한 심각한 우려와, 안전장치가 있더라도 이를 우회할 수 있는 가능성을 강조했습니다.

그렇다면 Stickerbox는 무엇이 다를까요?

굽타는 이렇게 말합니다. "우리는 아주 간단한 질문에서 출발했습니다. 인공지능이 어린이들을 위해 특별히 설계된다면 어떨까?"

그는 덧붙여 말했습니다. "저와 밥은 이 회사를 시작할 때 소셜 미디어와 그것이 젊은 세대에 미치는 영향에 큰 영감을 받았습니다. 모두가 알다시피 소셜 미디어는 카지노 게임과 유사한 메커니즘으로 만들어져 도파민 분비를 자극하고 최대한 많은 상호작용을 유도하여 사용자에게 최대한의 이득을 제공하도록 설계되었습니다."

그는 이어서 “하지만 이 모델을 아이들에게 적용해 보면… 그다지 적합하지 않습니다. 아이들을 위해 특별히 설계된 소셜 미디어 플랫폼은 없으니까요. 인공지능도 마찬가지라고 생각합니다.”라고 말했습니다.

따라서 스티커박스는 인공지능의 창의력을 활용하면서 아이들의 안전을 보장하도록 설계되었습니다. 세 가지 핵심 안전 기능은 다음과 같습니다. 첫째, 마이크 버튼을 눌렀을 때만 기기가 "듣기" 시작합니다. 둘째, 결과물에 대한 엄격한 안전 지침이 마련되어 있습니다. 셋째, 부모는 전용 앱을 통해 자녀의 창작물을 완벽하게 모니터링할 수 있습니다.

해당 펀드는 어린이가 노출, 유혈, 폭력 또는 그 외 잔인한 장면을 촬영하거나 전시하는 것을 허용하지 않습니다. 굽타는 "운영 초기부터 안전을 소홀히 하기보다는 최대한의 안전을 확보하는 방향으로 나아가고 싶었다"고 밝혔습니다.

Stickerbox는 인공지능에 접근하기 위해 인터넷에 연결하지만, 다른 많은 회사들처럼 OpenAI가 아닌 자체 시스템을 사용합니다. Hapiko는 자체적으로 구축한 대규모 언어 모델 덕분에 Gupta가 "제어 지점"이라고 부르는 것들을 통합할 수 있었습니다.

"현재 이 장치에는 여러 가지 제어 기능이 내장되어 있고 특수 소프트웨어도 많이 사용되지만, 기본적으로는 이렇게 간단하게 생각하시면 됩니다. 아이가 명령어를 말하면 그 명령어가 텍스트로 변환되고, 그 텍스트가 다시 이미지로 변환되어 최종 이미지가 출력되는 시스템입니다."

“따라서 이 과정에는 여러 제어 지점이 있습니다. 텍스트가 생성되는 제어 지점이 있고, 이 텍스트의 내용을 검토할 수 있습니다. 그런 다음 보안 필터를 적용할 수 있습니다. (그 후) 텍스트가 이미지로 변환되는 과정이 있는데, 여기서 내용을 검토하여 어떤 내용이 이미지로 변환될지 확인할 수 있습니다.”

스티커박스는 아이들에게 인공지능 엔진에 지시사항을 전달하는 중요한 방법을 가르쳐줍니다. 결과물이 예상과 다를 경우, 아이들은 원하는 결과를 얻기 위해 지시사항을 어떻게 수정해야 할지 고민해야 합니다.

다른 챗봇을 사용해도 비슷한 작업을 할 수 있지만, 인쇄 기능을 사용하려면 기기 연결이 필요하고, 부모의 감독과 지도가 필요합니다. 부모는 과정을 모니터링하고, 경우에 따라 민감한 주제에 대해 설명해 줄 필요가 있을 수 있습니다.

저희는 이 제품의 미래에 대해 심층적으로 살펴보았습니다. 학부모와 교사들이 이 제품을 어떻게 받아들였는지, 초기 어려움과 질문들을 어떻게 극복했는지, 빠르게 성장하는 AI 게임 분야의 미래는 어떻게 될지, 그리고 하피코가 이 제품을 안전하게 시장에 출시하기 위해 어떤 기능들을 포기해야 했는지 등을 알아보았습니다.