온디바이스 AI2023년 AI 붐을 일으킨 키워드는 생성형 AI입니다.오픈AI가 본격적인 생성형 AI 상용화를 알렸고, 여러 빅테크와 인공지능 스타트업도 생성형 AI를 발전시켰습니다.2024년 생성형 AI의 대중화를 앞당기는 새로운 트렌드가 또 등장했습니다.바로 올해의 주인공이 될 온디바이스 AI입니다.생성형 AI가 사람들을 깜짝 놀라게 한 기술이었다면 온디바이스 AI는 이 생성형 AI를 어떻게 사용할지에 관한 트렌드입니다.온디바이스 AI가 어떻게 발전하고 세상을 어떻게 바꿀지 알아봅니다.온디바이스 AI란? 일반 인공지능은 클라우드를 이용합니다.사용자가 인공지능을 사용하면 큰 데이터센터에서 클라우드 서버로 정보가 전송돼 연산이 이뤄집니다.그리고 다시 사용자의 기기로 결과가 전송되고 우리는 인공지능이 내놓은 결과를 받아들입니다. 이때 인공지능을 사용하기 위해서는 큰 서버와 인터넷 연결이 필수입니다.그런데 온 디바이스 AI는 다릅니다.사용자의 기기 자체에서 정보를 수집하고 인공 지능의 연산을 하기 때문입니다.기기 자체에 인공 지능 모델을 탑재한 칩을 넣고 인터넷이 없어도 인공 지능 연산을 가능하게 한 기술입니다.만약 누구나 인공 지능을 쓴다면 수십 억개의 요청을 처리하는 서버가 필요합니다.많은 전력과 연산도 필요한 것으로 생성한 AI의 대중화는 상당히 비용이 듭니다.채팅 GPT를 사용하면 가끔 서버가 끊기고 멈추다 일이 있습니다.이처럼 중앙 서버가 다운되면 그동안 AI을 사용할 수 없는 문제가 발생합니다.각자의 기기에 AI을 생성형 AI의 대중을 목표로 하는 빅텍 기업이 내놓은 해법이 바로 온 디바이스 AI입니다.각자의 기기에서 사용될 수 있기 때문에 사용자는 시간과 장소, 인터넷 접속 상태에 얽매이지 않고 비용도 대폭 삭감됩니다.온 디바이스 AI을 사용하면 생성형 AI의 대표적인 보안 문제를 어느 정도 해결할 수 있습니다.통상 생성형 AI는 유저의 정보를 클라우드 서버에 내보내는데 이 과정에서 정보가 유출될 가능성이 높습니다.많은 기업들이 업무에 생성형 AI의 사용을 금지하는 이유입니다.한편 온 디바이스 AI는 기기 자체에서 정보의 수집과 연산입니다.외부와의 통신이 전혀 필요 없으니 이런 문제에서 자유입니다.그러므로 정보가 외부로 유출될 위험이 거의 없고 더 다양한 방면에서 AI활용을 가능하게 할 것입니다.최근 몇년 동안 몇몇 최신 스마트 폰이 등장했지만 눈에 보이고 혁신을 찾기 어려웠습니다.온디바이스 AI는 최신 스마트폰의 새로운 경쟁력이 될 전망입니다.온디바이스 AI를 얼마나 잘 접목시켰느냐에 따라 최신 스마트폰의 경쟁력이 결정됩니다.온 디바이스 AI는 신종 코로나 바이러스 감염증 이후 불황이 이어지는 PC시장에 활력을 불어넣는 것입니다.2024년 온 디바이스 AI가 탑재된 AIPC수요도 늘면서 PC시장의 반등도 기대하고 보겠습니다.빌딩·게이츠는 온 디바이스 AI가 고도화하면, 컴퓨팅 방식 자체가 바뀐다고 예언했습니다.지금은 온라인 쇼핑을 하려면 쇼핑 앱을 사람이 직접 켜고 물건을 고르고 결제도 직접 하셔야 합니다. 미래는 고도로 발전된 AI가 사람의 명령만을 듣고 결재까지 다 알아서 처리할 것입니다.AI가 개인 비서를 넘어 행동을 대체하는 이런 방식을 AI사와도 부릅니다.AI회사가 가능하려면 우리가 사용하는 전자 기기마다 높은 성능의 AI가 탑재돼야 하고, 개인 데이터도 하나 둘 씩 모으고 각자의 AI을 최적화해야 합니다.온 디바이스 AI가 이 모든 것을 가능하게 합니다 온 디바이스 AI을 올바르게 구현하려면 3개가 필요합니다.온 디바이스 AI을 탑재하는 하드웨어, 2번째는 독자 AI, 3번째는 연산을 행하는 반도체입니다.삼성전자가 내년 출시하는 갤럭시S24부터는 온디바이스 AI가 탑재될 것으로 보이는데요.삼성전자는 자체 개발한 AI ‘가우스’를 탑재해 실시간 통화 통역, 이미지 생성 등 다양한 추가 기능을 선보일 계획입니다.애플은 하드웨어 생태계의 최강자로 AI 스타트업을 인수하거나 AI 연구개발에 주력하고 있습니다.마이크로소프트는 PC, 태블릿 시장에서 온디바이스 AI를 시작합니다.퀄컴과 협력해온 디바이스 AI에 필요한 반도체를 충당할 계획입니다.마이크로소프트는 올해 윈도12, 차세대 AIPC 등을 출시할 계획입니다.온디바이스 AI를 사용하려면 메모리 반도체가 기존보다 2배가량 필요하고 수시로 AI 모델을 돌리려면 많은 전력이 필요합니다.온디바이스 AI 상용화를 위해서는 저전력 기술이 필수입니다.더 오래가는 배터리를 개발하는 것은 물론, AI 모델을 돌리기에 최적화된 하드웨어를 만드는 데 집중해야 하며, 소프트웨어, 인공지능 분야에서도 많은 난제를 해결해야 합니다. Byte+ 경제, 금융, 산업에 관한 심도 있는 분석
