Insight
이번 글에서는 CES와 갤럭시 언팩 2024의 가장 중요한 화두였던 온디바이스 AI에 대해 소개 드리고자 합니다. 이 글을 통해 독자 분들이 온디바이스 AI에 대해 좀 더 깊이 있게 이해하고 유용한 인사이트를 얻을 수 있기를 바랍니다.
Sungmin Woo
February 27, 2024
안녕하세요, 에너자이 사업개발팀 우성민(Sungmin Woo)입니다. 최근 삼성전자가 미국 캘리포니아에서 개최된 ‘갤럭시 언팩 2024’ 행사에서 새로운 프리미엄 스마트폰 ‘갤럭시S24’ 시리즈를 공개했는데요. 갤럭시 디바이스에 최적화된 온디바이스 AI 기반으로 실시간 통화 번역, 대화 및 문서 요약, 화질 보정 및 영상 편집 등의 다양한 기능을 구현하여 화제가 되고 있습니다.
이번 글에서는 CES와 갤럭시 언팩 2024의 가장 중요한 화두였던 온디바이스 AI에 대해 소개 드리고자 합니다. 이 글을 통해 독자 분들이 온디바이스 AI에 대해 좀 더 깊이 있게 이해하고 유용한 인사이트를 얻을 수 있기를 바랍니다.
온디바이스 AI란?
온디바이스 AI란 데이터 분석 및 추론 작업이 클라우드 서버가 아닌 스마트폰, 노트북 등의 디바이스에서 자체적으로 이루어지는 것을 말합니다. 일련의 작업이 디바이스 내부에서 수행되므로 클라우드 기반 AI의 문제점으로 언급되던 Latency(지연) 및 개인 정보 유출과 같은 문제를 우려할 필요가 없으며, 인터넷 연결이 어려운 상황에서도 문제 없이 작업을 수행할 수 있다는 장점을 보유하고 있어 스마트폰, 자동차, 드론 등 다양한 산업 분야에서 각광 받고 있습니다.
온디바이스 AI는 이전부터 AI 분야에서 주목 받는 연구 주제였지만, 최근 공개된 갤럭시 S24가 온디바이스 AI 기반 기능들을 중점적으로 홍보하면서 본격적으로 주목 받고 있는데요. 구체적으로 어떤 기능을 구현하는데 온디바이스 AI가 활용되는지 이해를 돕기 위해 먼저 갤럭시 S24에 탑재된 AI 기능들에 대해 간단히 살펴 보겠습니다.
최초의 온디바이스 AI폰, 갤럭시 S24
S24에 탑재된 갤럭시 AI는 온디바이스와 클라우드 방식을 모두 활용할 수 있는 구조로 설계된 하이브리드 AI 기술입니다. 삼성전자가 자체 개발한 생성형 AI 가우스와 구글의 Gemini Nano가 탑재되어 13개 언어 실시간 통화 번역, 메신저 대화 번역, 대화 및 문서 요약 등의 AI 기능들을 온디바이스로 수행 가능하며, ‘서클 투 서치’와 같은 일부 기능들의 경우 클라우드 AI 기반으로 구현된 것으로 보입니다. 갤럭시 S24에 탑재된 AI 기능들을 아래에 정리하였으니 참고 부탁드립니다.
Galaxy S24 주요 AI 기능
13개 언어 실시간 통/번역
대화 상대에 맞는 톤의 문구를 추천해주는 Chat Assist 기능
대화/문서 내용을 요약하여 정리해주는 Note Assist 기능
화면에 원을 그리면 관련 검색 결과를 요약해서 보여주는 Circle to Search 기능
사진에서 원하지 않는 요소를 제거하고 자연스럽게 재구성하는 Photo Assist 기능
온디바이스 AI, 구현을 위해 필요한 요건은?
온디바이스 AI의 구현 난이도가 높은 이유는 클라우드 서버에 비해 극히 제약된 하드웨어 리소스로 우수한 성능을 낼 수 있는 AI 모델을 구현해야 하기 때문인데요. 삼성전자가 전 세계 최초로 온디바이스 AI폰을 만들어낼 수 있었던 데에는 우수한 하드웨어(모바일 AP) 성능과 수준 높은 AI 경량화 및 최적화 기술이 주효했습니다.
우수한 하드웨어 성능
이번에 출시된 S24 시리즈에는 총 2가지 AP(Application Processor)가 탑재되었습니다. S24와 S24+에는 삼성의 엑시노스 2400, S24 울트라에는 퀄컴의 스냅드래곤 8 3세대가 탑재되었는데요. 두 제품 모두 온디바이스 AI 지원에 최적화된 차세대 AP로, S24 시리즈 내 온디바이스 AI 모델들은 탑재된 AP의의 하드웨어 리소스를 활용하여 주어진 역할을 수행하게 됩니다.
수준 높은 인공지능 경량화 및 최적화 기술
위에서도 말씀 드렸듯이 온디바이스 AI를 구현하기 위해서는 클라우드 서버 대비 제약된 하드웨어 리소스에서도 우수한 성능을 낼 수 있는 AI 모델이 필요합니다. AI 경량화 및 최적화 기술은 정확하면서도 가볍고 빠른 AI 모델을 만들어내기 위해 필요한 기술로서, AI 경량화 기술은 모델의 정확도를 유지하면서 크기를 줄이는 기술을, AI 최적화 기술은 대상 하드웨어 리소스를 효율적으로 활용하여 모델의 성능을 높이고 메모리를 절감하는 기술을 뜻합니다.
삼성전자 또한 갤럭시 S24에 탑재된 가우스 및 제미나이 나노 모델의 경량화 및 최적화(엑시노스 2400 및 스냅드래곤 8 3세대 대상)를 통해 온디바이스 AI를 구현했다고 밝혔으며, 더 자세한 내용은 아래 링크에서 확인하실 수 있습니다.
[갤럭시S24 언팩] 퀄컴·엑시노스 AP 달라도 "AI 성능은 동일" - 딜사이트⑨김영집 AI팀장 "퍼스널라이즈 되는 갤럭시 만들 것"dealsite.co.kr
Optimium, 온디바이스 AI로 나아가는 열쇠
S24 시리즈를 시작으로 온디바이스 AI가 주목 받으면서 AI 경량화 및 최적화 기술의 중요성은 점점 높아질 것으로 보입니다. 특히 AI 최적화 기술의 경우 막대한 소요 시간, 기존 추론 최적화 엔진들의 성능적 한계 등으로 인해 연구가 더 활발하게 진행되고 있는데요.
에너자이는 다양한 하드웨어에 대한 고성능 최적화를 하나의 Tool로 지원하는 AI 추론 최적화 엔진 Optimium을 개발 완료하여 현재 베타 테스트를 앞두고 있습니다. Arm, AMD64 등 다양한 Architecture에 대하여 전용 라이브러리 대비 우수한 성능을 보여 다양한 업체들의 관심을 받고 있습니다.
AI 최적화에 대해 좀 더 자세히 알고 싶으신 분들은 아래 게시물 참고 부탁 드립니다!
마지막으로, 현재 Optimium은 AI 최적화에 대한 니즈가 있는 잠재 고객들을 대상으로 한 Beta Test를 앞두고 있습니다. Optimium Beta Test 참여에 관심 있으신 분들은 아래 링크를 통해 신청 부탁 드립니다!