[조선 직장인의 노하우] 온디바이스 AI (On-Device AI) 내용 정리
[개요]
ㅇ (정의) 클라우드로 데이터를 전송하는 방식에서 벗어나 인터넷 연결 없이, 기기 내부에서 AI 연산을 처리하는 방식
※ 온디바이스 AI 기술은 스마트폰, 스마트워치, 스마트 가전제품 등 개인 기기에 인공지능(AI) 기능을 탑재, 클라우드에 의존하지 않고 실시간 처리를 가능하게 하는 기술
※ (용어) 온디바이스(On-Device) : ‘기기에서’, ‘장치에서’, ‘디바이스에서’ 등으로 번역하거나 ‘디바이스에 올라간’, ‘탑재된’ 의미로 사용되며 통상적으로 자동차, 로봇, 컴퓨터 등 하드웨어에서 수행되는 작업을 지칭할 때 사용
ㅇ (특징) 빠른 서비스 제공, 강화된 정보 보안, 에너지 소모 절감 등 클라우드 컴퓨팅 단점 보완
ㅇ (장점) 개인 데이터 보호 및 보안, AI 성능 향상, 최적화된 개인화, 사용 비용 절감, 환경 및 지속가능성(ESG)
ㅇ (한계) 복잡한 AI 모델 실행 처리 능력 한계, 대용량 데이터나 복잡한 AI 모델의 기기 내 저장 시 메모리(공간) 제약, 하드웨어 제한에 따른 기능 제한
[AI 기술 트렌드 변화]
ㅇ ▲1980년대 인터넷의 대중화, ▲2007년 모바일 시대 개막, ▲2022년 ChatGPT 등장에 따른 생성형 AI 확산, ▲2024년 AI 경험의 대중화, 온디바이스 AI 개화
ㅇ 최근 사물인터넷(IoT)의 발달과 폭발적인 데이터양 증가에 따른 데이터 처리 해소 방안이 필요성이 요구되고 있음
ㅇ (AI 서비스 종류) ▲빅데이터․서비스로 대표되는 클라우드 기반 AI가 인공지능 시장 성장을 주도, ▲이후 디바이스에 대한 의존도가 증가하면서 하드웨어 공급자 중심의 엣지 AI(Edge AI)가 주목, ▲생성형 AI의 발전과 인터넷 연결 없이 작은 데이터 기반의 AI 수행을 위한 온디바이스 AI(스몰 AI, Tiny AI라고도 함)로 기술 발전
[온디바이스 AI 활용 분야]
ㅇ (실시간 통․번역 서비스) 통화 내용을 실시간으로 통역해 음성과 문자로 전달하는 ‘실시간 통역 통화’ 서비스
ㅇ (CCTV) 클라우드와 연동하지 않고도 CCTV 등에서 촬영된 영상 및 이미지 데이터를 디바이스에서 실시간으로 분석해 자연재해․교통사고․폭행사고 등의 돌발 상황을 감지
ㅇ (자율비행 드론) 다양한 환경에서 비행하며 인터넷 연결이 불가능한 상황 등에서 다양하게 활용이 가능, ▲자율비행 및 네비게이션, ▲인지 기능 강화, 데이터 수집․분석 등
ㅇ (IPTV․셋톱박스) IPTV 이용자에게 편리함을 제공하기 위해 AI를 탑재한 ‘온디바이스 AI’셋톱박스 출시, 기기 내에서 AI가 연산을 처리해 통신 지연이 없어 빠르고, 보안성이 높음
ㅇ (모빌리티) 독일의 완성차 3사(폭스바겐, 벤츠, BMW)는 챗GPT를 활용한 IDA 음성비서가 탑재된 차량 등을 선보임, 인텔은 차량에서 인공지능(AI) PC 기능을 구동할 수 있는 전용 칩을 발표하고 ‘온디바이스 AI’를 차량에 적용하겠다고 함
[온디바이스 AI의 문제점]
ㅇ (연산능력) 온디바이스 AI는 디바이스의 하드웨어 성능에 크게 의존하여 고도로 복잡한 AI 모델을 실행하는 것에는 제한이 있음
ㅇ (데이터 저장 및 관리) 디바이스 저장 용량이 제한되어 있어 데이터를 선택적으로 저장하거나 주기적으로 데이터 정리가 필요함
ㅇ (소프트웨어 업데이트의 어려움) 온디바이스 AI 모델을 개선시키고 보다 안정적으로 소프트웨어를 업데이트 하기 위해서는 효율적인 소프트웨어 업데이트 시스템과 안정적인 배포방법이 필요함
ㅇ (에너지 소비) 온디바이스 AI는 디바이스 내에서 연산을 수행하기 때문에 장시간 연산 시 배터리 수명 문제 등 전력 문제가 발생할 수 있음
ㅇ (보안문제) 디바이스 내에서 데이터를 처리하기 때문에 데이터 보안 문제와 해킹의 위협이 있을 수 있음
[산업 현황]
ㅇ (국외) 퀄컴, 애플, 구글 등
ㅇ (국내) 삼성전자, 인텔리콘연구소, 노타, 업스테이지 등
ㅇ (온디바이스 AI 시장 규모) 시장분석기관 GMI는 글로벌 온디바이스 AI 시장 규모가 2022년 50억 달러에서 연평균 20%씩 성장해 2032년에는 700억 달러(약 87조원) 규모가 될 것으로 예측
*참고문서*
ㅇ 온디바이스 AI 산업현황 보고서 (한국저작권 위원회)
ㅇ '제 3의 IT혁명 디바이스 시대'가 온다 (삼일회계법인)
