챗봇부터 자율주행차까지, AI는 기술 환경을 변화시키고 있습니다. AI 도입이 빠르게 가속화되는 분야 중 하나는 스마트폰과 같은 소비자 기기입니다. 거대 기술 기업들은 온디바이스 AI 기능을 최신 하드웨어 및 소프트웨어에 통합하기 위해 경쟁하고 있습니다.

그런데 온디바이스 AI란 정확히 무엇이고 어떻게 작동하나요?

온디바이스 AI 정의 및 작동 방식

오늘날 대부분의 소비자 AI는 클라우드에 저장된 대규모 데이터 세트를 기반으로 합니다. 하지만 개인 데이터를 AI 서버에 업로드하는 것은 개인정보 보호에 좋지 않습니다. 이것이 바로 온디바이스 AI가 등장하는 곳입니다.

온디바이스 AI는 클라우드가 아닌 디바이스에서 로컬로 실행되는 인공 지능 기능을 의미합니다. 즉, 인터넷에 연결하지 않고도 휴대폰, 태블릿 또는 기타 장치에서 AI 처리가 바로 수행된다는 의미입니다.

내부 작동 방식은 다음과 같습니다. Stable Diffusion, DALLE-E, Midjourney 등과 같은 AI 모델은 많은 데이터와 컴퓨팅 성능을 사용하여 클라우드에서 교육됩니다. 그런 다음 이러한 모델은 대상 장치에서 효율적으로 실행되도록 최적화됩니다. 최적화된 AI 모델은 앱에 내장되어 각 사용자의 장치에 다운로드됩니다. 앱 데이터는 안전한 엔클레이브에 격리된 상태로 유지됩니다.

앱이 소리를 인식하거나 사진 속 물체를 식별하는 등의 작업을 수행해야 하는 경우 기기의 온보드 CPU 또는 GPU를 사용하여 AI 모델을 로컬에서 실행합니다. AI 모델은 외부로 데이터를 전송하지 않고 입력 데이터를 처리하고 출력 예측 또는 결과를 생성합니다.

이 모든 작업은 전적으로 귀하의 기기에서 이루어지며 귀하의 상호 작용은 비공개로 유지됩니다.

온디바이스 AI가 사용자에게 제공하는 이점

온디바이스 AI를 사용하면 기기에서 인상적인 기능을 사용할 수 있습니다. 여기에는 이미지를 몇 초 만에 생성할 수 있는 Stable Diffusion과 같은 모델을 사용한 빠른 이미지 생성이 포함됩니다. 소셜 미디어 게시물에 대한 이미지와 배경을 빠르게 만들고 싶다면 이 기능이 유용할 수 있습니다. 또한 로컬에서 처리되므로 이미지 프롬프트는 비공개로 유지됩니다.

AI 비서는 로컬에서 구동될 수도 있어 좋아하는 활동, 피트니스 수준과 같은 데이터와 선호도를 기반으로 개인화된 경험을 제공할 수 있습니다. 사진 및 비디오 편집과 같은 작업을 위해 자연어를 이해할 수 있습니다. 예를 들어 "왼쪽에 있는 사람 제거"라고 말하면 이미지를 즉시 편집할 수 있습니다.

사진의 경우, 온디바이스 AI는 이미지 테두리 확장(Photoshop의 채우기 기능과 유사), 비디오 효과를 위한 동시 전면 및 후면 카메라 사용, 다양한 레이어를 독립적으로 편집하는 등의 기능을 활성화할 수 있습니다.

게임 그래픽은 해상도를 최대 8K로 높이고, 사실적인 조명을 위한 레이 트레이싱을 가속화하고, 프레임 속도를 효율적으로 두 배로 늘리는 등 온디바이스 AI의 이점을 누릴 수도 있습니다. 오디오와 관련하여, 온디바이스 AI는 실시간 오디오 동기화를 지원하므로 비디오 및 게임의 오디오가 동기화되지 않는 일이 없습니다. 또한 다른 방으로 들어가더라도 선명한 통화와 음악을 즐길 수 있습니다.

전반적으로 온디바이스 AI는 클라우드 대신 로컬에서 더 많은 처리를 유지하므로 많은 사용자가 원하는 빠른 결과와 개인 정보 보호에 부합합니다.

온디바이스 AI는 더 빠르고 더 많은 개인 AI 경험을 제공합니다.

온디바이스 AI는 꽤 깔끔합니다. 이를 통해 휴대폰 및 기타 장치는 클라우드에 연결할 필요 없이 지연 없이 로컬에서 고급 AI 알고리즘을 실행할 수 있습니다.

Qualcomm과 같은 회사는 이미 장치에서 신경망을 효율적으로 실행하기 위해 특수 하드웨어로 최신 칩을 포장하고 있습니다. 예를 들어, Qualcomm의 Snapdragon 8 Gen 3는 스마트폰에서 최대 24GB를 지원하고 Stable Diffusion 및 Llama 2에 대한 지원을 통합했으며 Qualcomm의 AI Stack을 사용하여 현재 최고의 기기 내 AI 성능을 제공합니다.

따라서 새로운 세대의 스마트폰을 통해 지능형 비서, 실시간 번역, 자동화된 사진 편집, 초고속 생성 AI 이미지 생성 등을 위한 훨씬 더 강력한 온디바이스 AI 기능을 볼 수 있을 것으로 기대됩니다.