從聊天機器人到自動駕駛汽車，人工智慧正在改變技術格局。人工智慧採用迅速加速的領域之一是智慧型手機等消費性設備。科技巨頭正在競相將設備上的人工智慧功能整合到他們最新的硬體和軟體中。

但到底什麼是設備端人工智慧，它是如何運作的？

什麼是設備端人工智慧及其運作方式

如今，大多數消費者人工智慧都由儲存在雲端的龐大資料集提供支援。然而，將個人資料上傳到人工智慧伺服器並不利於隱私。這就是設備端人工智慧的用武之地。

設備端人工智慧是指在裝置本地而不是在雲端運行的人工智慧功能。這意味著人工智慧處理直接在您的手機、平板電腦或其他裝置上進行，無需連接到網路。

以下是它的工作原理：Stable Diffusion、DALLE-E、Midjourney 等 AI 模型使用大量資料和運算能力在雲端進行訓練。然後對這些模型進行最佳化，以便在目標裝置上有效運作。優化的人工智慧模型嵌入到應用程式中並下載到每個使用者的裝置上。應用程式資料在安全飛地中保持隔離。

當應用程式需要執行辨識聲音或辨識照片中的物件等任務時，它會使用裝置的板載 CPU 或 GPU 在本機上運行 AI 模型。 AI模型處理輸入資料並產生輸出預測或結果，而無需向外部發送任何資料。

所有這些都完全發生在您的裝置上，確保您的互動私密。

裝置端人工智慧如何讓您受益

裝置端人工智慧可以在您的裝置上提供令人印象深刻的功能。這包括使用穩定擴散等模型快速生成圖像，可以在幾秒鐘內創建圖像，速度非常快。如果您想快速為社交媒體貼文創建圖像和背景，這可能會很棒。由於它是在本地處理的，因此您的圖像提示保持私密。

人工智慧助理也可以在本地提供支持，根據您的數據和偏好（例如最喜歡的活動和健身水平）提供個人化體驗。它可以理解自然語言來完成照片和影片編輯等任務。例如，您可以說“刪除左邊的人”來立即編輯圖像。

對於攝影，設備上的 AI 可以啟用諸如擴展圖像邊界（類似於 Photoshop 的填充功能）、同時使用前置和後置攝像頭實現視頻效果以及獨立編輯不同圖層等功能。

遊戲圖形還可以透過將解析度提升至 8K、加速光線追蹤以實現真實照明以及有效地將幀速率提高一倍來受益於裝置上的 AI。關於音頻，設備上的人工智慧可以實現即時音頻同步，因此視訊和遊戲中的音訊永遠不會不同步。即使您走進另一個房間，它也可以提供清晰的通話和音樂。

總體而言，設備端人工智慧符合許多用戶的需求——快速結果和隱私——因為它可以將更多處理保留在本地而不是雲端。

裝置端 AI 帶來更快、更私密的 AI 體驗

裝置端 AI 非常簡潔。它允許我們的手機和其他小工具在本地運行先進的人工智慧演算法，無需連接到雲端，也不會延遲。

像高通這樣的公司已經將其最新晶片與專用硬體打包在一起，以便在我們的設備上高效運行神經網路。例如，高通的 Snapdragon 8 Gen 3 支援高達 24GB（在智慧型手機上！），整合了對 Stable Diffusion 和 Llama 2 的支持，並使用高通的 AI 堆疊來提供當前最好的設備上 AI 性能。

因此，隨著每一代新一代智慧型手機的出現，人們期望看到更強大的裝置端 AI 功能，例如智慧助理、即時翻譯、自動照片編輯和快速生成 AI 影像。