”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 人工智能 > 什么是设备端人工智能及其工作原理?

什么是设备端人工智能及其工作原理?

发布于2024-08-22
浏览:839

从聊天机器人到自动驾驶汽车,人工智能正在改变技术格局。人工智能采用迅速加速的领域之一是智能手机等消费设备。科技巨头正在竞相将设备上的人工智能功能集成到他们最新的硬件和软件中。

但到底什么是设备端人工智能,它是如何工作的?

什么是设备端人工智能及其工作原理

如今,大多数消费者人工智能都由存储在云中的庞大数据集提供支持。然而,将个人数据上传到人工智能服务器并不利于隐私。这就是设备端人工智能的用武之地。

设备端人工智能是指在设备本地而不是在云端运行的人工智能功能。这意味着人工智能处理直接在您的手机、平板电脑或其他设备上进行,无需连接到互联网。

下面是它的工作原理:Stable Diffusion、DALLE-E、Midjourney 等 AI 模型使用大量数据和计算能力在云端进行训练。然后对这些模型进行优化,以便在目标设备上高效运行。优化的人工智能模型嵌入到应用程序中并下载到每个用户的设备上。应用程序数据在安全飞地中保持隔离。

当应用需要执行识别声音或识别照片中的对象等任务时,它会使用设备的板载 CPU 或 GPU 在本地运行 AI 模型。 AI模型处理输入数据并生成输出预测或结果,而无需向外部发送任何数据。

所有这一切都完全发生在您的设备上,确保您的互动私密。

设备端人工智能如何让您受益

What Is On-Device AI and How Does It Work?

设备端人工智能可以在您的设备上提供令人印象深刻的功能。这包括使用稳定扩散等模型快速生成图像,可以在几秒钟内创建图像,速度非常快。如果您想快速为社交媒体帖子创建图像和背景,这可能会很棒。由于它是在本地处理的,因此您的图像提示保持私密。

人工智能助手也可以在本地提供支持,根据您的数据和偏好(例如最喜欢的活动和健身水平)提供个性化体验。它可以理解自然语言来完成照片和视频编辑等任务。例如,您可以说“删除左边的人”来立即编辑图像。

对于摄影,设备上的 AI 可以启用诸如扩展图像边界(类似于 Photoshop 的填充功能)、同时使用前置和后置摄像头实现视频效果以及独立编辑不同图层等功能。

游戏图形还可以通过将分辨率提升至 8K、加速光线追踪以实现真实照明以及有效地将帧速率提高一倍来受益于设备上的 AI。关于音频,设备上的人工智能可以实现实时音频同步,因此视频和游戏中的音频永远不会不同步。即使您走进另一个房间,它也可以提供清晰的通话和音乐。

总体而言,设备端人工智能符合许多用户的需求——快速结果和隐私——因为它可以将更多处理保留在本地而不是云端。

设备端 AI 带来更快、更私密的 AI 体验

设备端 AI 非常简洁。它允许我们的手机和其他小工具在本地运行先进的人工智能算法,无需连接到云端,也不会出现延迟。

像高通这样的公司已经将其最新芯片与专用硬件打包在一起,以便在我们的设备上高效运行神经网络。例如,高通的 Snapdragon 8 Gen 3 支持高达 24GB(在智能手机上!),集成了对 Stable Diffusion 和 Llama 2 的支持,并使用高通的 AI 堆栈来提供当前最好的设备上 AI 性能。

因此,随着每一代新一代智能手机的出现,人们期望看到更强大的设备端 AI 功能,例如智能助手、实时翻译、自动照片编辑和快速生成 AI 图像。

版本声明 本文转载于:https://www.makeuseof.com/what-is-on-device-ai-and-how-does-it-work/如有侵犯,请联系[email protected]删除
最新教程 更多>
  • 群智能算法:三个Python实现
    群智能算法:三个Python实现
    Imagine watching a flock of birds in flight. There's no leader, no one giving directions, yet they swoop and glide together in perfect harmony. It may...
    人工智能 发布于2025-03-24
  • 如何通过抹布和微调使LLM更准确
    如何通过抹布和微调使LLM更准确
    Imagine studying a module at university for a semester. At the end, after an intensive learning phase, you take an exam – and you can recall th...
    人工智能 发布于2025-03-24
  • 什么是Google Gemini?您需要了解的有关Google Chatgpt竞争对手的一切
    什么是Google Gemini?您需要了解的有关Google Chatgpt竞争对手的一切
    Google recently released its new Generative AI model, Gemini. It results from a collaborative effort by a range of teams at Google, including members ...
    人工智能 发布于2025-03-23
  • 与DSPY提示的指南
    与DSPY提示的指南
    DSPY(声明性的自我改善语言程序)通过抽象及时工程的复杂性来彻底改变LLM应用程序的开发。 本教程提供了使用DSPY的声明方法来构建强大的AI应用程序的综合指南。 [2 抓取DSPY的声明方法,用于简化LLM应用程序开发。 了解DSPY如何自动化提示工程并优化复杂任务的性能。 探索实用的DS...
    人工智能 发布于2025-03-22
  • 自动化博客到Twitter线程
    自动化博客到Twitter线程
    本文详细介绍了使用Google的Gemini-2.0 LLM,Chromadb和Shiplit自动化长效内容的转换(例如博客文章)。 手动线程创建耗时;此应用程序简化了该过程。 [2 [2 使用Gemini-2.0,Chromadb和Shatlit自动化博客到twitter线程转换。 获得实用的经...
    人工智能 发布于2025-03-11
  • 人工免疫系统(AIS):python示例的指南
    人工免疫系统(AIS):python示例的指南
    本文探讨了人造免疫系统(AIS),这是受人类免疫系统识别和中和威胁的非凡能力启发的计算模型。 我们将深入研究AIS的核心原理,检查诸如克隆选择,负面选择和免疫网络理论之类的关键算法,并用Python代码示例说明其应用。 [2 抗体:识别并结合特定威胁(抗原)。在AIS中,这些代表了问题的潜在解决方...
    人工智能 发布于2025-03-04
  • 尝试向 ChatGPT 询问这些关于您自己的有趣问题
    尝试向 ChatGPT 询问这些关于您自己的有趣问题
    有没有想过 ChatGPT 了解您的哪些信息?随着时间的推移,它如何处理您提供给它的信息?我在不同的场景中使用过 ChatGPT 堆,在特定的交互后看看它会说什么总是很有趣。✕ 删除广告 所以,为什么不尝试向 ChatGPT 询问其中一些问题来看看它对你的真实看法是什么? 我理想生活中的...
    人工智能 发布于2024-11-22
  • 您仍然可以通过以下方式尝试神秘的 GPT-2 聊天机器人
    您仍然可以通过以下方式尝试神秘的 GPT-2 聊天机器人
    如果您对人工智能模型或聊天机器人感兴趣,您可能已经看过有关神秘的 GPT-2 聊天机器人及其有效性的讨论。在这里,我们解释什么是 GPT-2 聊天机器人以及如何使用访问它。 什么是 GPT-2 聊天机器人? 2024年4月下旬,一个名为gpt2-chatbot的神秘AI模型在LLM测试和基准测试网站...
    人工智能 发布于2024-11-08
  • ChatGPT 的 Canvas 模式很棒:有 4 种使用方法
    ChatGPT 的 Canvas 模式很棒:有 4 种使用方法
    ChatGPT 的新 Canvas 模式为世界领先的生成式 AI 工具中的写作和编辑增添了额外的维度。自 ChatGPT Canvas 推出以来,我一直在使用它,并找到了几种不同的方式来使用这个新的 AI 工具。✕ 删除广告 1 文本编辑 ChatGPT Canvas 是如果你想编辑文本...
    人工智能 发布于2024-11-08
  • ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全
    ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全
    ChatGPT 的自定义 GPT 功能允许任何人为几乎任何你能想到的东西创建自定义 AI 工具;创意、技术、游戏、定制 GPT 都可以做到。更好的是,您可以与任何人分享您的自定义 GPT 创建。 但是,通过共享您的自定义 GPT,您可能会犯一个代价高昂的错误,将您的数据暴露给全球数千人。 什么...
    人工智能 发布于2024-11-08
  • ChatGPT 帮助您在 LinkedIn 上找到工作的 10 种方式
    ChatGPT 帮助您在 LinkedIn 上找到工作的 10 种方式
    LinkedIn 个人资料的“关于”部分有 2,600 个可用字符,是阐述您的背景、技能、热情和未来目标的绝佳空间。查看您的 LinkedIn 简历,作为您的专业背景、技能和抱负的简明摘要。 向 ChatGPT 提供您所有获胜品质的列表,或将您的简历复制粘贴到其中。要求聊天机器人使用这些信息撰写...
    人工智能 发布于2024-11-08
  • 查看这 6 个鲜为人知的 AI 应用程序,它们可提供独特的体验
    查看这 6 个鲜为人知的 AI 应用程序,它们可提供独特的体验
    目前,大多数人都听说过 ChatGPT 和 Copilot,这两款引领 AI 热潮的开创性生成式 AI 应用程序。但是您知道吗,大量鲜为人知的 AI 工具可以提供精彩的、独特的经历?这里有六个最好的。 1 Ditto Music Ditto 不是您可以用来创建独特歌曲的众多 AI 音乐生成器之一,而...
    人工智能 发布于2024-11-08
  • 这 7 个迹象表明我们已经达到人工智能的巅峰
    这 7 个迹象表明我们已经达到人工智能的巅峰
    无论您在网上查找什么,都有网站、服务和应用程序宣称他们使用人工智能使其成为最佳选择。我不了解你的情况,但它的持续存在已经让人厌倦了。 因此,虽然人工智能肯定会留在我们的日常生活中,但有几个迹象表明我们已经达到了人工智能炒作的顶峰。 1 公众兴趣有限 虽然人工智能在科技圈受到了广泛关注,但重要的是要...
    人工智能 发布于2024-11-08
  • 4 个适合教师、讲师和老板的 AI 检查 ChatGPT 检测器工具
    4 个适合教师、讲师和老板的 AI 检查 ChatGPT 检测器工具
    随着 ChatGPT 能力的进步,区分哪些内容是人类编写的,哪些内容是人工智能生成的变得越来越困难。这使得老师和老板很难识别哪些内容是人手写的,哪些内容是通过 ChatGPT 生成的。 如果您很难区分,这里有最好的 ChatGPT 检测工具 我们如何测试每个 ChatGPT 检查工具 有很多...
    人工智能 发布于2024-11-08
  • ChatGPT 的高级语音功能正在向更多用户推出
    ChatGPT 的高级语音功能正在向更多用户推出
    如果您曾经想与 ChatGPT 进行全面对话,现在您可以。也就是说,只要你付费就可以获得使用ChatGPT的特权。更多付费用户正在访问 ChatGPT 的高级语音模式 (AVM),该模式旨在使与 ChatGPT 的交互感觉更加自然。 高级语音来到 ChatGPT Plus 和 Teams Open...
    人工智能 发布于2024-11-08

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3