De chatbots a carros autônomos, a IA está transformando o cenário tecnológico. Uma área onde a adoção da IA ​​está a acelerar rapidamente é nos dispositivos de consumo, como os smartphones. Os gigantes da tecnologia estão correndo para integrar recursos de IA nos dispositivos em seu hardware e software mais recentes.

Mas o que exatamente é IA no dispositivo e como ela funciona?

O que é IA no dispositivo e como funciona

Hoje, a maior parte da IA ​​de consumo é alimentada por enormes conjuntos de dados armazenados na nuvem. No entanto, o upload de dados pessoais para servidores de IA não é bom para a privacidade. É aí que entra a IA no dispositivo.

IA no dispositivo refere-se a recursos de inteligência artificial executados localmente em um dispositivo, e não na nuvem. Isso significa que o processamento de IA ocorre diretamente no seu telefone, tablet ou outros dispositivos, sem conexão com a Internet.

Veja como funciona nos bastidores: modelos de IA como Stable Diffusion, DALLE-E, Midjourney, etc., são treinados na nuvem usando muitos dados e poder de computação. Esses modelos são então otimizados para funcionar com eficiência nos dispositivos de destino. Os modelos de IA otimizados são incorporados em aplicativos e baixados no dispositivo de cada usuário. Os dados do aplicativo permanecem isolados em um enclave seguro.

Quando o aplicativo precisa realizar uma tarefa como reconhecer um som ou identificar um objeto em uma foto, ele executa o modelo de IA localmente usando a CPU ou GPU integrada do dispositivo. O modelo de IA processa os dados de entrada e gera uma previsão ou resultado de saída sem enviar quaisquer dados externamente.

Tudo isso acontece inteiramente no seu dispositivo, mantendo suas interações privadas.

Como a IA no dispositivo pode beneficiar você

A IA no dispositivo permite recursos impressionantes em seu dispositivo. Isso inclui a geração rápida de imagens usando modelos como Stable Diffusion, onde as imagens podem ser criadas em segundos, o que é extremamente rápido. Isso pode ser ótimo se você deseja criar imagens e planos de fundo para suas postagens nas redes sociais rapidamente. E como é processado localmente, os prompts de imagem permanecem privados.

Um assistente de IA também pode ser alimentado localmente, proporcionando uma experiência personalizada com base em seus dados e preferências, como atividades favoritas e níveis de condicionamento físico. Ele pode compreender a linguagem natural para tarefas como edição de fotos e vídeos. Por exemplo, você pode dizer “remover a pessoa à esquerda” para editar uma imagem instantaneamente.

Para fotografia, a IA no dispositivo pode habilitar recursos como estender as bordas da imagem (semelhante ao recurso de preenchimento do Photoshop), usar câmeras frontal e traseira simultâneas para efeitos de vídeo e editar diferentes camadas de forma independente.

Os gráficos de jogos também podem se beneficiar da IA ​​no dispositivo por meio do aumento da resolução para 8K, acelerando o traçado de raios para uma iluminação realista e duplicando com eficiência as taxas de quadros. Em relação ao áudio, a IA no dispositivo pode permitir a sincronização de áudio em tempo real para que o áudio de vídeos e jogos nunca fique fora de sincronia. Ele também permite chamadas e música nítidas, mesmo se você entrar em outra sala.

No geral, a IA no dispositivo se alinha com o que muitos usuários desejam – resultados rápidos e privacidade – pois mantém mais processamento local em vez de na nuvem.

A IA no dispositivo traz experiências de IA mais rápidas e privadas

A IA no dispositivo é muito legal. Ele permite que nossos telefones e outros dispositivos executem algoritmos avançados de IA localmente, sem a necessidade de conexão com a nuvem e sem atrasos.

Empresas como a Qualcomm já estão empacotando seus chips mais recentes com hardware especializado para executar redes neurais com eficiência em nossos dispositivos. Por exemplo, o Snapdragon 8 Gen 3 da Qualcomm suporta até 24 GB (em um smartphone!), tem suporte integrado para Stable Diffusion e Llama 2 e usa o AI Stack da Qualcomm para oferecer o melhor desempenho de IA no dispositivo no momento.

Portanto, com cada nova geração de smartphones, espere ver recursos de IA no dispositivo ainda mais poderosos para coisas como assistentes inteligentes, tradução em tempo real, edição automatizada de fotos e geração de imagens de IA generativas extremamente rápidas.