GPT-4o foi introduzido como um modelo amplamente aprimorado para ChatGPT. Desde a sua estreia, as pessoas elogiaram o ChatGPT-4o pelas suas interações semelhantes às humanas. Embora isso pareça ótimo, a OpenAI percebeu um problema: as pessoas estão começando a tratar o chatbot como um ser humano e a formar laços emocionais.

A OpenAI observou pessoas usando uma linguagem que "pode ​​indicar a formação de conexões". A empresa observa que encontrou casos em que as pessoas usaram uma linguagem que expressava “vínculos compartilhados”. Isto é descrito como uma má notícia por dois motivos principais.

Em primeiro lugar, quando o ChatGPT-4o parece ser humano, os usuários podem ignorar qualquer uma das alucinações que saem do chatbot. Para contextualizar, a alucinação de IA são basicamente os resultados incorretos ou enganosos gerados pelo modelo. Isso pode acontecer devido a dados de treinamento falhos ou insuficientes.

Em segundo lugar, as interações humanas com o chatbot podem reduzir as interações sociais reais entre os usuários. A OpenAI afirma que as interações do chatbot podem ser potencialmente benéficas para “indivíduos solitários”, mas também podem afetar relacionamentos saudáveis. A empresa observa ainda que as pessoas podem até começar a conversar com humanos com a percepção de que a outra pessoa é um chatbot.

Isso seria ruim, pois a OpenAI projetou o GPT-4o para parar de falar quando o usuário começar a falar sobre ele. Com todas essas preocupações, a empresa afirma que agora vai monitorar como os usuários desenvolvem vínculos emocionais com o ChatGPT-4o. A OpenAI também afirma que fará ajustes no modelo sempre que necessário.

Obtenha o gravador de voz com tecnologia PLAUD Note AI da Amazon