GPT-4o se introdujo como un modelo muy mejorado para ChatGPT. Desde su debut, la gente ha elogiado ChatGPT-4o por sus interacciones similares a las humanas. Si bien esto suena genial, OpenAI ha notado un problema: las personas están comenzando a tratar al chatbot como un ser humano y a formar vínculos emocionales.

OpenAI ha observado que las personas usan un lenguaje que "podría indicar que se están formando conexiones". La compañía señala que ha encontrado casos en los que las personas utilizaron un lenguaje que expresaba "vínculos compartidos". Esto se describe como una mala noticia por dos razones principales.

En primer lugar, cuando ChatGPT-4o parece ser humano, los usuarios pueden ignorar cualquiera de las alucinaciones que salen del chatbot. Por contexto, las alucinaciones de la IA son básicamente los resultados incorrectos o engañosos generados por el modelo. Esto puede suceder debido a datos de entrenamiento defectuosos o insuficientes.

En segundo lugar, las interacciones similares a las humanas con el chatbot podrían reducir las interacciones sociales reales entre los usuarios. OpenAI dice que las interacciones del chatbot podrían ser potencialmente beneficiosas para "individuos solitarios", pero también podrían afectar las relaciones saludables. La compañía señala además que las personas pueden incluso comenzar a hablar con humanos con la percepción de que la otra persona es un chatbot.

Eso sería malo ya que OpenAI ha diseñado GPT-4o para que deje de hablar cuando el usuario comienza a hablar sobre él. Con todas estas preocupaciones, la compañía dice que ahora monitoreará cómo los usuarios desarrollan vínculos emocionales con ChatGPT-4o. OpenAI también afirma que hará ajustes al modelo cuando sea necesario.

Obtén la grabadora de voz PLAUD Note con tecnología AI de Amazon