GPT-4o был представлен как значительно улучшенная модель ChatGPT. С момента его дебюта люди хвалили ChatGPT-4o за его взаимодействие с человеком. Хотя это звучит здорово, OpenAI заметила проблему: люди начинают относиться к чат-боту как к человеку и формировать эмоциональные связи.

OpenAI наблюдала, как люди используют язык, который «может указывать на формирование связей». Компания отмечает, что обнаружила случаи, когда люди использовали язык, выражающий «общие узы». Это описывается как плохая новость по двум основным причинам.

Прежде всего, когда ChatGPT-4o выглядит как человек, пользователи могут игнорировать любые галлюцинации, исходящие от чат-бота. В контексте галлюцинации ИИ — это, по сути, неверные или вводящие в заблуждение результаты, генерируемые моделью. Это может произойти из-за ошибочных или недостаточных обучающих данных.

Во-вторых, человеческое взаимодействие с чат-ботом может снизить реальное социальное взаимодействие между пользователями. OpenAI утверждает, что взаимодействие с чат-ботами потенциально может быть полезно для «одиноких людей», но они также могут повлиять на здоровые отношения. Компания далее отмечает, что люди могут даже начать разговаривать с людьми, воспринимая другого человека как чат-бота.

Это было бы плохо, поскольку OpenAI разработал GPT-4o так, чтобы он прекращал говорить, когда пользователь начинает говорить по нему. Несмотря на все эти опасения, компания заявляет, что теперь будет следить за тем, как у пользователей развивается эмоциональная связь с ChatGPT-4o. OpenAI также заявляет, что при необходимости внесет в модель коррективы.

Купите диктофон PLAUD Note с искусственным интеллектом на Amazon