OpenAI предостерегает о риске эмоциональной зависимости
OpenAI, американская компания, предостерегла, что пользователи могут стать эмоционально зависимыми от реалистичных голосовых функций модели ChatGPT.
Компания OpenAI опубликовала на своем сайте подробности исследований безопасности, проведенных в ChatGPT, а также информацию о новой функции голосового общения, доступной для общения с моделью искусственного интеллекта.
Расширенный голосовой режим ChatGPT, который может отвечать в реальном времени, теперь доступен вместе с GPT-4o по подписке стоимостью 20 долларов в месяц. OpenAI выражает обеспокоенность тем, что этот режим, создающий иллюзию общения с человеком, может стать заменой реальных человеческих взаимодействий.
Компания отметила, что из-за реалистичности нового голосового режима пользователи могут начать чрезмерно полагаться на ChatGPT для общения, что может привести к зависимости.
Первоначальные исследования показали, что время ответа голосового режима в 232 миллисекунды близко к времени реакции обычного человека в разговоре. Также было замечено, что пользователи используют язык, свидетельствующий о наличии эмоциональной связи с технологией, благодаря ее естественности и реалистичности.
"Пользователи могут уменьшить потребность в человеческом взаимодействии, устанавливая социальные связи с помощью искусственного интеллекта. Это может быть полезным для одиноких людей, но также имеет потенциал оказать влияние на здоровые отношения", — говорится в отчете.
