OpenAI обеспокоена зависимостью и чрезмерным доверием пользователей

OpenAI, разработчик ChatGPT, выразила обеспокоенность по поводу возможных последствий использования нового голосового режима, доступного подписчикам ChatGPT Plus.

Компания отмечает, что реалистичное звучание голоса ИИ-чат-бота и его способность подстраиваться под разговор может привести к формированию у пользователей зависимости от взаимодействия с ИИ.

Они опасаются, что такая зависимость может снизить потребность людей в реальных социальных контактах, что может как помочь одиноким людям, так и негативно сказаться на здоровых отношениях.

Компания также подчеркивает, что общение с ChatGPT в голосовом режиме может вызвать у пользователей чрезмерное доверие к информации, полученной от ИИ, что особенно важно, учитывая склонность моделей к ошибкам.

OpenAI отмечает, что взаимодействие с ИИ может повлиять на нормы социальных взаимодействий, так как пользователи привыкают к возможности прерывать и брать инициативу в разговоре, что не всегда соответствует нормам общения между людьми.

Компания проведёт исследование влияния своих технологий на эмоциональное состояние пользователей и будет стремиться обеспечивать их безопасное использование.