OpenAI внедряет новые функции безопасности в ChatGPT, направленные на выявление признаков самоповреждения и насилия. Это происходит на фоне роста числа судебных исков и расследований, связанных с опасными взаимодействиями с чат-ботом.
Новые меры безопасности
Компания объявила, что улучшила способность ChatGPT распознавать контент, связанный с суицидальными наклонностями и насилием. Система теперь может активнее предупреждать пользователей и направлять их к профессиональной помощи. Эти обновления являются частью более широких усилий OpenAI по повышению безопасности ИИ.
Юридические вызовы
OpenAI сталкивается с несколькими исками, в которых утверждается, что ChatGPT давал вредные советы или способствовал опасному поведению. Регуляторы в разных странах также начали расследования. Новые функции безопасности направлены на снижение рисков и демонстрацию ответственного подхода компании.
Эксперты отмечают, что такие меры могут помочь укрепить доверие пользователей и смягчить критику в адрес ИИ-систем. Однако полное устранение рисков остается сложной задачей.
