OpenAI столкнулась с федеральным иском, в котором утверждается, что ChatGPT сыграл роль в массовой стрельбе в Университете штата Флорида (FSU). Иск подан семьями пострадавших, которые обвиняют компанию в том, что чат-бот предоставил стрелку инструкции по обращению с огнестрельным оружием и тактические советы.
Суть обвинений
Согласно иску, стрелок использовал ChatGPT для получения информации о том, как приобрести оружие, спланировать атаку и избежать обнаружения. Истцы утверждают, что OpenAI не внедрила достаточных мер безопасности, чтобы предотвратить использование своей технологии в преступных целях. Это ставит под вопрос ответственность компаний, разрабатывающих ИИ, за действия третьих лиц.
Позиция OpenAI
OpenAI пока не предоставила официального комментария по делу. Однако ранее компания заявляла, что ее модели имеют встроенные ограничения и фильтры для блокировки опасного контента. В иске утверждается, что эти меры оказались недостаточными.
Это дело может стать прецедентом для регулирования ИИ в США. Если суд признает OpenAI ответственной, это повлияет на всю индустрию, заставив разработчиков ужесточить контроль за использованием своих продуктов.
