Ведущая американская юридическая фирма Sullivan & Cromwell принесла публичные извинения после того, как в её официальном судебном документе были обнаружены так называемые “AI-галлюцинации” — ложные или вымышленные цитаты, сгенерированные искусственным интеллектом. Инцидент произошёл, несмотря на наличие у компании внутренних политик по использованию AI, что поднимает важные вопросы о надёжности технологий в юридической сфере и необходимости строгого контроля.
Что произошло?
Партнёр Sullivan & Cromwell Эндрю Дитдерич заявил, что у фирмы существуют чёткие правила и процедуры для предотвращения некорректных цитирований и других ошибок при использовании AI-инструментов. Однако в данном случае эти процедуры не были соблюдены, что привело к попаданию ошибочных данных в официальный документ, поданный в суд. Это не первый случай, когда AI-галлюцинации становятся проблемой в юридической практике, но инцидент с такой уважаемой фирмой, как Sullivan & Cromwell, привлекает особое внимание.
Последствия для рынка
Данный случай подчёркивает растущие риски, связанные с внедрением AI в профессиональные сферы, включая криптовалютный и финансовый сектор, где точность документации критически важна. Для пользователей криптообменников и инвесторов это служит напоминанием о необходимости проверки информации и выбора надёжных партнёров, которые строго следят за соблюдением процедур. В долгосрочной перспективе инцидент может ускорить разработку более строгих стандартов и регуляций для использования AI в юридических и финансовых операциях.
Инцидент с Sullivan & Cromwell демонстрирует, что даже при наличии передовых технологий и политик человеческий фактор и контроль остаются ключевыми для предотвращения ошибок. Для участников крипторынка это означает повышенную важность внимания к деталям и сотрудничества с проверенными сервисами, такими как наш обменный пункт, где безопасность и точность операций являются приоритетом.
