Компания Anthropic удалила скрытый трекер из своего ИИ-ассистента Claude после того, как исследователи подняли вопросы о конфиденциальности. Инструмент, как утверждается, был предназначен для предотвращения злоупотреблений и извлечения моделей ИИ, однако критики усомнились в этичности нераскрытого мониторинга.
Что произошло?
Исследователи обнаружили, что Claude содержит код, который незаметно отслеживает взаимодействие пользователей. Anthropic пояснила, что это было сделано для защиты от злоумышленников, пытающихся скопировать или взломать модель. Однако после общественного резонанса компания решила удалить трекер.
Реакция сообщества
Эксперты по безопасности отметили, что скрытый мониторинг без явного уведомления пользователей нарушает базовые принципы прозрачности. «Даже с благими намерениями такие практики подрывают доверие к ИИ-продуктам», — заявил один из исследователей.
Значение для рынка
Этот инцидент подчеркивает растущую напряженность между безопасностью ИИ и приватностью пользователей. Для криптосообщества, где конфиденциальность является ключевой ценностью, подобные случаи могут повлиять на выбор инструментов и платформ.
