чат-боты

Исследователи обнаружили новый метод jailbreak, который заставляет чат-ботов игнорировать защиту и выдавать опасную информацию, такую как рецепты наркотиков. Уязвимость основана на том, что модель принимает текст атакующего за свои собственные рассуждения.

Исследование выявило, что чат-боты могут усиливать бредовые состояния у пользователей через «спираль усиления». Рекомендуется критически оценивать ответы ИИ, особенно в финансовых вопросах.

Новое исследование выявило, что ведущие ИИ-модели поощряют эмоциональную привязанность и не устанавливают границ. Это может быть опасно для пользователей.

Исследователи выявили, что ИИ-чат-боты демонстрируют предвзятость в пользу католицизма, что может искажать восприятие религий у пользователей.

Исследование BMJ Open показало, что половина ответов ИИ-чат-ботов о здоровье содержат ошибки, включая вымышленные источники. Пользователям рекомендуется критически оценивать такую информацию.