
Эксперты предупреждают о новой уязвимости в системах генеративного ИИ
Исследования компании HiddenLayer, специализирующейся на безопасности искусственного интеллекта, выявили потенциальную угрозу, связанную с техникой составления запросов к моделям генеративного ИИ, известной как Policy Puppetry. Эта методика может быть использована для обхода защитных механизмов крупнейших систем ИИ. Об этом сообщает 3dnews.ru. Суть атаки заключается в формулировании запросов таким образом, что языковые модели воспринимают их как политики…