Admin
Администратор
Исследователи DeepKeep обнаружили метод атаки InkJect, который позволяет скрывать вредоносные команды для мультимодальных ИИ-систем внутри изображений. Атака использует слабое место защитных механизмов, которые плохо распознают скрытые инструкции в картинках. Модель может выполнить команду, например создать учетную запись администратора, пока пользователь видит только нормальный результат работы. Атака работает даже если текст на изображении невидим для человека или искажен для обхода OCR. Проблема затрагивает модели OpenAI и Anthropic, которые успешно выполняли скрытые команды.