The Security Model Of An Agent

Часть курса Vibe Coding: Advanced Engineering

Агент с инструментами это программа, которая принимает инструкции из текста и действует на ваших системах. Часть этого текста написали вы. Часть приходит с веб-страницы, из тикета, из README зависимости или из комментария в коде, оставленного незнакомым человеком. Ничто в архитектуре не разделяет эти две категории, и один этот факт порождает почти всю поверхность атаки в разработке с ИИ.

Откройте injection_demo.py и нажмите «Запустить». Демо изображает агента, который читает обращение в поддержку, отправленное через публичную форму ...