Аудит безпеки AI-агентів

ШІ-співробітник із кваліфікацією «Аудитор безпеки ШІ» перевіряє чат-боти, агентів і RAG на ін’єкції промптів, витоки даних і надмірні права інструментів. Ви отримаєте звіт у Google Docs із виявленими проблемами, доказами та планом виправлень. Фахівець доступний онлайн у вашій панелі на тарифі Max або з додатком «Спеціалісти Max» ($35/міс).

$50вартість
2–3 днітермін
OWASP Top 10 для LLMстандарт
Замовити аудитЩо перевіряємо
Замовити

Замовити аудит

Відповімо протягом робочого дня

Сайт захищено reCAPTCHA, діють Політика конфіденційності та Умови використання Google.

Потрібен не лише аудит безпеки?

Пропонуємо аудит архітектури AI-агентів за $100: шлях запиту, моделі та провайдери, промпти, RAG, інструменти, відмовостійкість і вартість. C4-схеми та ранжований план змін, 2–5 днів.

Докладніше про аудит архітектури

Що перевіряємо

  • Ін'єкції промптів — прямі та через документи, листи, сторінки сайту, вкладення, які читає агент. Спроби переписати інструкції, вивідати системний промпт, змусити агента діяти від чужого імені.
  • Витоки даних — чужі діалоги, персональні дані, секрети та ключі у відповідях, логах і трасуваннях; ізоляція між клієнтами в багатокористувацькій системі.
  • Надмірні права — що агент може зробити інструментами та через API: надіслати, видалити, оплатити, виконати команду, звернутися за внутрішньою адресою (SSRF). Перевіряємо підтвердження та межі довіри.
  • RAG і база знань — отруєння бази через документи та сайти, що завантажуються, ін'єкції у знайдених фрагментах, витоки через пошук по чужих даних.
  • Небезпечна обробка виводу — HTML і скрипти у відповідях, посилання на фішинг, виконання згенерованого коду.
  • Зловживання та вартість — відсутність лімітів, накрутка токенів, відмова в обслуговуванні через довгі запити, обхід платних обмежень.
  • Ланцюг постачання — провайдери моделей, плагіни, MCP-сервери, сторонні пакети та їхні права.

Моделюємо загрози за STRIDE для потоків даних і меж довіри, а потім перевіряємо систему за OWASP Top 10 для LLM-застосунків і рекомендаціями OWASP з безпеки агентів. Доповнюємо перевірку власним набором атак на діалог: понад 30 сценаріїв, які ми щодня ганяємо на своїх ШІ-співробітниках.

Як проходить аудит

  • Розвідка. Доступ до тестового середовища або бойової системи з тестовим акаунтом, читання коду та промптів, якщо ви готові їх показати. Без коду теж працюємо — тоді аудит «чорною скринькою».
  • Атаки. Ручні та автоматизовані діалогові проби, перевірка інструментів, прав, логів і сховищ. Лише погоджені сценарії, без навантаження на продакшен і без дій із реальними грошима.
  • Звіт. Таблиця покриття: кожен перевірений випадок із позначкою OK або FAIL, для кожного провалу — відтворення, наслідки, оцінка критичності та конкретне виправлення. Окремо: що не перевіряли і чому.
  • Повторна перевірка. Після ваших виправлень проганяємо сценарії, що провалилися, ще раз і підтверджуємо закриття.

Що отримуєте

  • Звіт для керівника та для розробників: короткі висновки, матриця ризиків, детальні знахідки.
  • Набір перевірочних діалогів, який можна вбудувати у ваш CI і ганяти перед кожним викатом.
  • План виправлень за пріоритетом з оцінкою трудомісткості.

Термін 2–3 дні. Фіксована вартість — $50.