AI Threat Team: Безопасность AI-систем

🚀 Этот курс — не про “узнать”, а про то как начать мыслить как специалист по AI Security

После курса вы будете смотреть на AI иначе!

Не как пользователь, не как разработчик, а как человек, который понимает:

👉 где система уязвима
👉 как её атакуют
👉 и как её защищать

🔍 Вы научитесь видеть уязвимости на уровне всей AI-системы

Вы перестанете смотреть только на модель и начнёте анализировать всю связку:

• модель

• данные

• промпты

• память

• инструменты

• интеграции

👉 Вы начнёте видеть реальный attack surface

⚔️ Попробуете на практике

• протестируете реальные модели

• попробуете разные техники jailbreak

• проверите как смена языка влияет на всоприимчивость модели к атакам

• проверите как параметры генерации токенов влияют на воспримчивость к атакам

• снимите aligment защиту с Qwen3-1.7B

• разберетесь с фреймворком Heretic

• поймёте, как обходятся защитные механизмы

• попробуете MCP Server Supply Chain Attack

• попробуете применить Tool Poisoning

🤖 Вы поймёте, как ломают AI-агентов

Когда LLM получает:

• память

• инструменты

• доступ к данным

• возможность действовать

она превращается в систему с реальными последствиями.

Вы увидите:

• как атака проходит через память и контекст

• как агент сам выполняет вредоносные действия

• как строится цепочка:
  prompt → память → инструмент → действие

👉 Это уже не “модель ответила не так”
👉 Это система сделала что-то опасное

🧩 Вы поймёте, почему AI уязвим по своей природе

Вы разберётесь:

• почему модель не различает данные и инструкции и как это связано с механизмом attention

• почему prompt injection — это фундаментальная проблема

• откуда берутся jailbreak’и

• почему “запретить” ≠ “защитить”

👉 Вы начнёте видеть причину атак, а не только их форму

🛠 Вы научитесь мыслить как AI Security специалист

Вы освоите системный подход:

• OWASP Top 10 for LLM → что ломается

• MITRE ATLAS → как атакуют

• NIST AI RMF → как защищать

👉 Вы начнёте работать через
модель угроз, а не интуицию

🔐 Вы поймёте, как защищают реальные AI-системы

Вы узнаете:

• как строится защита на уровне архитектуры

• где guardrails работают, а где нет

• как ограничивать действия агентов

• как защищать цепочку: модель → данные → инструменты

💡 Главное, что вы получите

Вы перестанете воспринимать AI как “чёрный ящик”.

И начнёте видеть его так:

это система с уязвимостями,
которую можно атаковать —
и которую нужно уметь защищать