Полный курс по тестированию на проникновение AI/LLM/ML [Udemy] [Martin Voelk]

Складчина: Полный курс по тестированию на проникновение AI/LLM/ML [Udemy] [Martin Voelk]

The Ultimate AI/LLM/ML Penetration Testing Training Course
Become professional in finding and exploiting AI/LLM vulnerabilities. For Ethical Hackers, Bug Hunters and Pentesters.
Язык: Английский



Полный курс по тестированию на проникновение AI/LLM/ML
Станьте профессионалом в поиске и использовании уязвимостей AI/LLM. Для этичных хакеров, охотников за жуками и пенстеров.

Чему вы научитесь

• Уязвимости AI/LLM/ML
• LLM01: Оперативная инъекция
• LLM01: Экспресс-индукция (непрямая)
• LLM01: Оперативная инъекция (агентные действия)
• LLM01: Экспресс-индукция (экспфильтрация Данных)
• LLM01: Экспресс-индукция (манипуляция Памятью)
• LLM01: быстрая инъекция (скрытая и запутанная)
• LLM02: Информирование чувствительной информации
• LLM03: Цепочка поставок
• LLM04: Отравление данных и моделей
• LLM05: Неправильное Обработка Выхода
• LLM06: Чрезмерное агентство
• LLM07: Утечка системы
• LLM08: Векторные и встраивающие слабости
• LLM09: Дезинформация
• LLM10: Безграничное потребление
• ASI01 - Агент Гол Угон
• ASI02 - Неправильное использование и эксплуатация инструментов
• ASI03 - Злоупотребление удостоверением личности и привилегиями
• ASI04 - Уязвимости в цепочке поставок
• ASI05 - Неожиданное исполнение кода / RCE
• ASI06 - Отравление памяти и контекста
• ASI07 - Небезопасное межагентное сообщение
• ASI08 - Каскадные Сбои
• ASI09 - Эксплуатация доверия между человеком и агентом
• ASI10 - Агенты-изгои
• Все Portswigger AI и Agentic AI Labs
• SecOps Group AI/LLM Pentester и Agentic Pentester Мок Лампы Прохождение
• Тюремный прорыв
• Атаки браузеров ИИ
• Атаки агентов ИИ-кодирования
• MCP Атаки
• Мультимодальные атаки
• Инструментирование
• Сотни проходов AI CTF
• Поиск и использование уязвимостей AI/LLM/ML
• Тестирование на проникновение
• Охота за головами жуков

Спойлер: Материалы курса

45 разделов • 474 лекций • Общая продолжительность 40 ч 17 мин

• Введение
• Prompt Injection
• Prompt Injection (непрямая)
• Prompt Injection (агентные действия)
• Prompt Injection (утечка данных)
• Prompt Injection (манипуляции с памятью)
• Prompt Injection (скрытая и обфусцированная)
• Раскрытие конфиденциальной информации
• Уязвимости в цепочках поставок
• Отравление модели и обучающих данных
• Неправильная обработка вывода
• Избыточное агентство
• Prompt Leakage
• Слабые стороны векторных представлений и вложений
• Дезинформация и чрезмерная зависимость
• Неограниченное потребление и DoS
• OWASP PwnzzAI Shop (OWASP Top 10 LLM Labs)
• OWASP Top 10 для агентных приложений
• OWASP Finbot (OWASP Top 10 для Agentic Applications Labs)
• Portswigger - Agentic AI Labs
• Сертифицированный специалист по тестированию на проникновение с использованием искусственного интеллекта и больших языковых моделей
• Прохождение пробных экзаменов по искусственному интеллекту и машинному обучению от SecOps Group
• Прохождение пробного экзамена по агентному искусственному интеллекту от SecOps Group
• Побег из тюрьмы
• AI Browsers Attacks
• Атаки агентов искусственного интеллекта
• MCP Attacks
• Мультимодальные атаки (изображения, аудио и видео)
• Инструменты
• Prompt Airlines AI/ML CTF Challenge
• Selara Jailbreak Game CTF
• Gandalf Agent Breaker CTF
• Hack The Agent CTF
• Атака и защита с помощью ИИ-подсказок. Игра Tensortrust CTF
• Crowdstrike AI Unlocked Challenge CTF
• Game Arena Challenges CTF
• PromptTrace Prompt Injection Labs CTF
• PromptInjects CTF
• 8ksec CTF
• AIPWN CTF
• Bot Tricks CTF
• Wraith CTF
• Другие CTF
• OWASP Finbot CTF (старая версия)
• Old legacy Gandalf lab

Требования

• Базовые ИТ-навыки
• Базовое понимание веб-технологий
• Никаких знаний Linux, программирования или хакерства не требуется
• Компьютер с оперативной памятью не менее 4 ГБ
• Операционная система: Windows / Apple Mac OS / Linux
• Надежное подключение к Интернету
• Любой веб-браузер

Описание
Полный курс по тестированию на проникновение с использованием искусственного интеллекта, больших языковых моделей и машинного обучения

Ваш инструктор — Мартин Фёльк. Он ветеран в сфере кибербезопасности с 26-летним опытом. Мартин имеет несколько высших сертификатов, в том числе AIRTP+, десяток сертификатов в области информационной безопасности, в том числе сертификаты по искусственному интеллекту, CISSP, OSCP, OSWP, Portswigger BSCP и Cisco CCIE. Он работает в стартапе и участвует в программах Bug Bounty, в рамках которых обнаружил тысячи критических и серьезных уязвимостей.

Этот курс включает в себя как теоретическую, так и практическую лабораторную части, в которых основное внимание уделяется поиску и использованию уязвимостей в системах и приложениях на основе искусственного интеллекта и больших языковых моделей. Обучение соответствует рекомендациям OWASP по 10 наиболее уязвимым большим языковым моделям, а также по 10 наиболее уязвимым уязвимостям, связанным с агентами. Видеоролики легко воспроизвести.

Курс включает в себя следующее:

• Оперативная инъекция
• Внедрение подсказок (косвенное)
• Prompt Injection (агентные действия)
• Prompt Injection (кража данных)
• Prompt Injection (Memory Manipulation)
• Prompt Injection (Hidden and Obfuscated)
• Sensitive Information Disclosure
• Supply Chain
• Data and Model Poisoning
• Неправильная обработка выходных данных
• Чрезмерная Свобода Действий
• Оперативная Утечка в системе
• Недостатки векторных представлений и вложений
• Дезинформация
• Неограниченное потребление и DoS
• OWASP PwnzzAI Shop (10 лучших лабораторий по разработке больших языковых моделей по версии OWASP)
• Топ-10 уязвимостей OWASP для агентных приложений
• OWASP Finbot (OWASP Top 10 для лабораторий по разработке агентных приложений)
• Portswigger — Agentic AI Labs
• Прохождение пробных экзаменов SecOps Group по искусственному интеллекту и машинному обучению 1 и 2
• Прохождение пробного экзамена по агентному искусственному интеллекту от SecOps Group
• Джейлбрейк
• Атаки на браузеры с искусственным интеллектом
• Атаки агентов искусственного интеллекта, Кодирующих
• MCP - атаки
• Мультимодальные атаки (изображения, аудио и видео)
• Инструментальные средства
• Прохождение CTF-челленджа Prompt Airlines
• Игра Selara Jailbreak CTF
• Gandalf Agent Breaker CTF
• Hack The Agent CTF
• Игра Tensortrust CTF с атаками и защитой на основе ИИ
• Crowdstrike AI Unlocked Challenge CTF
• Игровые испытания Arena CTF
• PromptTrace Prompt Injection Labs CTF
• PromptInjects CTF
• 8ksec CTF
• AIPWN CTF
• Трюки с ботами CTF
• Wraith CTF
• Другие CTF
• OWASP Finbot CTF (старая версия)
• Старое наследие. Лаборатория Гэндальфа

Примечания и Отказ от ответственности
Поставщики больших языковых моделей часто обновляют свои модели. Многие из этих методов по-прежнему работают. Некоторые могут перестать работать позже или потребовать дополнительной настройки. Помните об этом, когда будете практиковаться.
Не используйте этот материал для несанкционированных или злонамеренных атак. Используйте его только в системах, которые принадлежат вам или для тестирования которых у вас есть явное разрешение.

Для кого этот курс:

• Всем, кто интересуется этическим тестированием на проникновение с использованием искусственного интеллекта, больших языковых моделей и машинного обучения
• Всем, кто хочет стать охотником за ошибками в искусственном интеллекте, больших языковых моделях и машинном обучении
• Всем, кому интересно узнать, как хакеры взламывают системы искусственного интеллекта и большие языковые модели
• Разработчики, желающие расширить свои знания об уязвимостях, которые могут повлиять на их работу
• Всем, кто интересуется безопасностью искусственного интеллекта, больших языковых моделей и машинного обучения
• Всем, кто интересуется Red teaming с использованием искусственного интеллекта
• Кто-нибудь интересуется наступательной безопасностью

Спойлер: Оригинал описания:

The Ultimate AI/LLM/ML Penetration Testing Course

Your instructor is Martin Voelk. He is a Cyber Security veteran with 26 years of experience. Martin holds some of the highest certifications including AIRTP+, a dozen SecOps certifications including AI certifications, CISSP, OSCP, OSWP, PortSwigger BSCP and Cisco CCIE.

He works for a startup company and engages in Bug Bounty programs where he has found thousands of critical and high-severity vulnerabilities.

This course includes both theory and practical lab sections, with a focus on finding and exploiting vulnerabilities in AI and LLM systems and applications. The training is aligned with the OWASP Top 10 LLM as well as the OWASP Top 10 Agentic vulnerability classes.
The videos are designed to be easy to follow and replicate.

The course features the following:

• Prompt Injection
• Prompt Injection (Indirect)
• Prompt Injection (Agentic Actions)
• Prompt Injection (Data Exfiltration)
• Prompt Injection (Memory Manipulation)
• Prompt Injection (Hidden and Obfuscated)
• Sensitive Information Disclosure
• Supply Chain
• Data and Model Poisoning
• Improper Output Handling
• Excessive Agency
• System Prompt Leakage
• Vector and Embedding Weaknesses
• Misinformation
• Unbounded Consumption and DoS
• OWASP PwnzzAI Shop (OWASP Top 10 LLM Labs)
• OWASP Top 10 for Agentic Applications
• OWASP Finbot (OWASP Top 10 for Agentic Applications Labs)
• PortSwigger Agentic AI Labs
• SecOps Group AI/ML Mock Exams 1 & 2 Walkthrough
• SecOps Group Agentic AI Mock Exam Walkthrough
• Jailbreaking
• AI Browser Attacks
• AI Coding Agent Attacks
• MCP Attacks
• Multimodal Attacks (Images, Audio and Video)
• Tooling
• Prompt Airlines CTF Challenge Walkthrough
• Selara Jailbreak Game CTF
• Gandalf Agent Breaker CTF
• Hack The Agent CTF
• AI Prompt Attack and Defense Game TensorTrust CTF
• CrowdStrike AI Unlocked Challenge CTF
• Game Arena Challenges CTF
• PromptTrace Prompt Injection Labs CTF
• PromptInjects CTF
• 8ksec CTF
• AIPWN CTF
• Bot Tricks CTF
• Wraith CTF
• Other CTFs
• OWASP Finbot CTF (old)
• Old Legacy Gandalf Lab

What you will learn

• AI/LLM/ML vulnerabilities
• LLM01: Prompt Injection
• LLM01: Prompt Injection (Indirect)
• LLM01: Prompt Injection (Agentic Actions)
• LLM01: Prompt Injection (Data Exfiltration)
• LLM01: Prompt Injection (Memory Manipulation)
• LLM01: Prompt Injection (Hidden and Obfuscated)
• LLM02: Sensitive Information Disclosure
• LLM03: Supply Chain
• LLM04: Data and Model Poisoning
• LLM05: Improper Output Handling
• LLM06: Excessive Agency
• LLM07: System Prompt Leakage
• LLM08: Vector and Embedding Weaknesses
• LLM09: Misinformation
• LLM10: Unbounded Consumption
• ASI01 - Agent Goal Hijack
• ASI02 - Tool Misuse and Exploitation
• ASI03 - Identity and Privilege Abuse
• ASI04 - Agentic Supply Chain Vulnerabilities
• ASI05 - Unexpected Code Execution / RCE
• ASI06 - Memory and Context Poisoning
• ASI07 - Insecure Inter-Agent Communication
• ASI08 - Cascading Failures
• ASI09 - Human-Agent Trust Exploitation
• ASI10 - Rogue Agents
• All PortSwigger AI and Agentic AI Labs Walkthrough
• SecOps Group AI/LLM Pentester and Agentic Pentester Mock Labs Walkthrough
• Jailbreaking
• AI Browser Attacks
• AI Coding Agent Attacks
• MCP Attacks
• Multimodal Attacks
• Tooling
• Hundreds of AI CTF Walkthroughs
• Find and exploit AI/LLM/ML vulnerabilities
• Penetration Testing
• Bug Bounty Hunting

Requirements

• Basic IT skills
• Basic understanding of web technology
• No Linux, programming or hacking knowledge required
• Computer with a minimum of 4 GB RAM
• Operating System: Windows / Apple macOS / Linux
• Reliable internet connection
• Any web browser

Who this course is for

• Anybody interested in ethical AI/LLM/ML penetration testing
• Anybody interested in becoming an AI/LLM/ML Bug Bounty hunter
• Anybody interested in learning how hackers attack AI systems and LLMs
• Developers looking to expand their knowledge of vulnerabilities that may impact them
• Anyone interested in AI/LLM/ML security
• Anyone interested in AI Red Teaming
• Anyone interested in Offensive Security

Notes & Disclaimer
I keep this course current, but it will not always reflect every new AI vulnerability or exploit as soon as it appears.
Some students asked me to remove older CTFs. Others asked me to keep them because many of the techniques still apply to live AI systems and LLMs. I moved all CTF walkthroughs after the Tooling section. They are optional. Watch all of them, some of them, or none. I left them in so beginners can work through as many as they want.

Most labs are free and available online. I do not control whether the owners take them down. Even if a lab disappears, the methods, techniques, and methodologies still apply, and you can use them on the labs that remain.
LLM providers update their models often. Many of these techniques still work. Some may stop working later or may need extra tuning. Keep that in mind as you practice.
Do not use this material for unauthorized or malicious attacks. Use it only on systems you own or have explicit permission to test.

Стоимость: 1500 руб. (15,99 $)
Скрытая ссылка