AI Red Teamer: редтиминг систем на базе ИИ (часть 2/2025) [HTB Academy]

Складчина: AI Red Teamer: редтиминг систем на базе ИИ (часть 2/2025) [HTB Academy]

AI Red Teamer Job Role Path



Программа подготовки на позицию AI Red Teamer, созданная в сотрудничестве с Google, обучает специалистов по кибербезопасности оценивать, эксплуатировать и защищать системы на базе искусственного интеллекта. Курс охватывает внедрение промптов (prompt injection), атаки на конфиденциальность моделей, использование ИИ в злонамеренных целях (adversarial AI), риски цепочки поставок и угрозы на этапе развертывания, сочетая теорию с практическими упражнениями. Курс разработан в соответствии с фреймворком для создания безопасного ИИ (Secure AI Framework/SAIF) от Google, что обеспечивает его релевантность для реальных задач, связанных с безопасностью ИИ. Вы приобретете следующие навыки: манипулирование поведением моделей, разработка стратегий red teaming, заточенных под ИИ, и проведение наступательного тестирования безопасности в отношении приложений, основанных на ИИ.

Ключевые темы курса:

• Основы ИИ
• Варианты использования ИИ в информационной безопасности
• Введение в red teaming ИИ
• Атаки с внедрением промптов
• Атаки на вывод LLM
  
• Атаки на данные ИИ
  
• Атаки на прикладные и системные компоненты развертываний ИИ
• Атаки на модели ИИ с уклонением - основы
• Атаки на модели ИИ с уклонением - First-Order атаки
  
• Атаки на модели ИИ с уклонением - атаки на разреженность данных
  
• Атаки на конфиденциальность ИИ
• Защита ИИ

Содержание второй части:

Модуль 02: Применение ИИ в информационной безопасности

Этот модуль представляет собой практическое введение в создание моделей ИИ, которые могут применяться в различных областях информационной безопасности. Он охватывает настройку контролируемой среды для ИИ с использованием Miniconda для управления пакетами и JupyterLab для интерактивных экспериментов. Студенты научатся работать с наборами данных, выполнять предварительную обработку и преобразование данных, а также реализовывать структурированные рабочие процессы для таких задач, как классификация спама, обнаружение сетевых аномалий и классификация малвари. На протяжении модуля учащиеся познакомятся с ключевыми Python-библиотеками, такими как Scikit-learn и PyTorch, изучат эффективные подходы к обработке наборов данных и ознакомятся с распространенными метриками оценки, что позволит им понимать полный жизненный цикл разработки и экспериментирования с моделями ИИ.

Ключевые темы модуля:

• Введение
• Настройка окружения
• JupyterLab
• Python-библиотеки для ИИ
• Наборы данных
• Предварительная обработка данных
• Преобразование данных
• Метрики для оценки модели
• Классификация спама
• Набор данных со спамом
• Предварительная обработка набора данных со спамом
• Извлечение признаков
• Обучение и оценка (обнаружение спама)
• Оценка модели (обнаружение спама)
• Обнаружение сетевых аномалий
• Предварительная обработка и разделение набора данных
• Обучение и оценка (обнаружение сетевых аномалий)
• Оценка модели (обнаружение сетевых аномалий)
• Классификация малвари
• Набор данных с малварью
• Предварительная обработка набора данных с малварью
• Модель
• Обучение и оценка (классификация образов малвари)
• Оценка модели (классификация образов малвари)

Дата релиза: 2025-2026
Тип перевода: перевод с английского языка на русский
Формат: PDF
Объем оригинала: 12 модулей
Объем перевода второй части: Модуль 02: Применение ИИ в информационной безопасности (~86 стр.)

Сэмпл перевода:



Скрытая ссылка
Дата выдачи: определяется по мере набора складчиков