DevSecOps на AWS: защита от LLM-скрейперов и бот-трафика [Udemy] [Sergii Demianchuk]

Складчина: DevSecOps на AWS: защита от LLM-скрейперов и бот-трафика [Udemy] [Sergii Demianchuk]

DevSecOps on AWS: Defend Against LLM Scrapers & Bot Traffic
Язык английский. Орг бонусом сделает перевод видео авто



Полное руководство по защите от ботов в AWS LLM с помощью WAF и CloudFront. Защитите свою инфраструктуру от DoS-атак с использованием ИИ-ботов

• Как работает кэширование CloudFront и как создавать интеллектуальные потоки доставки, учитывающие действия ботов.
• Как реализовать стратегии разделения трафика и обработки контента с пониженным качеством с использованием CloudFront, Lambda@Edge и S3.
• Как разделить кэш для ботов и людей с помощью CloudFront Functions
• Как устранить проблемы с «отсутствующими активами» при использовании развертывания неизменяемых активов.
• Как развернуть и настроить CloudFront Origin Shield
• Как анализировать логи CloudFront с помощью Athena для получения информации о ботах и трафике.
• Как настроить AWS WAF для защиты от DoS-атак ботов (наборы IP-адресов, географические правила, правила скорости, управляемые правила)
• Как использовать дактилоскопию JA4 для сложных воронок ограничения скорости запросов.
• Как на самом деле работает AWS WAF Bot Control (режимы COMMON и TARGETED)
• Как интегрировать клиентский SDK WAF для разблокировки расширенных функций обнаружения.
• Как читать и интерпретировать панели мониторинга и метки Bot Control
• Как создать реальный отчет по идентификации ботов в Athena
• Как разработать, проверить и внедрить комплексную стратегию работы с ботами (разрешение, блокировка, снижение производительности)

Требования:

• Этот курс не для начинающих.
• Активная учетная запись WS
• Доменное имя для использования с CloudFront
• Хорошие знания в области терраформинга.
• Хорошие знания WS.
• Понимание протокола HTTP, веб-приложений или API.

Что вы узнаете:

• Как работает кэширование CloudFront и как создавать интеллектуальные потоки доставки, учитывающие действия ботов.
• Как реализовать стратегии разделения трафика и обработки контента с пониженным качеством с использованием CloudFront, Lambda@Edge и S3.
• Как разделить кэш для ботов и людей с помощью CloudFront Functions
• Как устранить проблемы с «отсутствующими активами» при использовании развертывания неизменяемых активов.
• Как развернуть и настроить CloudFront Origin Shield
• Как анализировать логи CloudFront с помощью Athena для получения информации о ботах и трафике
• Как настроить AWS WAF для защиты от DoS-атак ботов (наборы IP-адресов, географические правила, правила скорости, управляемые правила)
• Как использовать дактилоскопию JA4 для сложных воронок ограничения скорости запросов.
• Как на самом деле работает AWS WAF Bot Control (режимы COMMON и TARGETED)
• Как интегрировать клиентский SDK WAF для разблокировки расширенных функций обнаружения.
• Как читать и интерпретировать панели мониторинга и метки Bot Control
• Как создать реальный отчет по идентификации ботов в Athena
• Как разработать, проверить и внедрить комплексную стратегию работы с ботами (разрешение, блокировка, снижение производительности)

Требования:

• Активная учетная запись WS
• Доменное имя для использования с CloudFront
  
• Понимание протокола HTTP, веб-приложений или API.
  
• Хорошие знания в области терраформинга.
  
• Этот курс не для начинающих.

Этот курс научит вас выживать — и побеждать — в новой эре ботов, веб-краулеров, скрейперов и автоматизированного управления трафиком на основе искусственного интеллекта .
Сегодня боты потребляют огромную часть трафика API, веб-сайтов и CDN.
Они обходятся дорого, искажают аналитику, нарушают логику кэширования и перегружают ваше приложение.
И традиционных средств защиты уже недостаточно.
Этот курс предоставляет вам полную, практическую, проверенную в боевых условиях систему для борьбы с ИИ-ботами с помощью интеллекта, а не грубой силы.

Раздел 1 — Понимание новой картины угроз
Начнём со стратегического уровня:
Почему боты с искусственным интеллектом стали реальной угрозой для бизнеса, каковы их цели, как бот-трафик вредит вашей инфраструктуре и как думать о долгосрочной защите.
Вы также получите общий обзор архитектуры — картину работы CloudFront, WAF, обработки контента с пониженным качеством и логики маршрутизации.

Раздел 2 — Проведение испытаний в колбе и подготовка к терраформированию
Прежде чем что-либо защищать, нам нужно что-то защищать.
Вам предстоит создать небольшое Flask API-приложение, запустить его локально, изучить его поведение, а затем подготовить Terraform, профили AWS и ECR для последующего развертывания в облаке.

Раздел 3 — Полное развертывание приложения с использованием Terraform
Это основа существующей инфраструктуры.

Вы будете:

• Создание сетевых компонентов
  
• Делегировать домен
  
• Настройка ACM
  
• Создать ALB
  
• Разверните EC2 с использованием автомасштабирования.
  
• Присоедините EC2 к ALB
  
• Настройка CloudFront
  
• Интегрировать WAF
  
• Изучите консоль AWS и научитесь отлаживать поведение приложений.

Это создает полноценную «лабораторную среду», используемую для всех экспериментов по маршрутизации ботов в последующих разделах.

Раздел 4 — Автомасштабирование и неожиданные затраты на реальных ИИ-ботов
Мы исследуем, что происходит, когда боты атакуют вашу инфраструктуру в больших масштабах.
Вы увидите реальные примеры всплесков трафика, перегрузки процессора, резкого роста затрат — и узнаете, почему для ИИ-ботов требуется иной подход, чем для традиционных поисковых роботов.
Мы также обсуждаем AWS Fargate и демонстрируем реальный коммерческий пример влияния бота.

Раздел 5 — Интеллектуальная маршрутизация трафика с помощью CloudFront
Именно здесь курс становится по-настоящему уникальным.

Вы узнаете:

• Как CloudFront работает на уровне запросов
• Как разработать стратегию использования слабого контента — легковесный статический контент для ботов
  
• Как маршрутизировать ботов с помощью Lambda@Edge
  
• Как помечать ботов с помощью CloudFront Functions
  
• Как возникают проблемы с кэшированием в реальных развертываниях и как их устранить
  
• Как работать со статическими ресурсами, версионированием, защитой исходного кода и встроенными ресурсами.
  
• Как сделать CloudFront полностью устойчивым к ботам и отказоустойчивым.

В итоге ваша дистрибуция CloudFront превращается в интеллектуальный маршрутизатор трафика, чувствительный к ботам.

Раздел 6 — AWS WAF: защита от ИИ-краулеров и автоматизированных ботов
Мы подробно рассматриваем WAF как с точки зрения защиты, так и с аналитической точки зрения:

• Основы работы WAF и как он фактически анализирует трафик.
  
• Пользовательские черно-белые списки в контексте ИИ-ботов
  
• Фильтрация по географическому признаку
  
• Быстрый старт Athena с использованием журналов WAF
  
• JA4 дактилоскопия и статистическое обнаружение
  
• Правила точного расчета скорости с привязкой к URL-адресу
  
• Правила, управляемые на основе репутации
  
• Теория интеллектуального противодействия ботам
  
• Включение контроля ботов (ОБЩИЙ + ЦЕЛЕВОЙ)
  
• Интеграция SDK для управления ботами
  
• Чтение метрик и панелей мониторинга Bot Control
  
• Понимание категорий ботов и определение того, какие реальные боты стоят за ними.

В этом разделе CloudFront и WAF объединены в единую систему защиты.

Раздел 7 — Стратегическая политика в отношении ботов и анализ трафика ИИ/ботов с использованием Athena
Это аналитическая и стратегическая кульминация курса.
Вы научитесь извлекать реальный бот-трафик из ваших логов, создавать полный отчет по идентификации ботов и использовать его для разработки конкретной стратегии защиты от ботов.

• Создание отчета об идентификации бота с использованием Athena + реальных производственных данных.
  
• Внедрение стратегической политики в отношении ботов — часть 1 (логика Terraform, маршрутизация CloudFront, интеграция с WAF)
  
• Внедрение стратегической политики для ботов — часть 2 (завершение настройки маршрутизации, обработки контента низкого качества, правил блокировки)
  
• Итоговое резюме курса + основные выводы + дальнейшие шаги

В заключение мы предлагаем понятную структуру, которую можно применять в любой реальной среде — облачной или локальной.

Для кого предназначен этот курс:
Любой, кто отвечает за веб-приложения, производительность API, безопасность облачных сервисов или оптимизацию затрат:

• Программисты
  
• DevOps и SRE
  
• Архитекторы облачных решений
  
• Инженеры по безопасности
  
• Технические директора, руководители технологических подразделений, стартапы
  
• Всем, кому интересны реальные методы защиты от ботов и управления трафиком?

Если вам нужна практичная , проверенная в боевых условиях , глубоко техническая и полностью воспроизводимая методология защиты от ботов с искусственным интеллектом — этот курс для вас.

Для кого этот курс:

• Программисты
• DevOps и SRE
• Архитекторы облачных решений
• Инженеры по безопасности
• Технические директора, руководители технологических подразделений, стартапы
• Всем, кому интересны реальные методы защиты от ботов и управления трафиком?

Материалы курса
9 разделов • 55 лекций • Общая продолжительность 3 ч 44 мин

Новая картина угроз: экономика трафика от ботов с искусственным интеллектом. Цель
4 лекции • 18 мин

Тестирование API с помощью Flask и подготовка с помощью Terraform.
5 лекции • 14 мин

Развертывание приложений в WS с использованием Terraform.
13 лекции • 49 мин

Автоматическое масштабирование и боты с искусственным интеллектом
2 лекции • 11 мин

Интеллектуальная маршрутизация трафика: CloudFront и доставка контента с учетом ботов и ухудшением его качества.
13 лекции • 49 мин

AWS WAF — защита от ИИ-сканеров и автоматизированных ботов.
12 лекции • 1 ч 1 мин

Стратегическая политика в отношении ботов и анализ трафика ИИ/ботов с использованием Athena.
4 лекции • 21 мин

Дополнительная информация
1 лекция • 1 мин.

Бонусная лекция
1 лекция • 1 мин.

Спойлер: Оригинал

• IT IS NOT THE COURSE FOR BEGINNERS

• An active AWS account
• A domain name to use with CloudFront
• Good Terraform knowledge
• Good AWS knowledge
• Understanding of HTTP, web apps, or APIs
  Описание

What you'll learn

• How CloudFront caching works and how to build intelligent, bot-aware delivery flows
  
• How to implement degraded-content / traffic-splitting strategies using CloudFront, Lambda@Edge, and S3
  
• How to separate cache for bots vs humans using CloudFront Functions
  
• How to eliminate “missing assets” issues using immutable asset deployments
  
• How to deploy and tune CloudFront Origin Shield
  
• How to analyze CloudFront logs using Athena for bot and traffic insights
  
• How to configure AWS WAF to be defensive against bots DoS (IP sets, GEO rules, rate rules, managed rules)
  
• How to use JA4 fingerprinting for advanced rate-limit funnels
  
• How AWS WAF Bot Control really works (COMMON vs TARGETED modes)
  
• How to integrate the WAF client-side SDK to unlock advanced detections
  
• How to read and interpret Bot Control dashboards and labels
  
• How to build a real Bot Identification Report in Athena
  
• How to design, validate, and deploy a complete bot strategy (allow, block, degrade)

Requirements

• An active AWS account
  
• A domain name to use with CloudFront
  
• Understanding of HTTP, web apps, or APIs
  
• Good Terraform knowledge
  
• IT IS NOT THE COURSE FOR BEGINNERS

Short description
This course teaches you how to survive — and win — in the new era of AI bots, crawlers, scrapers, and automated traffic.
Today bots consume an enormous portion of API, web, and CDN traffic.
They cost money, distort analytics, break cache logic, and overload your application.
And traditional protections are no longer enough.
This course gives you a complete, practical, battle-tested system to handle AI bots with intelligence, not brute force.

Section 1 — Understanding the New Threat Landscape
We begin from the strategic level:
Why AI bots became a real business threat, what their objectives are, how bot traffic harms your infrastructure, and how to think about long-term defense.
You will also get a high-level architecture overview — the big picture of CloudFront, WAF, degraded content, and routing logic.

Section 2 — Flask Test Application & Terraform Preparations
Before we defend anything, we need something to protect.
You will create a tiny Flask API app, run it locally, understand its behavior, then prepare Terraform, AWS profiles, and ECR to deploy it later in the cloud.

Section 3 — Full Application Deployment Using Terraform
This is the heart of the infrastructure setup.

You will:

• Build networking components
  
• Delegate a domain
  
• Configure ACM
  
• Build ALB
  
• Deploy EC2 using AutoScaling
  
• Attach EC2 to ALB
  
• Configure CloudFront
  
• Integrate WAF
  
• Explore the AWS Console and learn to debug application behavior

This creates the full “lab environment” used for all bot routing experiments in the later sections.

Section 4 — Autoscaling & Real AI Bot Cost Surprises
We explore what happens when bots hit your infrastructure at scale.
You will see real examples of traffic spikes, CPU burns, cost explosions — and learn why AI bots require a different approach than traditional crawlers.
We also discuss AWS Fargate and show a real commercial example of bot impact.

Section 5 — Intelligent Traffic Routing with CloudFront
This is where the course becomes truly unique.

You will learn:

• How CloudFront actually works at request level
  
• How to build a degraded content strategy — lightweight static content for bots
  
• How to route bots with Lambda@Edge
  
• How to tag bots using CloudFront Functions
  
• How caching issues arise in real deployments and how to fix them
  
• How to handle static assets, versioning, origin shield, and inline assets
  
• How to make CloudFront fully bot-aware and resilient

By the end, your CloudFront distribution becomes a smart, bot-sensitive traffic router.

Section 6 — AWS WAF: Protecting Against AI Crawlers & Automated Bots

We go deep into WAF from both defensive and analytical perspectives:

• WAF basics and how it actually inspects traffic
  
• Custom black & white lists in the context of AI bots
  
• Geo-based filtering
  
• Athena quick start using WAF logs
  
• JA4 fingerprinting & statistical detection
  
• URL-scoped granular rate rules
  
• Reputation-based managed rules
  
• Intelligent Bot Mitigation theory
  
• Turning on Bot Control (COMMON + TARGETED)
  
• Integrating Bot Control SDK
  
• Reading Bot Control metrics and dashboards
  
• Understanding bot categories and deducing which real bots sit behind them

This section connects CloudFront & WAF into a unified defensive system.

Section 7 — Strategic Bot Policy & AI/Bot Traffic Analysis Using Athena
This is the analytical and strategic peak of the course.
You will learn how to extract real bot traffic from your logs, build a complete Bot Identification Report, and use it to craft a concrete bot defense strategy.

• Generating the Bot Identification Report using Athena + real production data samples
  
• Strategic bot policy implementation — part 1 (Terraform logic, CloudFront routing, WAF integration)
  
• Strategic bot policy implementation — part 2 (finalizing routing, degraded content, block rules)
  
• Final course summary + key takeaways + next steps

We finish with a clear framework that you can apply in any real-world environment — cloud or on-premise.

Who this course is for

Anyone responsible for web applications, API performance, cloud security, or cost optimization:

• Software Engineers
  
• DevOps & SRE
  
• Cloud Architects
  
• Security Engineers
  
• CTOs, Tech Leads, Startups
  
• Anyone curious about real-world bot defenses and traffic control

If you want a practical, battle-tested, deep-technical, and fully reproducible defense methodology against AI bots — this course is for you.

Для кого этот курс:

• Software Engineers
• DevOps & SRE
• Cloud Architects
• Security Engineers
• CTOs, Tech Leads, Startups
• Anyone curious about real-world bot defenses and traffic control

Цена 1900 руб. (19,99 €)
Скрытая ссылка