Безопасность больших языковых моделей

Изучите основы безопасности больших языковых моделей (LLM) на примере реальных атак, стратегий защиты и систем безопасности.

Для аналитиков 2-й линии

средний

Цена: 110 400 ₽

средний

Цена: 110 400 ₽

О курсе

Стремительное развитие больших языковых моделей (LLM) не только изменило подход к созданию систем искусственного интеллекта и взаимодействию с ними, но и повлекло за собой появление новых проблем в области безопасности. По мере того, как LLM всё активнее внедряются в реальные продукты и сервисы, умение распознавать возможные атаки и защищаться от них становится крайне актуальным.

Своей экспертизой поделится Владислав Тушканов, руководитель группы исследований технологий машинного обучения «Лаборатории Касперского». Благодаря сочетанию захватывающих видео-лекций, практических занятий и интерактивных тестов Вы узнаете, как злоумышленники используют большие языковые модели в корыстных целях посредством джейлбрейков, промпт-инъекций и других методов. Кроме того, в рамках курса Вы получите практические навыки защиты от этих угроз на уровне моделей, запросов, систем и сервисов, используя структурированные механизмы для оценки и укрепления безопасности LLM.

Автор курса

Владислав Тушканов

Руководитель группы исследований технологий машинного обучения «Лаборатории Касперского»

Владислав работает в «Лаборатории Касперского» с 2015 года. Он и его команда занимаются применением методов анализа данных и машинного обучения для более быстрого и эффективного обнаружения таких угроз как вредоносное ПО, фишинг и спам, а также исследуют передовые технологии искусственного интеллекта для прогнозирования будущих угроз. Владислав имеет степень магистра компьютерной лингвистики НИУ ВШЭ

Сегодня его исследования сосредоточены на практическом применении различных технологий искусственного интеллекта для обнаружения угроз, а также на поиске уязвимостей в приложениях, использующих ИИ.

Благодаря этому тренингу Вы

Овладеете знаниями в новой динамично развивающейся области безопасности LLM.
Разберётесь в ключевых методах атак, таких как джейлбрейки, промпт-инъекции (prompt injections) и «контрабанда токенов» (token smuggling).
Освоите практические методы защиты LLM на уровне моделей, промптов, систем и сервисов.
Изучите структурированные подходы к анализу и оценке безопасности LLM.
Сформируете навыки оценки безопасности, защиты и проектирования надёжных LLM-систем, работая с реальными примерами и практическими заданиями.

Программа курса

Download course program

Атаки на LLM

– Введение в курс

– Введение в курс

– Джейлбрейки: ручные атаки и автоматические джейлбрейки

– Промпт-инъекции (prompt injections) и извлечение промпта (prompt extraction)

– «Контрабанда токенов» (token smuggling) и атаки на энергопотребление/быстродействие (sponge attacks)

– Token smuggling and sponge attacks

Защита LLM

– Почему нужно защищать LLM и как это делать

– Защита на уровне модели: выравнивание и «отучение» (unlearning)

– Защита на уровне промптов, систем и сервисов

– Набор инструментов для обеспечения безопасности LLM

Инфраструктура безопасности LLM

– Подходы к анализу безопасности LLM

– Безопасность LLM: примеры

– Безопасность LLM: дальнейшее изучение и краткие итоги курса

Для кого

Начинающие пентестеры в области ИИ

Для тех, кто только начинает свою карьеру в сфере кибербезопасности и учится использовать ИИ для защиты.

Консультанты по безопасности

Для консультантов, стремящихся понять и снизить риски, связанные с LLM-системами.

Разработчики и архитекторы LLM/ИИ-систем

Для тех, кто занимается разработкой или интеграцией LLM и хочет выявить потенциальные уязвимости, а также обеспечить безопасность своих приложений.

Промпт-инженеры

Для специалистов, которые должны распознавать уязвимости и повышать устойчивость систем, основанных на промптах.

Prompt engineers

Perfect for specialists working closely with LLMs who need to recognize attack surfaces and improve the robustness of prompt-based systems.

Формат обучения

Видео-лекции от эксперта

Учитесь у Владислава Тушканова, руководителя группы исследований технологий машинного обучения «Лаборатории Касперского», который делится своим опытом, полученным на основе реальных исследований безопасности LLM и работ в области противодействия искусственному интеллекту.

Практические задания в виртуальной лаборатории

Применяйте знания на практике в виртуальной лаборатории, созданной для ознакомления с методами атак на LLM и защиты от них.

Последовательное обучение

Курс построен по принципу постепенного погружения в материал и имеет чёткую модульную структуру. Каждый модуль включает теоретическую часть, контрольные тесты и практические задания.

Преимущества курса

Доступ к курсу

Доступ на 6 месяцев

Язык

Курс проводится на английском языке с английскими субтитрами

Темп

Самостоятельное обучение в удобном для Вас темпе

Доступ к виртуальной лаборатории

100 часов на практику в виртуальной лаборатории, которая открывается прямо в Вашем браузере

Образовательная среда

Учитесь с компьютера, планшета или телефона

Видео-лекции от эксперта

20 теоретических видео-уроков

Сертификат

PDF-документ на бланке «Лаборатории Касперского», подтверждающий прохождение курса и подписанный его автором

Group Manager at Kaspersky AI Technology Research Center