Translation in progress — the Russian version is shown below.
/ 01Зачем это нужно
Утечка данных или вредный ответ могут убить продукт быстрее, чем отсутствие пользователей.
/ 02Суть
Prompt injection: пользователь или документ может заставить модель нарушить инструкции. Не давайте модели прав больше, чем нужно.
Персональные данные: в России действует 152-ФЗ, в ЕС — GDPR и AI Act с требованиями к прозрачности.
Человек в контуре: для решений с высокой ценой ошибки AI предлагает, человек утверждает.
/ 03Схема
Защитные слои
01Вводфильтр, лимиты
↓
02Модельчеткие инструкции
↓
03Праваминимум доступа
↓
04Проверкачеловек для дорогих решений
↓
05Журналаудит действий
/ 04Разбор примера
Европа
AI Act в Европе
Европейский закон об AI делит системы по уровням риска: от минимального до неприемлемого. Например, чат-боты обязаны сообщать, что пользователь общается с AI. Это хороший ориентир даже для продуктов вне ЕС.
/ 05Задание
Упражнение · ≈ 25 мин
Составьте список из 5 рисков своего продукта и для каждого — меру защиты.
Готово, когда
— 5 рисков
— 5 мер защиты
— Отмечено, где нужен человек
/ 06Частые ошибки
×Давать модели права на действия без подтверждения