Закон ЕС об ИИ и инструменты маркетинга

Регламент вступил в силу в августе 2024 года и применяется поэтапно в течение нескольких лет. Он классифицирует системы ИИ по категориям: запрещенные практики, системы высокого риска, системы с особыми обязательствами по прозрачности и системы с минимальным риском. Отдельные правила охватывают модели ИИ общего назначения, такие как большие языковые модели, лежащие в основе чат-ассистентов.

Для большинства маркетинговых целей актуальными являются части, касающиеся запрещенных практик, правил прозрачности и общей обязанности организаций обеспечивать, чтобы сотрудники, использующие ИИ, обладали адекватной грамотностью в области ИИ. Категории высокого риска в основном касаются таких областей, как наем персонала, кредитный скоринг, образование и критическая инфраструктура, хотя некоторые виды использования, смежные с маркетингом, могут приближаться к ним, например, инструменты, которые профилируют людей конфиденциальным образом.

Эта статья является практическим обзором, а не юридической консультацией. Даты применения и руководящие принципы продолжают развиваться, поэтому подтвердите текущие обязательства у квалифицированного юриста для вашей ситуации.

Закон распространяется на компании за пределами ЕС, когда их системы ИИ размещаются на рынке ЕС или их результаты используются в ЕС. Турецкий или американский бренд, проводящий кампании на основе ИИ, нацеленные на клиентов из ЕС, должен исходить из того, что он применяется.

Области, на которые маркетологам следует обратить внимание:

• Чат-боты и виртуальные ассистенты: люди должны быть проинформированы о том, что они взаимодействуют с системой ИИ, если это не очевидно.
• Изображения, аудио и видео, созданные или измененные с помощью ИИ, которые можно принять за настоящие (дипфейки), требуют раскрытия информации.
• Текст, созданный ИИ и опубликованный для информирования общественности по вопросам, представляющим общественный интерес, подлежит раскрытию, за исключением случаев, когда осуществляется человеческий редакционный контроль.
• Манипулятивные методы, использующие уязвимости, такие как возраст или инвалидность, для искажения поведения вредными способами, запрещены.
• Распознавание эмоций на рабочих местах и в школах ограничено, что важно для некоторых инструментов исследования аудитории.

Традиционные инструменты, то есть программное обеспечение на основе правил без машинного обучения в своей основе, в значительной степени выпадают из сферы действия Закона об ИИ. Сегментация, основанная на фиксированных правилах в вашей CRM, A/B-тест или запланированная рассылка не требуют оформления документов по Закону об ИИ.

Оставаться традиционным имеет смысл, когда:

• Задача проста и основана на правилах, поэтому ИИ мало что добавляет.
• Вам нужны полностью объяснимые решения, например, право на регулируемое предложение.
• Аудитория включает уязвимые группы, и риск обвинений в манипуляции высок.
• У вашей команды нет времени на надлежащее документирование, раскрытие и контроль результатов ИИ.

Когда переход на ИИ разумен

• Работа представляет собой контент или анализ большого объема с проверкой человеком перед публикацией.
• Раскрытие информации легко добавить, например, метку на виджете чата ИИ.
• Поставщик предоставляет четкую документацию о том, как работает система и какие данные она использует.
• Вы можете назначить кого-то ответственным за политику использования ИИ и обучение.

Закон об ИИ действует наряду с Общим регламентом по защите данных (GDPR), а не вместо него. Если инструмент ИИ обрабатывает персональные данные, правила GDPR о законном основании, прозрачности, минимизации данных и правах личности по-прежнему применяются. Автоматизированные решения с юридическими или аналогичными значимыми последствиями уже имеют дополнительные меры защиты GDPR.

С точки зрения маркетинга это означает, что механизм персонализации, использующий историю клиентов, должен соответствовать GDPR, а если он использует ИИ, то и соответствующим положениям Закона об ИИ. Контракты с поставщиками должны охватывать и то, и другое.

Поставщики систем ИИ и моделей общего назначения несут свои собственные обязательства, включая техническую документацию и, для моделей общего назначения, информацию для последующих пользователей. Как покупатель, запрашивайте у поставщиков документацию о предполагаемом использовании, известных ограничениях, обработке данных и о том, как они поддерживают ваши обязанности по прозрачности.

Поставщик, который не может ответить на основные вопросы о том, куда уходят данные или как создаются результаты, является риском, независимо от регулирования.

Закон требует от поставщиков и развертывателей систем ИИ принимать меры, чтобы персонал, работающий с этими системами, имел достаточный уровень грамотности в области ИИ. Текст не предписывает курс или сертификат. Для отдела маркетинга разумное прочтение заключается в том, что люди, использующие инструменты ИИ, понимают, что делают инструменты, где они ошибаются и какие правила применяются к их результатам.

Короткая, задокументированная сессия охватывает большую часть этого: как генеративные модели производят ошибки, почему каждый факт нуждается в проверке, какие виды использования требуют раскрытия информации и у кого спросить, если не уверены. Ведите записи посещаемости и копию материала. Повторяйте это, когда команда внедряет новый тип инструмента, такой как генерация видео или автономный агент.

Фрилансеры и агентства, работающие над вашим аккаунтом, также учитываются. Спросите их, как они справляются с использованием ИИ, и включите это ожидание в контракты.

Документация не должна быть тяжелой. Одной страницы на инструмент достаточно для маркетингового использования с минимальным риском: что это за инструмент, поставщик, для чего он используется, какие данные поступают, кто проверяет результаты и какие раскрытия применяются. Обновляйте ее, когда использование меняется.

Эта запись помогает не только в соблюдении требований. Когда кампания идет не так или клиент жалуется, вы можете показать, что сделал инструмент и кто его одобрил, что намного лучше, чем восстанавливать события по памяти.