Закон ЕС об ИИ: руководство для e-commerce брендов

Может применяться. Закон распространяется на поставщиков, размещающих системы ИИ на рынке ЕС, и на развертывающие стороны, использующие их в ЕС, а также затрагивает компании за пределами ЕС, когда результат работы системы ИИ используется в Союзе. Турецкий магазин, продающий товары немецким клиентам через чат-бот на своем веб-сайте, должен исходить из того, что правила актуальны.

Обязательства вводятся поэтапно в течение нескольких лет после вступления Закона в силу в 2024 году. Сначала появились запреты на недопустимые практики, затем правила для моделей ИИ общего назначения, а большинство других обязанностей применяются позже. Точные даты и руководства продолжают уточняться Европейской комиссией, поэтому перед планированием проверьте текущий график.

• Запрещенные практики: например, манипулятивные методы, причиняющие значительный вред или эксплуатирующие уязвимые группы
• Системы высокого риска: перечисленные области, такие как занятость, кредитный скоринг и доступ к основным услугам
• Ограниченный риск с обязанностями по прозрачности: чат-боты, распознавание эмоций, дипфейки и некоторый контент, созданный ИИ
• Минимальный риск: большинство других видов использования, таких как спам-фильтры или многие функции рекомендаций, без новых специфических обязанностей

Большинство маркетинговых инструментов попадают в категории ограниченного или минимального риска. Это не означает, что правила не применяются. GDPR, закон о защите прав потребителей и Закон о цифровых услугах по-прежнему регулируют персональные данные, вводящие в заблуждение практики и обязанности платформ.

Чат-боты службы поддержки клиентов

Покупатели должны быть проинформированы о том, что они взаимодействуют с системой ИИ, если это не очевидно из контекста. Короткая фраза в начале чата, например «Вы общаетесь с нашим ИИ-помощником», решает эту задачу. Предложите четкий путь к общению с человеком для жалоб и возвратов, чего уже ожидают закон о защите прав потребителей и качественный сервис.

Изображения и видео товаров, созданные ИИ

Развертывающие стороны ИИ, который генерирует дипфейки, то есть реалистичные изображения, аудио или видео реальных людей, мест или событий, которые можно принять за подлинные, должны раскрывать, что контент является искусственным. Изображение образа жизни несуществующей модели в вашем продукте близко к этой грани. Маркировка визуальных материалов, созданных ИИ, особенно тех, на которых изображены люди, является безопасной практикой.

Рекомендации товаров и персонализация

Стандартные рекомендательные движки, как правило, не являются системами высокого риска согласно Закону об ИИ. Более жесткие ограничения исходят из других источников: согласие GDPR на отслеживание, правила Закона о цифровых услугах по прозрачности рекомендаций для платформ и закон о защите прав потребителей в отношении темных паттернов. Не используйте ИИ для эксплуатации уязвимостей покупателей, например, оказывая давление на людей в финансовом затруднении, что может подпадать под запрещенные практики.

Описания товаров и блоги, написанные ИИ

Текст, опубликованный для информирования общественности по вопросам, представляющим общественный интерес, должен быть раскрыт как созданный ИИ, если он не прошел проверку человеком и редакционную ответственность. Текст о товаре, проверенный вашей командой, находится в более безопасном положении. В любом случае магазин несет ответственность за точность каждого утверждения.

Динамическое ценообразование

Ценообразование с помощью ИИ не названо как система высокого риска, но закон о защите прав потребителей в ЕС требует информировать покупателей, когда цена была персонализирована на основе автоматизированного принятия решений. Объедините это с правилами GDPR по профилированию, и инструменты ценообразования потребуют юридической проверки перед запуском.

• Составьте список всех используемых инструментов ИИ: чат, изображения, текст, ценообразование, рекомендации, проверки на мошенничество, наем
• Отметьте, кто предоставляет каждый инструмент и являетесь ли вы поставщиком или развертывающей стороной
• Добавьте раскрытие информации об ИИ в чат-виджеты и голосовые помощники
• Установите правило маркировки для ИИ-изображений и видео с людьми
• Обучите сотрудников, использующих инструменты ИИ; Закон включает обязанность по повышению грамотности в области ИИ для развертывающих сторон
• Пересмотрите контракты с поставщиками на предмет обязательств по соблюдению требований и обработки данных

Регулирование — это вопрос коммуникации в такой же степени, как и юридический вопрос. Бренды, пойманные на использовании нераскрытых моделей ИИ в рекламе или чат-ботов, притворяющихся людьми, сталкиваются с критикой, которая быстро распространяется. Четкое раскрытие информации, публичное заявление о том, как компания использует ИИ, и контакт для вопросов превращают соблюдение требований в сигнал доверия.

Большинство магазинов не создают свой собственный ИИ. Они используют функции внутри Shopify, плагины WooCommerce, почтовые платформы и чат-провайдеров. В этих случаях поставщик обычно является провайдером, а магазин — развертывающей стороной. Развертывающие стороны по-прежнему несут обязанности, особенно по прозрачности перед пользователями и обучению персонала, и они должны использовать системы в соответствии с инструкциями поставщика.

Задайте поставщикам три вопроса: какие функции ИИ активны в вашей учетной записи, как они планируют выполнять свои обязательства по Закону об ИИ и как обрабатываются данные клиентов. Храните ответы в файле. Когда поставщик по умолчанию включает новую функцию ИИ, что случается часто, ваша инвентаризация должна зафиксировать это при следующей проверке.

• Ежемесячно проверяйте примечания к выпуску основных платформ
• Записывайте функции ИИ, включенные по умолчанию, и решайте, стоит ли их оставлять
• Храните заявления о соответствии поставщиков вместе с вашими контрактами