ИИ на устройстве, такой как Apple Intelligence на новых iPhone и Mac или Gemini Nano на поддерживаемых телефонах Android, запускает языковые модели непосредственно на оборудовании пользователя, а не на удаленном сервере. Это снижает задержку и сохраняет большую часть данных локально, но также создает риски, которые маркетинговые команды редко планируют: несогласованные результаты на разных устройствах, резюме, искажающие сообщения бренда, и сотрудники, использующие функции личных устройств с данными клиентов. Управление должно начинаться до внедрения, а не после.
Что на самом деле делает ИИ на устройстве?
Apple Intelligence объединяет набор функций в iOS, iPadOS и macOS: инструменты для письма, которые переписывают или проверяют текст, резюме уведомлений и электронных писем, создание изображений с помощью Image Playground и более способная Siri. Меньшие задачи выполняются на локальной модели; более тяжелые запросы могут отправляться в Private Cloud Compute от Apple, который Apple описывает как серверы, построенные на кремнии Apple, которые не хранят данные пользователей. Некоторые запросы также могут быть переданы ChatGPT, но только после согласия пользователя.
Gemini Nano — это самая маленькая модель Gemini от Google. Она поставляется внутри Android через системную службу под названием AICore и поддерживает такие функции, как умные ответы в Gboard, резюме записей и обнаружение мошеннических звонков на поддерживаемых устройствах Pixel и Samsung. Разработчики могут получить к ней доступ через API Google на устройстве, а Chrome тестирует встроенные API ИИ, которые запускают модель класса Nano в браузере.
Общая нить проста. Небольшая модель, часто с несколькими миллиардами параметров или меньше, выполняет полезную работу без сетевого обмена. Этот дизайн является источником как преимуществ, так и ограничений.
Почему история о конфиденциальности — это только половина картины
Поставщики представляют ИИ на устройстве главным образом как функцию конфиденциальности, и для многих задач это справедливо. Предложение, переписанное локально, никогда не покидает телефон. Но «данные остаются на устройстве» не означает «данные управляются». Устройство может принадлежать сотруднику, результат может быть вставлен в результат работы клиента, и никто не мог записать, что модель коснулась его.
Существует также проблема передачи. Когда запрос слишком велик для локальной модели, он может быть направлен в облачный сервис. На устройствах Apple система сообщает пользователю, когда задействован ChatGPT, но сотрудники быстро прокликивают подсказки. На Android приложения, использующие Gemini Nano, также могут вызывать облачные модели Gemini для более сложных запросов. Ваша политика должна охватывать всю цепочку, а не только локальную часть.
Какие ограничения наиболее важны для маркетинговых команд?
Маленькие модели идут на другие компромиссы, чем большие облачные модели. Для отдела маркетинга пять ограничений возникают снова и снова:
- Более короткий контекст: модели на устройстве хорошо справляются с короткими входными данными и плохо с длинными документами, поэтому 40-страничный бриф, резюмированный на телефоне, может пропустить ключевые разделы.
- Более слабое фактическое запоминание: маленькие модели меньше знают о мире и с большей вероятностью уверенно заявят что-то неверное.
- Фрагментация устройств: функции зависят от чипа, оперативной памяти, региона и настроек языка, поэтому два коллеги могут получить разные результаты от одной и той же команды.
- Ограниченное языковое покрытие: поддержка таких языков, как турецкий, появилась позже, чем английский, и качество варьируется в зависимости от языка.
- Отсутствие аудиторского следа: локальные функции обычно не оставляют центрального журнала того, что было создано, отредактировано или резюмировано.
Последний пункт — это то, что команды по соблюдению требований замечают в первую очередь. Если резюме электронного письма клиента теряет условие («только если одобрено юридическим отделом»), нет записи, показывающей, что ИИ создал резюме, а не сотрудник.
Риск, который бьет по брендам извне
Большинство документов по управлению фокусируются на том, что сотрудники делают с ИИ. ИИ на устройстве добавляет внешний риск: ваши клиенты теперь читают ваши сообщения через модель. Резюме уведомлений на iPhone сжимают электронные письма, push-уведомления и сообщения в одну или две строки. Ранние версии создавали резюме новостных оповещений, которые были явно неверными, и Apple на время приостановила резюме для новостных приложений, чтобы решить проблему.
Для бренда это означает, что тщательно написанный рекламный push может прийти в виде сглаженного, иногда вводящего в заблуждение резюме. Четкие первые строки помогают. Также помогает размещение предложения, крайнего срока и любого условия в первом предложении, а не в конце. Относитесь к первым 80–100 символам каждого электронного письма и push-уведомления как к части, которую модель с наибольшей вероятностью сохранит.
Какие правила управления следует установить в первую очередь?
Вам не нужна 30-страничная политика ИИ, чтобы начать. Вам нужно несколько правил, которые люди могут запомнить и которые соответствуют тому, как на самом деле используются функции на устройстве. Практическая первая версия выглядит так:
- Определите, какие устройства можно использовать для работы с клиентами и разрешено ли личным телефонам с включенными функциями ИИ открывать файлы клиентов.
- Перечислите задачи, которые допустимы на устройстве (проверка внутренних заметок, резюмирование собственных записей встреч), и те, которые нет (резюмирование контрактов, составление юридических или медицинских претензий).
- Требуйте проверки человеком любого текста, созданного с помощью ИИ, который отправляется клиенту или в опубликованный актив, с указанием проверяющего в инструменте проекта.
- Решите, разрешены ли облачные передачи, такие как интеграция с ChatGPT, и если да, то какой тип учетной записи используется.
- Установите правило для изображений: все, что сделано с помощью Image Playground или подобных инструментов, должно быть помечено внутри компании и не должно изображать реальных людей без согласия.
- Назначьте владельца, который пересматривает политику, когда поставщики выпускают основные обновления операционной системы, поскольку функции меняются с каждым выпуском.
Держите это на одной странице. Правило, которое сотрудники не могут вспомнить в течение занятого дня, не будет соблюдаться.
Настройки управления устройствами
Если ваша компания использует управление мобильными устройствами, проверьте, что предоставляет ваша платформа. Apple добавила элементы управления, которые позволяют администраторам ограничивать определенные функции Apple Intelligence на контролируемых устройствах, а Android Enterprise предлагает свои собственные настройки политики. Доступность меняется в зависимости от выпуска, поэтому проверяйте в своей консоли MDM, а не полагайтесь на запись в блоге, включая эту.
Как Alien Road применяет управление ИИ на устройстве
В типичном проекте мы начинаем с обнаружения: короткий опрос о том, какие устройства использует команда клиента, какие функции ИИ включены и где через них проходят данные клиентов или потребителей. Большинство команд удивлены тем, сколько функций уже активны по умолчанию после обновления операционной системы.
Далее идет настройка. Мы составляем вышеуказанный одностраничный набор правил, адаптированный к сектору клиента, и сопоставляем его с настройками MDM или браузера, которые у них уже есть. Например, для розничного бренда мы также переписываем шаблоны push-уведомлений и электронных писем, чтобы ключевое сообщение выжило после автоматического резюмирования.
Затем следует измерение. Мы тестируем, как основные шаблоны отображаются в виде резюме уведомлений на текущих устройствах iOS и Android, и записываем результаты в общую таблицу. Отчетность ежеквартальная: что изменилось в функциях поставщиков, какие правила были обновлены и какие шаблоны потребовали еще одной проверки.
С чего начать на этой неделе
Выберите один час и сделайте три вещи. Во-первых, спросите каждого члена команды, какие функции ИИ они использовали в прошлом месяце на своем телефоне или ноутбуке; запишите список. Во-вторых, отправьте свои пять самых важных маркетинговых электронных писем и push-уведомлений на тестовый iPhone с включенными резюме и сделайте скриншот того, что появляется. В-третьих, напишите первый черновик вашего одностраничного набора правил, используя шесть правил выше.
Этого достаточно, чтобы перейти от «мы об этом не думали» к задокументированной позиции. Вы можете уточнить детали после следующего крупного релиза ОС, когда список функций все равно изменится.
Продолжайте читать: ИИ-оптимизация · ИИ-оптимизация