Google Gemini — это семейство моделей ИИ от Google и помощник на их основе, доступный в приложении Gemini, внутри Google Workspace, а также через Gemini API и Vertex AI. Прежде чем маркетинговая команда начнет широко использовать его, она должна решить пять вопросов: какие типы аккаунтов разрешены, какие данные можно передавать, как проверяются результаты, кто владеет опубликованным контентом и как отслеживается использование. Правила, установленные заранее, внедрить гораздо проще, чем правила, добавленные после инцидента.
Что именно вы внедряете?
Gemini — это не один продукт, и риски зависят от точки входа. Потребительское приложение Gemini привязано к личным аккаунтам Google и имеет свои настройки конфиденциальности. Gemini для Google Workspace появляется внутри Gmail, Docs, Sheets, Slides, Meet и Drive для бизнес-аккаунтов с защитой корпоративных данных, описанной в условиях использования Workspace от Google. Разработчики получают доступ к моделям через Google AI Studio, Gemini API или Vertex AI в Google Cloud, каждый из которых имеет отдельные условия.
Согласно бизнес-условиям Workspace и Cloud, Google заявляет, что данные клиентов не используются для обучения моделей без разрешения. Потребительские и бесплатные уровни API имеют другие условия, включая возможность проверки разговоров человеком в некоторых случаях. Одно это различие является достаточной причиной для первого правила управления.
Каковы основные риски?
Большинство проблем делятся на несколько категорий.
- Утечка данных: сотрудники вставляют данные клиентов, контракты или неопубликованные планы в личный аккаунт Gemini.
- Фактические ошибки: Gemini, как и любая языковая модель, может утверждать неверные факты, выдумывать источники или неправильно читать электронную таблицу.
- Чрезмерно открытый доступ к файлам Drive: Workspace Gemini может использовать файлы, к которым у пользователя есть доступ, поэтому слабые настройки общего доступа позволяют ему отображать контент, который, как люди не подозревали, был виден.
- Брендовые и юридические риски: опубликованные тексты, которые копируют заявления конкурента, дают необоснованные обещания по продукту или нарушают рекламные правила.
- Риски генерации изображений: созданные изображения с участием реальных людей, товарных знаков или вводящих в заблуждение сцен.
- Расходы и бесконтрольное использование: API-проекты, созданные отдельными лицами без бюджетных ограничений или владельца.
Каковы его известные ограничения?
Длинное контекстное окно Gemini — это сильная сторона, позволяющая ему читать большие документы и длинные видео- или аудиофайлы. Но длинный ввод не гарантирует точное запоминание каждой детали; важные цифры все равно следует сверять с источником.
Обоснование поиска, где Gemini цитирует результаты из Интернета, уменьшает, но не устраняет ошибки. Источники могут быть низкого качества или неправильно прочитаны. Производительность также варьируется в зависимости от языка, а функции внедряются в регионах и типах аккаунтов в разное время, поэтому то, что видит один коллега, может быть недоступно другому.
Gemini может ошибаться относительно своих собственных возможностей. Не полагайтесь на помощника, чтобы узнать, к каким данным он может получить доступ; проверяйте документацию администратора.
Какие правила управления должны быть первыми?
Запишите их перед широким внедрением. Они помещаются на одной странице.
Правило первое: только одобренные аккаунты
Рабочие задачи используют Gemini через аккаунт Workspace компании или одобренные облачные проекты. Личные аккаунты не используются для информации о клиентах или компании.
Правило второе: категории данных
Определите, что никогда нельзя вводить: личные данные клиентов, пароли и ключи, неанонсированные финансовые результаты, данные под NDA, если контракт не разрешает это. Все остальное следует обычным правилам конфиденциальности.
Правило третье: проверка человеком перед публикацией
Любой результат Gemini, который публикуется, отправляется клиенту или используется в принятии решения, проверяется назначенным лицом. Факты, цифры и цитаты сверяются с источниками.
Правило четвертое: исправьте общий доступ перед включением
Проведите аудит общего доступа к Drive, чтобы настройки «все в организации» или «все, у кого есть ссылка» не открывали конфиденциальные папки. Gemini соблюдает разрешения, поэтому разрешения должны быть правильными.
Правило пятое: владельцы и бюджеты для использования API
Каждый проект Gemini API или Vertex AI имеет назначенного владельца, оповещение о бюджете и ключи, хранящиеся в менеджере секретов, а не в общих документах или репозиториях кода.
Как администраторы обеспечивают соблюдение этого?
Администраторы Workspace могут контролировать доступ к Gemini по организационным единицам в консоли администратора, сначала включая функции для пилотной группы. Они также могут управлять тем, могут ли пользователи получать доступ к потребительскому приложению Gemini с рабочих аккаунтов, и просматривать доступные журналы аудита.
В Google Cloud используйте роли IAM, чтобы ограничить тех, кто может создавать ключи API, устанавливайте оповещения о бюджете в Billing и применяйте организационные политики. Правила предотвращения потери данных в Workspace могут помочь обнаружить конфиденциальные данные в документах и электронной почте.
Что должна включать политика использования?
Краткая письменная политика облегчает соблюдение правил.
- Цель: для чего одобрен Gemini, например, для черновиков, обобщения, анализа и исследований.
- Запрещенное использование: ввод ограниченных данных, генерация изображений реальных людей, выдача себя за другого.
- Требование проверки и кто подписывает опубликованный контент.
- Раскрытие информации: когда участие ИИ должно быть указано клиентам или аудитории.
- Сообщение об инцидентах: кому сообщать, если конфиденциальные данные были переданы по ошибке.
- Дата пересмотра: не реже двух раз в год, потому что функции и условия меняются.
Как Alien Road применяет Google Gemini
В типичном взаимодействии мы начинаем с короткого исследования: какие аккаунты Google использует команда, как настроен общий доступ к Drive и для каких задач люди уже используют ИИ. Затем мы помогаем администратору Workspace клиента включить Gemini для пилотной группы, исправить рискованные настройки общего доступа и опубликовать одностраничную политику использования, основанную на правилах выше. Наша команда создает шаблоны промптов для обычных маркетинговых задач, таких как сводки кампаний в Sheets, брифы в Docs и заметки о встречах в Meet.
Для работы с API, такой как конвейеры контента или аналитика, мы настраиваем проекты с владельцами, оповещениями о бюджете и безопасным хранением ключей. Отчетность охватывает внедрение в пилотной группе, время, сэкономленное на шаблонных задачах, и любые инциденты с политикой. Например, маркетинговая команда может использовать Gemini в Sheets для обобщения еженедельных данных кампании, при этом аналитик проверяет каждую сводку перед тем, как она попадет к руководству.
С чего начать на этой неделе
Попросите вашего администратора Workspace составить список тех, у кого в настоящее время включены функции Gemini, и запустите быстрый отчет об общем доступе к Drive для папок, которыми пользуется вся организация. Напишите пять правил выше на одной странице, адаптировав их к вашим данным, и поделитесь ими с пилотной группой, прежде чем кто-либо еще получит доступ. Исправление разрешений и написание правил сейчас занимает день; очистка после утечки данных стоит гораздо дороже.
Читайте дальше: Агентство ИИ-маркетинга · ИИ-маркетинг