DeepSeek и модели с открытыми весами: риски и правила

Модель с открытыми весами — это модель, чьи обученные параметры публикуются, чтобы любой мог ее запустить. DeepSeek, китайская AI-компания, выпустила модели, такие как DeepSeek-V3 и семейство рассуждений R1, именно таким образом. Другие известные семейства включают Llama от Meta, открытые модели Mistral, Qwen от Alibaba, Gemma от Google и выпуски с открытыми весами от OpenAI.

Открытые веса не всегда являются открытым исходным кодом в строгом смысле. Данные для обучения и код часто не публикуются, а лицензии варьируются от разрешительных, таких как MIT или Apache 2.0, до пользовательских лицензий с ограничениями на использование. Прочитайте лицензию для каждой модели и версии, которую вы используете.

Риски делятся на несколько групп. Каждая требует своего правила, и ни один из них не решается просто выбором известной модели.

Риск данных и хостинга

Использование модели через размещенное приложение или API ее создателя отправляет ваши данные на серверы этой компании в соответствии с ее условиями и местным законодательством. Собственное приложение и API DeepSeek работают из Китая, и несколько правительств и регулирующих органов ограничили или расследовали их использование из-за опасений по поводу защиты данных. Запуск тех же открытых весов на ваших собственных серверах или через облачного провайдера, такого как AWS Bedrock, Azure или Google Vertex AI, — это совершенно иная ситуация с данными.

Риск контента и предвзятости

Модели отражают свое обучение. Сообщалось, что некоторые открытые модели, включая модели DeepSeek, дают цензурированные или однобокие ответы на политически чувствительные темы. Все модели могут с уверенностью делать ложные утверждения. Для маркетингового контента это означает, что утверждения должны проверяться, а чувствительные темы — обрабатываться людьми.

Риск безопасности

Самостоятельно размещенные модели требуют такой же заботы о безопасности, как и любой сервер: контроль доступа, исправление ошибок и ведение журналов. Исследователи показали, что обучение безопасности в открытых моделях может быть слабым или удаленным путем тонкой настройки, поэтому вы не можете полагаться на то, что модель откажется от вредоносных запросов. Файлы моделей, загруженные из неофициальных источников, также могут быть подделаны.

Лицензионный и юридический риск

Лицензии могут ограничивать коммерческое использование сверх определенного размера, требовать указания авторства или запрещать определенные приложения. Вопросы авторского права в отношении данных обучения и сгенерированных результатов остаются нерешенными во многих странах. Ведите учет того, какая модель и лицензия используются для каждого проекта.

Модели с открытыми весами могут соответствовать закрытым моделям по многим показателям, но их эффективная работа требует усилий. Большим моделям нужны мощные GPU; меньшие дистиллированные версии работают на скромном оборудовании, но менее функциональны. Ваша команда должна заниматься обновлениями, масштабированием и мониторингом, которые в противном случае делал бы провайдер API.

Функции, такие как просмотр веб-страниц, обработка файлов и использование инструментов, исходят от окружающего программного обеспечения, а не от модели. Сырая открытая модель — это двигатель без автомобиля вокруг него.

Напишите эти правила до начала первого проекта и сделайте их достаточно краткими, чтобы люди их прочитали.

• Одобренный хостинг: перечислите, какие способы запуска моделей разрешены, например, самостоятельное размещение в вашей облачной учетной записи или у названных облачных провайдеров, а какие нет, например, потребительские приложения для данных компании.
• Классы данных: определите, что можно отправлять в каждую настройку. Публичный контент может отправляться куда угодно, где это одобрено; конфиденциальные данные клиентов и личные данные — только в самостоятельно размещенные или контрактные среды.
• Одобренные модели: ведите реестр моделей, версий, источников и лицензий, разрешенных к использованию, с владельцем для каждой.
• Проверка результатов: требуйте проверки человеком всего, что публикуется, отправляется клиентам или используется при принятии решений.
• Чувствительные темы: назовите темы, где результаты модели нельзя использовать без экспертной проверки, такие как здравоохранение, право, финансы и политика.
• База безопасности: загружайте веса только из официальных репозиториев, проверяйте контрольные суммы, ограничивайте доступ и регистрируйте использование.
• Одобрение нового использования: одно назначенное лицо или небольшая группа одобряет любой новый вариант использования в соответствии с этими правилами.

Маркетинговая команда может разрешить использование самостоятельно размещенной открытой модели для тегирования продуктовых фидов, обобщения страниц публичных конкурентов и составления социальных вариантов, поскольку данные публичны, а результат проверяется. Та же команда не стала бы вставлять клиентские контракты в потребительское приложение чат-бота от любого провайдера.

Для работы с клиентами раскрывайте использование AI, когда этого требует политика клиента. Некоторые клиенты запрещают определенных провайдеров по названию; ваш реестр моделей должен позволять легко показать, какая модель затронула какой проект.