DeepSeek y otros modelos de pesos abiertos ofrecen a las empresas una AI capaz que pueden descargar, alojar y adaptar, pero esa libertad traslada la responsabilidad al usuario. Antes de que cualquier equipo los adopte, establezca reglas sobre dónde se ejecuta el modelo, qué datos puede ver, qué licencia se aplica, cómo se revisan los resultados y quién aprueba los nuevos usos. Esas reglas importan más que la elección del modelo, porque los riesgos principales provienen de cómo se despliega un modelo más que de los pesos por sí solos.
¿Qué son los modelos de pesos abiertos?
Un modelo de pesos abiertos es aquel cuyos parámetros entrenados se publican para que cualquiera pueda ejecutarlo. DeepSeek, una empresa de AI china, ha lanzado modelos como DeepSeek-V3 y la familia de razonamiento R1 de esta manera. Otras familias conocidas incluyen Llama de Meta, los modelos abiertos de Mistral, Qwen de Alibaba, Gemma de Google y los lanzamientos de pesos abiertos de OpenAI.
Los pesos abiertos no siempre son de código abierto en el sentido estricto. Los datos de entrenamiento y el código a menudo no se publican, y las licencias varían desde permisivas, como MIT o Apache 2.0, hasta licencias personalizadas con restricciones de uso. Lea la licencia de cada modelo y versión que utilice.
¿Cuáles son los riesgos principales?
Los riesgos se dividen en algunos grupos. Cada uno necesita su propia regla, y ninguno se resuelve simplemente eligiendo un modelo conocido.
Riesgo de datos y alojamiento
Usar un modelo a través de la aplicación alojada o la API de su fabricante envía sus datos a los servidores de esa empresa bajo sus términos y la ley local. La propia aplicación y API de DeepSeek se ejecutan desde China, y varios gobiernos y reguladores han restringido o investigado su uso debido a preocupaciones sobre la protección de datos. Ejecutar los mismos pesos abiertos en sus propios servidores o a través de un proveedor de nube como AWS Bedrock, Azure o Google Vertex AI es una situación de datos muy diferente.
Riesgo de contenido y sesgo
Los modelos reflejan su entrenamiento. Se ha informado que algunos modelos abiertos, incluidos los de DeepSeek, dan respuestas censuradas o unilaterales sobre temas políticamente sensibles. Todos los modelos pueden producir declaraciones falsas con confianza. Para el contenido de marketing, eso significa que las afirmaciones deben ser verificadas y los temas sensibles manejados por personas.
Riesgo de seguridad
Los modelos autohospedados necesitan el mismo cuidado de seguridad que cualquier servidor: control de acceso, parches y registro. Los investigadores han demostrado que el entrenamiento de seguridad en modelos abiertos puede ser débil o eliminarse mediante un ajuste fino, por lo que no puede confiar en que el modelo rechace solicitudes dañinas. Los archivos de modelo descargados de fuentes no oficiales también pueden ser manipulados.
Riesgo legal y de licencia
Las licencias pueden restringir el uso comercial por encima de un tamaño, requerir atribución o prohibir ciertas aplicaciones. Las preguntas sobre derechos de autor sobre los datos de entrenamiento y la salida generada siguen sin resolverse en muchos países. Mantenga un registro de qué modelo y licencia utiliza cada proyecto.
¿Cuáles son los límites prácticos?
Los modelos de pesos abiertos pueden igualar a los modelos cerrados en muchos puntos de referencia, pero ejecutarlos bien requiere trabajo. Los modelos grandes necesitan GPU potentes; las versiones destiladas más pequeñas se ejecutan en hardware modesto pero son menos capaces. Su equipo tiene que manejar las actualizaciones, el escalado y el monitoreo que un proveedor de API haría de otra manera.
Funciones como la navegación web, el manejo de archivos y el uso de herramientas provienen del software circundante, no del modelo. Un modelo abierto crudo es un motor sin un coche a su alrededor.
¿Qué reglas de gobernanza debería establecer primero?
Escriba estas reglas antes del primer proyecto y manténgalas lo suficientemente breves para que la gente las lea.
- Alojamiento aprobado: enumere qué formas de ejecutar modelos están permitidas, como autohospedados dentro de su cuenta de nube o proveedores de nube nombrados, y cuáles no, como aplicaciones de consumo para datos de la empresa.
- Clases de datos: defina qué se puede enviar a cada configuración. El contenido público puede ir a cualquier lugar aprobado; los datos confidenciales del cliente y los datos personales solo a entornos autohospedados o contratados.
- Modelos aprobados: mantenga un registro de modelos, versiones, fuentes y licencias aprobadas para su uso, con un propietario para cada uno.
- Revisión de resultados: requiera revisión humana para todo lo que se publique, se envíe a los clientes o se utilice en decisiones.
- Temas sensibles: nombre los temas donde no se puede utilizar la salida del modelo sin revisión experta, como salud, legal, finanzas y política.
- Línea base de seguridad: descargue pesos solo de repositorios oficiales, verifique sumas de verificación, restrinja el acceso y registre el uso.
- Aprobación de nuevo uso: una persona nombrada o un grupo pequeño aprueba cualquier nuevo caso de uso frente a estas reglas.
¿Cómo se aplican estas reglas en un equipo de marketing?
Un equipo de marketing podría permitir un modelo abierto autohospedado para etiquetar feeds de productos, resumir páginas públicas de competidores y redactar variantes sociales, porque los datos son públicos y el resultado se revisa. El mismo equipo no pegaría contratos de clientes en una aplicación de chatbot de consumo de ningún proveedor.
Para el trabajo orientado al cliente, divulgue el uso de AI cuando la política del cliente lo solicite. Algunos clientes prohíben proveedores específicos por nombre; su registro de modelos debería facilitar mostrar qué modelo tocó qué proyecto.
Cómo aplica Alien Road los modelos de pesos abiertos
En un compromiso típico, Alien Road comienza revisando la política de AI del cliente, si existe, y sus clases de datos. Luego proponemos qué tareas se adaptan a un modelo de pesos abiertos, generalmente trabajo de alto volumen en datos públicos donde el costo o el control importan, y cuáles deberían permanecer en API comerciales contratadas.
Cuando usamos modelos abiertos, los ejecutamos dentro de cuentas de nube aprobadas, no a través de la aplicación de consumo del fabricante del modelo, y registramos el nombre del modelo, la versión y la licencia por proyecto. Los resultados pasan por los mismos pasos de revisión que cualquier otro contenido. Los informes incluyen el costo por tarea y las puntuaciones de calidad en comparación con los modelos comerciales, para que el cliente pueda ver si la compensación vale la pena.
Por dónde empezar esta semana
Pregunte a su equipo qué herramientas y modelos de AI han utilizado para el trabajo en el último mes, incluidas las aplicaciones gratuitas. Enumérelos, anote a dónde envía datos cada uno y marque cualquier uso de datos de la empresa o del cliente en herramientas que no haya aprobado. Esa lista es su primer documento de gobernanza; conviértalo en reglas a partir de ahí.
Mantenga la primera versión en una página. Circúlela, pregunte a las personas que usan estas herramientas a diario qué les impediría seguirla y ajústela. Una política corta que la gente realmente sigue lo protege mucho más que una larga que permanece sin leer en una unidad compartida.
Revise el registro cada trimestre. Los nuevos lanzamientos de pesos abiertos llegan a menudo, y un modelo aprobado hace seis meses puede tener una versión más nueva con una licencia diferente o problemas de seguridad conocidos.
Siga leyendo: Optimización con IA · Optimización con IA