La IA en el dispositivo, como Apple Intelligence en los iPhones y Macs recientes o Gemini Nano en los teléfonos Android compatibles, ejecuta modelos de lenguaje directamente en el hardware del usuario en lugar de en un servidor remoto. Eso reduce la latencia y mantiene gran parte de los datos locales, pero también crea riesgos que los equipos de marketing rara vez planifican: resultados inconsistentes entre dispositivos, resúmenes que distorsionan los mensajes de la marca y personal que utiliza funciones de dispositivos personales con datos de clientes. La gobernanza debe comenzar antes de la adopción, no después.
¿Qué hace realmente la IA en el dispositivo?
Apple Intelligence agrupa un conjunto de funciones en iOS, iPadOS y macOS: herramientas de escritura que reescriben o corrigen textos, resúmenes de notificaciones y correos electrónicos, generación de imágenes a través de Image Playground y un Siri más capaz. Las tareas más pequeñas se ejecutan en un modelo local; las solicitudes más pesadas pueden ir a Private Cloud Compute de Apple, que Apple describe como servidores construidos sobre silicio de Apple que no retienen datos del usuario. Algunas solicitudes también pueden enviarse a ChatGPT, pero solo después de que el usuario acepte.
Gemini Nano es el modelo Gemini más pequeño de Google. Se envía dentro de Android a través de un servicio del sistema llamado AICore y potencia funciones como respuestas inteligentes en Gboard, resúmenes de grabaciones y detección de llamadas fraudulentas en dispositivos Pixel y Samsung compatibles. Los desarrolladores pueden acceder a él a través de las API en el dispositivo de Google, y Chrome ha estado probando API de IA integradas que ejecutan un modelo de clase Nano en el navegador.
El hilo común es simple. Un modelo pequeño, a menudo de unos pocos miles de millones de parámetros o menos, realiza un trabajo útil sin un viaje de ida y vuelta a la red. Ese diseño es la fuente tanto de los beneficios como de los límites.
Por qué la historia de la privacidad es solo la mitad de la imagen
Los proveedores presentan la IA en el dispositivo principalmente como una función de privacidad, y para muchas tareas eso es justo. Una oración reescrita localmente nunca abandona el teléfono. Pero “los datos permanecen en el dispositivo” no significa “los datos están gobernados”. El dispositivo puede pertenecer a un empleado, el resultado puede pegarse en un entregable del cliente y nadie puede haber registrado que un modelo lo tocó.
También existe el problema de la transferencia. Cuando una solicitud es demasiado grande para el modelo local, puede dirigirse a un servicio en la nube. En los dispositivos Apple, el sistema informa al usuario cuando ChatGPT está involucrado, pero el personal hace clic rápidamente en los avisos. En Android, las aplicaciones que usan Gemini Nano también pueden llamar a modelos Gemini en la nube para solicitudes más difíciles. Su política debe cubrir toda la cadena, no solo la parte local.
¿Qué límites importan más para los equipos de marketing?
Los modelos pequeños hacen diferentes concesiones que los grandes modelos en la nube. Para un departamento de marketing, cinco límites aparecen una y otra vez:
- Contexto más corto: los modelos en el dispositivo manejan bien las entradas cortas y mal los documentos largos, por lo que un resumen de 40 páginas en un teléfono puede omitir secciones clave.
- Recuerdo fáctico más débil: los modelos pequeños saben menos sobre el mundo y es más probable que afirmen algo incorrecto con confianza.
- Fragmentación del dispositivo: las funciones dependen del chip, la RAM, la región y la configuración de idioma, por lo que dos colegas pueden obtener resultados diferentes del mismo comando.
- Cobertura de idioma limitada: el soporte para idiomas como el turco ha llegado más tarde que el inglés, y la calidad varía según el idioma.
- Sin rastro de auditoría: las funciones locales generalmente no dejan un registro central de lo que se generó, editó o resumió.
El último punto es el que los equipos de cumplimiento notan primero. Si un resumen de un correo electrónico de un cliente pierde una condición (“solo si es aprobado por el departamento legal”), no hay registro que muestre que la IA produjo el resumen en lugar del empleado.
El riesgo que golpea a las marcas desde el exterior
La mayoría de los documentos de gobernanza se centran en lo que el personal hace con la IA. La IA en el dispositivo añade un riesgo externo: sus clientes ahora leen sus mensajes a través de un modelo. Los resúmenes de notificaciones en iPhones condensan correos electrónicos, notificaciones push y mensajes en una o dos líneas. Las primeras versiones producían resúmenes de alertas de noticias que eran claramente incorrectos, y Apple pausó los resúmenes para las aplicaciones de noticias durante un tiempo para solucionar el problema.
Para una marca, esto significa que un impulso promocional cuidadosamente escrito puede llegar como un resumen aplanado y, a veces, engañoso. Las primeras líneas claras ayudan. También ayuda poner la oferta, la fecha límite y cualquier condición en la oración inicial en lugar de al final. Trate los primeros 80 a 100 caracteres de cada correo electrónico y notificación push como la parte que es más probable que un modelo conserve.
¿Qué reglas de gobernanza debe establecer primero?
No necesita una política de IA de 30 páginas para comenzar. Necesita un puñado de reglas que la gente pueda recordar y que se ajusten a cómo se utilizan realmente las funciones en el dispositivo. Una primera versión práctica se ve así:
- Defina qué dispositivos pueden usarse para el trabajo del cliente y si se permite que los teléfonos personales con funciones de IA habilitadas abran archivos del cliente.
- Enumere las tareas que están bien en el dispositivo (corrección de notas internas, resumen de sus propias grabaciones de reuniones) y las que no (resumen de contratos, redacción de reclamos legales o médicos).
- Exija revisión humana para cualquier texto asistido por IA que vaya a un cliente o a un activo publicado, con el revisor nombrado en la herramienta del proyecto.
- Decida si se permiten transferencias a la nube como la integración de ChatGPT y, de ser así, qué tipo de cuenta se utiliza.
- Establezca una regla para las imágenes: todo lo hecho con Image Playground o herramientas similares debe etiquetarse internamente y no debe representar a personas reales sin consentimiento.
- Nombre a un propietario que revise la política cuando los proveedores publiquen actualizaciones importantes del sistema operativo, ya que las funciones cambian con cada lanzamiento.
Manténgalo en una página. Una regla que el personal no pueda recordar durante una tarde ocupada no se seguirá.
Configuración de gestión de dispositivos
Si su empresa utiliza la gestión de dispositivos móviles, verifique lo que expone su plataforma. Apple ha agregado controles de gestión que permiten a los administradores restringir ciertas funciones de Apple Intelligence en dispositivos supervisados, y Android Enterprise ofrece sus propias configuraciones de política. La disponibilidad cambia según la versión, así que verifique en su consola MDM en lugar de confiar en una publicación de blog, incluida esta.
Cómo aplica Alien Road la gobernanza de IA en el dispositivo
En un compromiso típico, comenzamos con el descubrimiento: una breve encuesta sobre qué dispositivos utiliza el equipo del cliente, qué funciones de IA están activadas y por dónde pasan los datos del cliente o del consumidor a través de ellos. La mayoría de los equipos se sorprenden de cuántas funciones ya están activas de forma predeterminada después de una actualización del sistema operativo.
Luego viene la configuración. Redactamos el conjunto de reglas de una página anterior, ajustado para el sector del cliente, y lo asignamos a la configuración de MDM o del navegador que ya tienen. Para una marca minorista, por ejemplo, también reescribimos las plantillas de push y correo electrónico para que el mensaje clave sobreviva a la automatización.
La medición sigue. Probamos cómo aparecen las plantillas principales como resúmenes de notificaciones en dispositivos iOS y Android actuales y registramos los resultados en una hoja compartida. Los informes son trimestrales: qué cambió en las funciones de los proveedores, qué reglas se actualizaron y qué plantillas necesitaron otra pasada.
Por dónde empezar esta semana
Elija una hora y haga tres cosas. Primero, pregunte a cada miembro del equipo qué funciones de IA han utilizado en el último mes en su teléfono o computadora portátil; escriba la lista. Segundo, envíe sus cinco correos electrónicos de marketing y notificaciones push más importantes a un iPhone de prueba con los resúmenes habilitados y tome una captura de pantalla de lo que aparece. Tercero, escriba el primer borrador de su conjunto de reglas de una página utilizando las seis reglas anteriores.
Eso es suficiente para pasar de “no hemos pensado en ello” a una posición documentada. Puede refinar los detalles después del próximo lanzamiento importante del sistema operativo, cuando la lista de funciones habrá cambiado de todos modos.
Siga leyendo: Optimización con IA · Optimización con IA