L’IA sur l’appareil, telle qu’Apple Intelligence sur les iPhones et Macs récents ou Gemini Nano sur les téléphones Android pris en charge, exécute des modèles de langage directement sur le matériel de l’utilisateur au lieu d’un serveur distant. Cela réduit la latence et garde une grande partie des données locales, mais cela crée également des risques que les équipes marketing planifient rarement : des résultats incohérents entre les appareils, des résumés qui déforment les messages de la marque et le personnel utilisant des fonctionnalités d’appareils personnels avec des données clients. La gouvernance doit commencer avant l’adoption, pas après.
Que fait réellement l’IA sur l’appareil ?
Apple Intelligence regroupe un ensemble de fonctionnalités dans iOS, iPadOS et macOS : des outils d’écriture qui réécrivent ou corrigent le texte, des résumés de notifications et d’e-mails, la génération d’images via Image Playground et un Siri plus performant. Les tâches plus petites s’exécutent sur un modèle local ; les demandes plus lourdes peuvent aller vers Private Cloud Compute d’Apple, qu’Apple décrit comme des serveurs construits sur du silicium Apple qui ne conservent pas les données des utilisateurs. Certaines demandes peuvent également être transmises à ChatGPT, mais seulement après l’accord de l’utilisateur.
Gemini Nano est le plus petit modèle Gemini de Google. Il est intégré à Android via un service système appelé AICore et alimente des fonctionnalités telles que les réponses intelligentes dans Gboard, les résumés d’enregistrements et la détection d’appels frauduleux sur les appareils Pixel et Samsung pris en charge. Les développeurs peuvent y accéder via les API sur l’appareil de Google, et Chrome teste des API d’IA intégrées qui exécutent un modèle de classe Nano dans le navigateur.
Le fil conducteur est simple. Un petit modèle, souvent de quelques milliards de paramètres ou moins, effectue un travail utile sans aller-retour réseau. Cette conception est la source à la fois des avantages et des limites.
Pourquoi l’histoire de la confidentialité n’est que la moitié de l’image
Les fournisseurs présentent l’IA sur l’appareil principalement comme une fonctionnalité de confidentialité, et pour de nombreuses tâches, c’est juste. Une phrase réécrite localement ne quitte jamais le téléphone. Mais “les données restent sur l’appareil” ne signifie pas “les données sont gouvernées”. L’appareil peut appartenir à un employé, le résultat peut être collé dans un livrable client et personne n’a peut-être enregistré qu’un modèle y a touché.
Il y a aussi le problème du transfert. Lorsqu’une demande est trop importante pour le modèle local, elle peut être acheminée vers un service cloud. Sur les appareils Apple, le système informe l’utilisateur lorsque ChatGPT est impliqué, mais le personnel clique rapidement sur les invites. Sur Android, les applications qui utilisent Gemini Nano peuvent également appeler des modèles Gemini cloud pour des demandes plus difficiles. Votre politique doit couvrir toute la chaîne, pas seulement la partie locale.
Quelles limites importent le plus pour les équipes marketing ?
Les petits modèles font des compromis différents de ceux des grands modèles cloud. Pour un département marketing, cinq limites reviennent sans cesse :
- Contexte plus court : les modèles sur l’appareil gèrent bien les entrées courtes et mal les longs documents, donc un briefing de 40 pages résumé sur un téléphone peut omettre des sections clés.
- Rappel factuel plus faible : les petits modèles connaissent moins le monde et sont plus susceptibles d’affirmer quelque chose de faux avec confiance.
- Fragmentation de l’appareil : les fonctionnalités dépendent de la puce, de la RAM, de la région et des paramètres de langue, donc deux collègues peuvent obtenir des résultats différents à partir de la même commande.
- Couverture linguistique limitée : la prise en charge de langues telles que le turc est arrivée plus tard que l’anglais, et la qualité varie selon la langue.
- Aucune piste d’audit : les fonctionnalités locales ne laissent généralement aucune trace centrale de ce qui a été généré, modifié ou résumé.
Le dernier point est celui que les équipes de conformité remarquent en premier. Si un résumé d’un e-mail client perd une condition (“uniquement si approuvé par le service juridique”), il n’y a aucune trace montrant que l’IA a produit le résumé plutôt que l’employé.
Le risque qui frappe les marques de l’extérieur
La plupart des documents de gouvernance se concentrent sur ce que le personnel fait avec l’IA. L’IA sur l’appareil ajoute un risque externe : vos clients lisent désormais vos messages via un modèle. Les résumés de notifications sur iPhones condensent les e-mails, les notifications push et les messages en une ou deux lignes. Les premières versions produisaient des résumés d’alertes d’actualités qui étaient clairement faux, et Apple a suspendu les résumés pour les applications d’actualités pendant un certain temps pour résoudre le problème.
Pour une marque, cela signifie qu’une poussée promotionnelle soigneusement rédigée peut arriver sous la forme d’un résumé aplati et parfois trompeur. Des premières lignes claires aident. Il est également utile de mettre l’offre, la date limite et toute condition dans la phrase d’ouverture plutôt qu’à la fin. Traitez les 80 à 100 premiers caractères de chaque e-mail et notification push comme la partie qu’un modèle est le plus susceptible de conserver.
Quelles règles de gouvernance devez-vous définir en premier ?
Vous n’avez pas besoin d’une politique d’IA de 30 pages pour commencer. Vous avez besoin d’une poignée de règles dont les gens peuvent se souvenir et qui correspondent à la façon dont les fonctionnalités sur l’appareil sont réellement utilisées. Une première version pratique ressemble à ceci :
- Définissez quels appareils peuvent être utilisés pour le travail client et si les téléphones personnels avec des fonctionnalités d’IA activées sont autorisés à ouvrir des fichiers clients.
- Listez les tâches qui sont acceptables sur l’appareil (relecture de notes internes, résumé de vos propres enregistrements de réunions) et celles qui ne le sont pas (résumé de contrats, rédaction de réclamations juridiques ou médicales).
- Exigez une révision humaine pour tout texte assisté par IA qui est envoyé à un client ou intégré dans un actif publié, avec le réviseur nommé dans l’outil de projet.
- Décidez si les transferts vers le cloud, comme l’intégration de ChatGPT, sont autorisés et, si oui, quel type de compte est utilisé.
- Définissez une règle pour les images : tout ce qui est créé avec Image Playground ou des outils similaires doit être étiqueté en interne et ne doit pas représenter de vraies personnes sans consentement.
- Nommez un propriétaire qui révise la politique lorsque les fournisseurs publient des mises à jour majeures du système d’exploitation, car les fonctionnalités changent à chaque version.
Gardez cela sur une seule page. Une règle dont le personnel ne peut pas se souvenir pendant un après-midi chargé ne sera pas suivie.
Paramètres de gestion des appareils
Si votre entreprise utilise la gestion des appareils mobiles, vérifiez ce que votre plateforme expose. Apple a ajouté des contrôles de gestion qui permettent aux administrateurs de restreindre certaines fonctionnalités d’Apple Intelligence sur les appareils supervisés, et Android Enterprise propose ses propres paramètres de politique. La disponibilité change selon la version, vérifiez donc dans votre console MDM plutôt que de vous fier à un article de blog, y compris celui-ci.
Comment Alien Road applique la gouvernance de l’IA sur l’appareil
Dans une mission typique, nous commençons par la découverte : une courte enquête sur les appareils utilisés par l’équipe client, les fonctionnalités d’IA activées et les endroits où les données clients ou consommateurs passent à travers eux. La plupart des équipes sont surprises par le nombre de fonctionnalités déjà actives par défaut après une mise à jour du système d’exploitation.
Ensuite vient la configuration. Nous rédigeons l’ensemble de règles d’une page ci-dessus, adapté au secteur du client, et nous le mappons aux paramètres MDM ou de navigateur qu’ils possèdent déjà. Pour une marque de vente au détail, par exemple, nous réécrivons également les modèles de push et d’e-mail afin que le message clé survive à la synthèse automatique.
La mesure suit. Nous testons comment les modèles principaux apparaissent sous forme de résumés de notifications sur les appareils iOS et Android actuels et enregistrons les résultats dans une feuille partagée. Le reporting est trimestriel : ce qui a changé dans les fonctionnalités des fournisseurs, quelles règles ont été mises à jour et quels modèles ont nécessité un autre passage.
Par où commencer cette semaine
Choisissez une heure et faites trois choses. Premièrement, demandez à chaque membre de l’équipe quelles fonctionnalités d’IA ils ont utilisées au cours du mois dernier sur leur téléphone ou ordinateur portable ; écrivez la liste. Deuxièmement, envoyez vos cinq e-mails marketing et notifications push les plus importants à un iPhone de test avec les résumés activés et faites une capture d’écran de ce qui apparaît. Troisièmement, rédigez le premier brouillon de votre ensemble de règles d’une page en utilisant les six règles ci-dessus.
C’est suffisant pour passer de “nous n’y avons pas pensé” à une position documentée. Vous pouvez affiner les détails après la prochaine version majeure du système d’exploitation, lorsque la liste des fonctionnalités aura de toute façon changé.
Continuez à lire : Optimisation par IA · Optimisation par IA