Entre-temps, le web s’oriente peu à peu vers les agents IA et la sécurité de l’IA devient chaque semaine plus concrète. Une édition sur la reconnaissabilité, les outils de travail et la vigilance.

Toutes les deux semaines, nous publions sur le blog de Xylos un aperçu clair et honnête de ce qui bouge vraiment dans le monde de l’IA générative, avec l’éclairage nécessaire. Il reste basé sur l’aperçu LinkedIn bimensuel de Tom Van ’t veld, Learning Innovator chez OASE (powered by Xylos). Tom suit de près les évolutions de l’IA, et nous traduisons ses observations en ce qu’elles signifient concrètement pour les organisations et les personnes qui y travaillent. Bienvenue dans cette neuvième édition.

Anthropic intègre désormais un filigrane invisible dans le texte généré par Claude et fournit des outils de détection permettant aux plateformes de le vérifier. L’entreprise explique aussi précisément le fonctionnement de la technologie. Google prend une autre direction et permet aux utilisateurs de tout simplement désactiver le filigrane visible sur les images Gemini.

Les plateformes suivent le mouvement. Spotify attribue aux artistes IA une étiquette distincte et les exclut de vos recommandations, pour endiguer le flot de faux artistes.

La transparence sur le contenu IA devient peu à peu la norme, avec l’AI Act comme moyen de pression. Convenez dès aujourd’hui de la manière dont votre organisation étiquette le contenu IA, pour qu’aucun filigrane ni aucune règle de plateforme ne vous prenne au dépourvu.

Microsoft fusionne Copilot et Microsoft 365 Copilot en une seule app et supprime au passage Mico et Copilot Labs. L’offre devient plus lisible, mais cela demande de l’attention : qui combine usage privé et professionnel dans la même app met plus vite des données d’entreprise dans la version personnelle sans s’en rendre compte.

OpenAI supprime la limite de conversation pour les utilisateurs gratuits de ChatGPT et ajoute un bouton qui laisse le modèle réfléchir plus longtemps. Anthropic, de son côté, intègre des fonctions collaboratives dans Claude Desktop, avec des projets partagés et plusieurs fils de discussion, pour qu’une équipe travaille avec l’IA sur un même projet.

En tant qu’organisation, choisissez consciemment les assistants que vous soutenez et convenez des données qui ont leur place dans chaque environnement. Vous conservez ainsi la facilité d’usage de ces outils et vos données d’entreprise restent là où elles doivent être.

Avec Kitesurf, Cloudflare a lancé un navigateur conçu spécialement pour les agents IA, plus économe en processeur et en mémoire que Chromium. Time Magazine crée des publicités qui ciblent spécifiquement les agents IA en proposant ses pages dans un format adapté aux bots. Et ChatGPT affiche désormais aussi des publicités en Europe, pour l’instant sans personnalisation.

Les machines lisent désormais le web elles aussi. Veillez à ce que votre contenu soit lisible pour les outils d’IA : une structure claire et des faits concrets contribuent à déterminer si ChatGPT ou Perplexity mentionnera votre organisation.

OpenAI a suspendu le développement de son modèle Astra après qu’il s’est révélé trop doué pour le piratage. Lors de nouveaux tests, un agent IA a endossé de fausses identités pour manipuler des personnes, et Anthropic a vu des agents commencer à se mettre des bâtons dans les roues pour accomplir leurs tâches. Tom garde la tête froide : ces modèles font finalement ce qu’on leur demande, et ce genre d’histoires sert aussi le marketing. Ce qui le préoccupe surtout, c’est la vitesse. Quand les choses tournent mal, cela se passe en quelques heures, alors que nous ne nous en rendons compte que des jours plus tard.

La menace vient aussi du côté humain : des hackers nord-coréens construisent leur propre arsenal IA pour automatiser le phishing et les malwares.

Pour les organisations, cela confirme que cybersécurité et IA se rejoignent. Travaillez avec des droits délimités pour les agents IA et gardez une détection affûtée, car une attaque va désormais plus vite qu’un rapport hebdomadaire ne peut suivre.

Le Danemark durcit les règles scolaires contre la triche avec l’IA, notamment avec des examens oraux et davantage de travaux réalisés en classe. Selon Tom, la sévérité ne résout pas grand-chose tant qu’on n’apprend pas aussi aux jeunes à utiliser ces outils de manière critique.

Il en va de même sur le lieu de travail : les collaborateurs qui comprennent ce que l’IA fait bien et mal en tirent davantage et tombent moins vite dans les pièges. La formation pèse donc aussi lourd que la politique.

Pour terminer, une étude frappante : les gens préfèrent une histoire écrite par ChatGPT à un texte rédigé par un humain, et ils la notent encore mieux dès qu’ils pensent qu’un humain en est l’auteur. Tom trouve cela fascinant, nous retenons surtout qu’une histoire fluide continue de l’emporter, quel qu’en soit l’auteur.

Rendez-vous dans deux semaines pour la prochaine édition.

Tom travaille depuis des années chez Xylos, où il a commencé comme formateur Microsoft Office avant de devenir le moteur de concepts d’apprentissage innovants. Il est à l’origine d’OASE, la plateforme d’apprentissage en ligne de Xylos, et de PlayForward, la nouvelle marque de gamified learning de Xylos. Il a également développé le concept Digital Coach, une app Escape Room pour Microsoft Teams et le jeu mAIndset, qui apprend aux collaborateurs à formuler des prompts pour l’IA de manière ludique. En tant que Learning Innovator, il s’intéresse de plus en plus à ce que l’IA change dans notre façon d’apprendre et de travailler. Envie de réagir ou d’en discuter ? Retrouvez-le sur LinkedIn.