Le gouvernement US dveloppe une technologie d’IA pour dmasquer les crivains anonymes, voquant entre autres le suivi des campagnes de dsinformation et d’autres activits malveillantes en ligne

La branche de recherche de la communaut du renseignement se prpare dvelopper de nouveaux systmes d’intelligence artificielle capables d’identifier qui ou quoi est l’auteur d’un texte spcifique et, d’un autre ct, des systmes avancs ciblant des fonctionnalits pour protger la vie prive des auteurs.

Cet effort, de ce que nous en pensons, est potentiellement rvolutionnaire pour le suivi des campagnes de dsinformation, et des choses comme la lutte contre la traite des tres humains et d’autres activits malveillantes qui se droulent dans les forums de texte en ligne, et ailleurs en utilisant du texte , a dclar le Dr Timothy McKinnon dans un rcent interview.

McKinnon est le responsable du programme Intelligence Advanced Research Projects Activity qui dirige ce travail, qui est baptis HIATUS (pour human interpretable attribution of text using underlying structure, littralement attribution interprtable par l’homme de texte utilisant une structure sous-jacente.

crire de manire anonyme ne cachera peut-tre pas votre identit plus longtemps si le dernier projet d’intelligence artificielle du gouvernement amricain s’avre un succs.

Le bureau du directeur du renseignement national a annonc un nouveau projet d’IA gr par l’Intelligence Advanced Research Projects Activity (IARPA), qui se concentre sur la technologie des empreintes numriques de langages. L’IARPA se dcrit comme investissant dans des programmes de recherche haut risque et haut rendement pour relever certains des dfis les plus difficiles des agences et des disciplines de la communaut du renseignement , et cela compte certainement pour un.

Il s’agit du programme HIATUS (Human Interpretable Attribution of Text Using Underlying Structure) qui vise faire progresser la technologie du langage humain au point o les auteurs peuvent tre identifis simplement par leur style d’criture. L’objectif est que HIATUS soit multilingue et capable de diffrencier les auteurs en fonction de caractristiques stylistiques telles que le choix des mots, la formulation des phrases et l’organisation de l’information.

Bien que cela puisse sonner l’alarme pour quiconque souhaite crire de manire anonyme, l’IARPA souligne que HIATUS peut galement protger une identit. En modifiant automatiquement le modle de langage d’un auteur connu, il ne devrait pas tre possible pour une IA de dterminer qui est un auteur. HIATUS a galement pour objectif de pouvoir expliquer aux utilisateurs novices comment il peut attribuer un crit un auteur spcifique.

Envoy par Office of the Director of National Intelligence

L’Intelligence Advanced Research Projects Activity (IARPA), la branche de recherche et dveloppement du Bureau du directeur du renseignement national, a annonc aujourd’hui le lancement d’un programme visant concevoir de nouvelles technologies d’intelligence artificielle capables d’attribuer la paternit des crits et de protger la vie prive des auteurs.

Le programme Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) reprsente le dernier effort de recherche de la communaut du renseignement pour faire progresser la technologie du langage humain. Les innovations qui en rsultent pourraient avoir des impacts considrables, avec le potentiel de contrer les activits trangres d’influence maligne*; identifier les risques de contre-espionnage*; et aider protger les auteurs qui pourraient tre mis en danger si leurs crits sont lis eux.

Les objectifs du programme sont de crer des technologies qui :

• Effectue une attribution d’auteur multilingue en identifiant les caractristiques stylistiques, telles que le choix des mots, la formulation des phrases, l’organisation des informations, qui aident dterminer l’auteur d’un texte donn.
• Protger la vie prive de l’auteur en modifiant les modles linguistiques qui indiquent l’identit de l’auteur.
• Mettre en uvre des techniques d’IA explicables qui permettent aux utilisateurs novices de comprendre, de faire confiance et de vrifier pourquoi un texte particulier est attribuable un auteur spcifique ou pourquoi une rvision particulire prservera la vie prive d’un auteur.

Chacun des artistes slectionns apporte une approche unique, nouvelle et convaincante au dfi HIATUS , a dclar le directeur du programme, le Dr Tim McKinnon. Nous avons de fortes chances d’atteindre nos objectifs, de fournir des capacits indispensables la communaut du renseignement et d’largir considrablement notre comprhension de la variation du langage humain en utilisant les dernires avances en linguistique informatique et en apprentissage en profondeur .

Avec le bon modle, l’IARPA pense pouvoir identifier les cohrences dans le style d’un crivain travers diffrents chantillons, modifier ces modles linguistiques pour anonymiser l’criture et tout faire d’une manire explicable aux utilisateurs novices, a dclar ODNI. Les IA HIATUS devraient galement tre indpendantes de la langue.

Nous avons de fortes chances d’atteindre nos objectifs, de fournir des capacits indispensables la communaut du renseignement et d’largir considrablement notre comprhension de la variation du langage humain en utilisant les dernires avances en linguistique informatique et en apprentissage en profondeur , a dclar le directeur du programme HIATUS, le Dr Timothy McKinnon.

Afin de dvelopper des modles solides, HIATUS prvoit d’aborder ses objectifs comme une question d’IA contradictoire*: l’attribution de la paternit et l’anonymisation du texte sont les deux faces d’un mme problme, et les groupes d’exprimentation HIATUS seront donc opposs les uns aux autres.

Envoy par IARPA

Les humains et les machines produisent chaque jour de grandes quantits de contenu textuel. Le texte contient des caractristiques linguistiques qui peuvent rvler l’identit de l’auteur. Pour soutenir et protger la mission IC, l’objectif du programme HIATUS est de dvelopper des outils multilingues pour attribuer
la paternit et protger la vie prive des auteurs. Ces outils doivent mettre en uvre de nouvelles techniques d’intelligence artificielle explicables pour fournir des rsultats fiables et vrifiables aux utilisateurs humains, quels que soient les antcdents de l’auteur ou le genre, le sujet et la longueur du document.

Le programme HIATUS considre l’attribution de la paternit et la confidentialit comme diffrents aspects du mme dfi sous-jacent*: comprendre la variation linguistique au niveau de l’auteur en lucidant les identifiants stables des auteurs individuels travers divers types de textes. Le programme met en concurrence les systmes d’attribution de la paternit et de confidentialit des artistes interprtes ou excutants. Les quipes d’interprtes s’affrontent pour gnrer des reprsentations plus fidles entre les empreintes linguistiques uniques des auteurs individuels.

Les systmes performants sont soumis aux quipes de test et d’valuation (T&E) de HIATUS pour une valuation l’aveugle par rapport aux systmes de l’quipe adverse sur un ensemble de donnes squestr comprenant des documents multilingues reprsentant diverses caractristiques de texte et d’auteur. Les systmes d’attribution sont valus en fonction de leur capacit faire correspondre des lments du mme auteur dans de grandes collections, tandis que les systmes de confidentialit sont valus en fonction de leur capacit contrecarrer les systmes d’attribution. L’explicabilit du systme sera value l’aide d’un protocole dvelopp par les interprtes, les quipes T&E et les partenaires gouvernementaux au dbut du programme. Le programme HIATUS dbute fin 2022 et a une dure de 42 mois.

McKinnon a dclar qu’une partie de ce que fait HIATUS essaie de dmystifier certaines des inconnues autour des modles de langage neuronal (au centre des efforts de HIATUS), qui, selon lui, fonctionnent bien, mais sont essentiellement des botes noires qui fonctionnent sans que leurs dveloppeurs sachent pourquoi ils prennent une dcision particulire.

Idalement, a dclar McKinnon, “lorsque nous procdons l’attribution ou la confidentialit des droits d’auteur, nous sommes en mesure de vraiment comprendre pourquoi le systme se comporte comme il le fait, et de pouvoir vrifier qu’il ne dtecte pas de choses fallacieuses et qu’il fonctionne la bonne chose.”

En cas de succs, HIATUS pourrait avoir des impacts considrables, allant de la lutte contre les activits d’influence trangre l’identification des risques de contre-espionnage et la protection des auteurs dont le travail pourrait les mettre en danger, a dclar l’ODNI. McKinnon ajoute que les IA HIATUS peuvent galement tre en mesure d’identifier si le texte est gnr par une machine plutt que par un auteur humain.

Environ 70% des recherches acheves de l’IARPA sont achemines vers d’autres partenaires gouvernementaux pour la mise en uvre, dans lesquelles l’IARPA ne sera pas implique tout ce qu’il fait est de dvelopper la technologie, pas de la transformer en quelque chose d’utilisable. Cela dit, les chances sont en faveur de HIATUS, selon l’agence de renseignement.

Ne vous attendez pas ce que cette technologie apparaisse bientt sous une forme complte : maintenant que HIATUS a dmarr, il faudra 42 mois (trois ans et demi) jusqu’ ce que l’exprience se termine, et ce n’est qu’alors que d’autres agences gouvernementales pourront probablement prendre HIATUS pour un tour, si McKinnon et son quipe russissent.

Une approche technique qui rappelle celle des GAN

Si vous regardez les images prsentes sur le site Web ThisPersonDoesnotExist.com (cette personne nexiste pas), vous pouvez penser tre tomb sur des portraits alatoires de lyce ou des photos issues dune autre source. Pourtant, chaque photo sur le site a t cre en utilisant un type spcial d’algorithme d’intelligence artificielle appel generative adversarial network (GAN, ou, en franais, rseau antagoniste gnratif).

Chaque fois que le site est rafrachi, une image dbordant de ralisme prsente le visage dune personne. Phillip Wang, ingnieur en logiciel chez Uber, a cr la page pour dmontrer les capacits du GAN, puis l’a publie sur le groupe public “Intelligence artificielle et apprentissage en profondeur”.

Le code sous-jacent qui a rendu cela possible, intitul StyleGAN, a t crit par Nvidia et fait l’objet d’un article qui n’avait pas encore t approuv par des pairs cette poque. Ce type de rseau de neurones a le potentiel de rvolutionner la technologie du jeu vido et de la modlisation 3D, mais, comme presque tout type de technologie, il pourrait galement tre utilis des fins plus sinistres. Rappelons par exemple que les deepfakes, ou des images gnres par ordinateur superposes des images ou des vidos existantes, peuvent tre utilises pour diffuser de faux rcits dactualit ou dautres canulars. Cest donc dans un but de sensibilisation que Wang a choisi de faire cette page Web.

Comment fonctionnent les GAN ?

Sil fallait simplifier, nous pourrions dire que le GAN implique que deux rseaux travaillent lun contre lautre. Le premier va tre nourri en donnes brutes quil va dcomposer. partir de ces donnes, il va tenter de crer une image. Il va ensuite soumettre cette image un autre rseau qui, lui, na que des photos ou images relles dans sa base de donnes. Ce deuxime rseau va alors juger de limage et va informer le premier de son jugement. Si limage ne ressemble pas au rsultat attendu, le premier algorithme va recommencer le processus. Si le rsultat correspond, il va tre inform quil est sur la bonne voie et finir par comprendre ce quest une bonne image. Une fois quil est suffisamment entran, il peut en produire la chane.

Sources : DNI, IARPA

Et vous ?

Que pensez-vous d’un tel projet ?

Les objectifs annoncs comme tracer les campagnes de dsinformation et d’autres activits malveillantes en ligne justifient-ils, selon vous, le dploiement d’un tel arsenal ? Pourquoi ?

tes-vous rassur lorsqu’il est indiqu que la vie prive des auteurs sera protge ?

Voyez-vous des drives potentielles ?

Ct technique, que pensez-vous de cette approche qui rappelle celle des GAN ?

Voir aussi :

Microsoft a mis au point une intelligence artificielle capable de trouver des bogues dans le code afin d’aider les dveloppeurs dboguer leurs applications avec plus de prcision et d’efficacit

Une artiste reoit le premier enregistrement amricain connu de droits d’auteur pour une uvre d’art gnre par l’IA, pendant que se tient un vif dbat en ligne sur l’thique de l’art de l’IA