Terrain n°82 – Espèces d’IA : quand les machines prennent forme(s)

« Ces IA, qui prédisent un mot après l’autre, ne comprennent pas ce qu’elles produisent. Elles déroulent une probabilité, et cela rend d’autant plus vertigineuses les illusions de dialogue ou d’intelligence qu’elles génèrent. Le vernis de sens n’est qu’un énième mirage statistique. »

Il suffit d’un regard sur la couverture du numéro 82 de la revue Terrain – ce microprocesseur arachnéen aux pattes tentaculaires, figure hybride entre l’insecte, le réseau et le capteur – pour comprendre que l’intelligence artificielle ne sera pas traitée ici comme un simple objet technologique. Elle est abordée comme un organisme mutant, une créature instable qui traverse les frontières du vivant, de l’imaginaire et du social. Sous le titre suggestif Espèces d’IA, ce volume propose bien davantage qu’un dossier sur les performances récentes de ces solutions technologiques : un voyage anthropologique, critique, au sein de nos interactions avec ces nouvelles entités qui nous assistent et nous conditionnent, dans un même élan.

Première source de satisfaction : la revue évite l’écueil de l’unicité. Il n’y a pas une intelligence artificielle, mais bien une prolifération de formes, d’usages, d’éléments constitutifs. On y rencontre Stable Diffusion, moteur de génération d’images à partir de textes, qui ne cesse d’étonner autant qu’il trahit les limites de ses bases de données – aveugles, incomplètes, biaisées. L’un des aspects les plus intrigants abordés ici est la difficulté persistante des IA – bien que corrigée pour partie depuis – à représenter correctement les mains humaines. Ce détail presque trivial a quelque chose de symptomatique : les mains, toujours en action, tenant un objet, saisies selon des milliers d’angles dans les bases d’images, ont longtemps résisté à la synthèse. Elles échappaient, en somme, à la norme. Et cela dit beaucoup sur les limites de ces IA : elles ne comprennent pas, elles corrèlent.

Les réflexions autour des intelligences artificielles s’ancrent aussi dans des expérimentations concrètes : il en va ainsi de cette manipulation algorithmique réalisée à Berlin, où Simon Weckert, un plasticien, a rassemblé des dizaines de smartphones dans une brouette pour simuler un embouteillage. L’effet est immédiat : les rues se vident, la machine, trompée par la ruse, produit l’effet contraire de son objectif initial. Un acte de « contre-navigation » qui semble se dresser contre tous les travers de la géolocalisation et des itinéraires virtuels. Après tout, comme le rappellent à dessein les auteurs, visiter Venise ne revient-il pas aujourd’hui à arpenter les mêmes ruelles que des millions d’autres touristes, sans même jeter un regard là où plus personne ne va, faute de prescription logicielle ? 

Parmi les nombreux sujets traités, on peut citer celui des tactiques de contournement : Terrain évoque ainsi le jailbreaking, ces pratiques qui visent à forcer les IA à sortir de leurs rails normatifs. Pour y parvenir, certains ont recours à des proxies, c’est-à-dire des figures connues, historiques ou culturelles, qui agissent tels des masques : si l’IA refuse de parler d’un sujet sensible, qu’en dirait, par exemple, Napoléon ? Ou Alan Turing ? Ou Spock ? En passant par ce détour narratif, on tente de plier l’algorithme à notre désir, en le piégeant dans une fiction qui le rend paradoxalement plus sincère. Ce phénomène se double d’une réflexion plus large sur le concept de bassin d’attraction, qui traduit l’espace de contraintes dans lequel une IA évolue : consignes de sécurité, limites éthiques, filtrage du contenu, soit autant de bornes qui sculptent ses trajectoires possibles.

Le numéro ne s’arrête toutefois pas à l’analyse des usages récents : il propose une brève histoire de l’évolution des IA, où le deep learning succède aux logiques expertes, et où la promesse de l’autonomie recouvre, il faut bien le dire, des mécanismes opaques et intrinsèquement manipulables. Chemin faisant, ces solutions technologiques ont créé le deepfake, c’est-à-dire la possibilité, aujourd’hui bien réelle, que les images ne supportent plus rien d’authentique, et que la vérité, alors au mieux discutable, devienne un artefact parmi d’autres. On en apprend davantage sur la nature autorégressive des modèles de langage : ces IA, qui prédisent un mot après l’autre, ne comprennent pas ce qu’elles produisent. Elles déroulent une probabilité, et cela rend d’autant plus vertigineuses les illusions de dialogue ou d’intelligence qu’elles génèrent. Le vernis de sens n’est qu’un énième mirage statistique.

Ce numéro 82 de la revue Terrain donne à penser. Tant la machine que l’humain. On y lit des articles fouillés, on y prend connaissance d’expérimentations bio-scientifiques, on y découvre les (en)jeux infrastructurels, on s’y familiarise avec des termes qui, tôt ou tard, s’imposeront à notre quotidien. Il comprend aussi un hommage touchant à un collaborateur prématurément disparu. On sort de cette lecture avec l’impression de mieux comprendre non pas les IA elles-mêmes – dont l’opacité technique reste tenace – mais notre propre fascination, nos usages, nos projections potentielles. Les « espèces d’IA », ce sont autant des formes de machines que des reflets de notre imaginaire, de nos modes opératoires. 

Jonathan Fanara