La fin des haricots

C’est fou mais je parle beaucoup d’IA tout de même dans ces colonnes. Cela m’épate car depuis ces vingt années de déblogage régulier, malgré mon assuétude évidente pour l’informatique depuis mes vertes années, et son lien plus que ténu avec mon occupation laborieuse, j’ai vraiment orienté mon web-log sur des petites choses du quotidien, sur un miroir de l’égo, des fixettes sur mes aventures en Queeritude ou bien le compte-rendu des choses lues, vues, écoutés, senties, goutées, touchées.

Et pourtant j’aurais largement eu de la matière pour parler de web, dont c’est un peu ma spécialité tout de même, ou encore de technologies ou de trucs de geek. Mais non, ça n’a jamais été mon goût pour le blog et pour délier mon écriture. En revanche, l’IA générative me touche tant que je dois en parler de temps en temps. Je sens que ce truc va bouleverser nos existences comme le web l’a fait, mais encore plus vite, mais encore plus fort, et encore plus profondément.

Comme nous le vivons tous avec plus ou moins de difficulté ou d’appréhension, nous avons cette étrange sensation d’une accélération incroyable de tous les « phénomènes » qui nous entourent, et la technologie nourrit à la fois cette capacité et cette demande inexorable. Mais donc on a autant vu cette croissance extraordinaire de l’IA, autant dans son adoption, ses usages, mais aussi ses limites repoussées sans cesse, sa détestation par certains ou son bannissement par d’autres (avant de ne plus pouvoir que s’y soumettre néanmoins). Mais là je note enfin, des limites qui sont intéressantes car elles vont au-delà des histoires de copyrights (qui sont importantes évidemment, mais qui sont malheureusement des imbroglios qui ne résoudront rien, et qui ne seront jamais bien expliquées ou ne trouveront un juste dénouement), et il semble qu’avant même qu’on s’y mette tous, on a déjà des raisons de réfléchir à deux fois. Mais sera-ce suffisant pour reculer ou bien doit-on faire ce pas en avant alors que c’est dans un précipice, et qu’il est bien signalé tout comme il faut.

En cela, l’article de Ploum est édifiant dans sa liste de toutes les « fins » qui ont été atteintes ces derniers temps en lien avec les IA génératives. Que ce soit les décisions trumpistes sur les taxes de douane, des médecins qui remettent en question leurs propres intuitions ou expertises, mais surtout la nécessité d’apprendre que ce soit une langue, un système informatique ou un truc un chouïa complexe, bref plein de ressources très intéressantes à aller creuser.

Dans ces liens, j’ai bien aimé celui de Luciano Nooijen qui explique sa prise de conscience d’abord par l’usage du système de conduite autonome de son véhicule. Il a vite réalisé lorsqu’il a voulu reconduire, qu’il avait perdu à une vitesse incroyable des tas de compétences très intuitives. Et cela vaut aussi pour les développeurs qui utilisent l’IA pour se mettre le pied à l’étrier ou carrément pour accélérer leur création de code, ou parfois plus que cela. Il n’a pas laissé pour autant tomber ces outils qui ont une utilité, mais que l’on doit maîtriser au risque de perdre tout ce qui fait le cœur de ses compétences.

Et d’ailleurs dans ce domaine, il y a des trucs qui arrivent assez terribles, avec déjà des nouvelles méthodes pour infecter les modèles d’IA avec des bouts de code vérolés à qui bien des béotiens pourraient faire confiance par manque de savoir. Et cela sans voir bien sûr que le web se remplit à vitesse incroyable de contenus générés par des IA, et ces contenus étant eux-mêmes utilisés pour les entraîner, on arrive sur une entropie de l’information qui est digne d’un roman de hard SF. Le plus inquiétant c’est la manière dont on pourrait entraîner ces IA à avoir telle ou telle opinion selon qu’on lui a fait ingérer des tas de textes de telles ou telles obédiences. L’IA ne fait que proposer des textes plausibles, statistiquement cohérent avec votre demande, et en imitant des morceaux de textes préexistants. Ce n’est qu’une illusion de réflexion, un miroir aux alouettes qui mimique parfaitement l’érudition d’un physicien nucléaire et peut le recracher dans le style de Martine à la plage si c’est ce que vous voulez.

Il suffit d’exploiter l’IA au quotidien pour en mesurer les limites, mais aussi une flippante utilité.

Et je ne sais pas si c’est lié mais j’ai adoré cet article qui explique comment les milieux de la technologie sont passés de gauche à extrême droite. Les gourous de l’IA ne sont pas les derniers à militer dans une direction similaire. ^^

On peut aussi rapidement tomber sur ce genre d’expérience malheureuse qui rappelle qu’il faut se méfier. La personne ci-dessous explique qu’elle a demandé une traduction d’un doc chinois à chatGPT. La traduction était exactement ce qu’elle attendait, et donc ça n’a pas du tout éveillé ses soupçons. Mais comme il y a eu une couille dans le potage, elle a fait vérifier par un tiers, et la traduction était totalement fausse, complètement fantasque !

L’IA n’est pas pernicieuse per se, donc elle reconnaît que le fichier envoyé n’avait rien de lisible, et elle a donc proposé un texte qui était cohérent avec la demande et les échanges précédents « to be helpful ».

Cela m’arrive aussi couramment, et c’est parfois très difficile à détecter. ^^

Il y a 9 mois, je vous avais démontré ce service Gougueule qui permettait de tester de la création audio à partir d’un corpus de documents. Cela permet de créer des épisodes de podcasts à partir de quelques documents et des sites web par exemple. Le service est maintenant disponible en français, j’ai donc réessayé simplement en proposant l’URL du blog en source. Il n’est pas allé plus loin que la page d’accueil, mais en lisant simplement les titres et le s débuts de posts, il produit un truc très crédible et bluffant.

Et pourtant quand on écoute c’est un ramassis de banalités… Et il y a ce truc très drôle du « 178 av LLM » qu’on trouve en maxime sous mon blog. Evidemment un LLM pour le commun des mortels ce sont les Large Language Models qui sont justement les pierres angulaires de ces IA génératives. Et j’adore que le système brode sur mon ironie qui va jusqu’à sous-entendre que je blogue depuis 178 années avant l’invention de l’IA en gros. Hu hu hu.

« 178 av LLM » est une boutade d’il y a une vingtaine d’années qui s’est répandue sur quelques blogs alors que la presse et « tout le monde » faisaient des gorges chaudes sur Loïc Le Meur comme l’inventeur des blogs, ses initiales, LLM, devenant rapidement une manière discrète de parler de lui. Des gens s’étaient mis à afficher depuis combien de temps ils bloguaient « avant LLM ». Et moi donc, je blogue depuis 178 jours avant Loïc Le Meur. ^^

Bon pour finir, je dois aussi lier cet excellent article de David (qui continue aussi à écrire avec une constance que j’admire sur des sujets dont je ne comprends souvent que les trois premiers paragraphes ^^ ). Je souscris vraiment à toutes ses assertions sur le sujet, et notamment sa toute dernière pensée qui est saisissante.

La liberté de l’accès à l’information était un fondement essentiel du Web : si la concurrence à l’entraînement des IA, en rendant gratuitement précieux ce qui était un commun, crée des barrières là où il n’y en avait pas, c’est un dégât collatéral bien plus grave que toutes les questions de consommation d’énergie ; et l’invocation du démon de la propriété intellectuelle, loin de détruire les IA, ne va qu’empirer ce problème.