Clio, Thémis et l’IA

Raphaël Doan commence sa réflexion avec une citation de Marcel Proust exprimant que « La vraie vie, la vie enfin découverte et éclaircie, la seule vie par conséquent pleinement vécue, c’est la littérature ». Cette citation l’amène à exprimer que la littérature permet de percevoir le monde différemment, de voir le monde au travers des yeux d’un autre. Une analogie est ensuite faite avec les grands modèles de langage des IA, « ces grands modèles de langage ne fonctionnent que par le texte. Ils ne font que lire et produire du texte. Ils ne peuvent raisonner que par le texte, ils ne peuvent concevoir le monde que par le texte puisqu’ils ne sont que texte en réalité ».

Une construction exclusivement textuelle des grands modèles de langage

Raphaël Doan commence par souligner que le grand modèle de langage se réduit totalement à de petits morceaux de texte qu’il produit ainsi que le texte avec lequel il a été entraîné, c’est-à-dire l’intégralité des productions humaines.

L’essayiste souligne la grande utilité des grands modèles de langage et de l’IA. Dans cette perspective, Raphaël Doan s’interroge sur l’utilisation des tâches qui demandent la capacité de s’extraire d’un texte donné.
Effectivement, « pour être un bon avocat, un bon juriste, un bon fonctionnaire ou un bon historien, il ne faut pas seulement savoir lire et écrire ». L’essayiste prend pour cela l’exemple d’Hérodote qui n’a pas seulement compilé des textes mais a inventé la discipline qu’est l’Histoire par le biais de son expérience, de son vécu. En l’occurrence, « même une discipline qui a l’air a priori aussi textuelle que l’Histoire repose en fait sur de l’action incarnée ».

Le droit, « pivot entre le monde réel et le texte »

La difficulté est de réussir à articuler l’ensemble des tâches de chacune des professions. Les grands modèles de langage aujourd’hui sont capables de faire chaque tâche individuellement mais ne peuvent les articuler ensemble et être suffisamment autonome pour agir.

C’est pour cela que les IA dites agentiques sont aujourd’hui au cœur des sujets concernant l’IA afin de passer de modèles de pure littérature à des acteurs, des gens qui vivent, « des modèles d’IA qui soient capables de réaliser des actions dans le monde d’une manière cohérente ».

Le droit étant le pivot entre le monde réel et le texte, pour que les grands modèles d’IA puissent l’atteindre, il faudrait réussir à « faire naviguer un cerveau pur littérature, pur texte, dans le monde réel ». En effet, le droit est « la frontière entre la réalité et le texte » puisque « le texte de droit, c’est un texte mais, il est censé produire effet en vrai ».

La confiance, fondement du droit, face aux productions réalisées par l’IA

Le droit implique d’avoir confiance. Si une utilisation est faite d’une IA, il faut être certain que le modèle ne se trompe, ni dans l’interprétation qu’il fait des sources, ni dans la production qu’il va générer ensuite.
Cette question de confiance est d’autant plus primordiale que le développement des textes est massif. Effectivement, au vu de l’inflation normative et législative, l’objectif est de savoir comment chercher les textes pertinents, les mettre en relation, cartographier l’ensemble du contexte des faits et du droit applicable à tel litige. Cela ne suppose pas seulement de savoir lire ou écrire mais également de savoir « explorer, imaginer, naviguer ».

Les perspectives d’une intelligence artificielle pouvant explorer, imaginer, naviguer

L’essayiste appuie son exemple sur l’expérience d’Anthropic qui développe des modèles de langage et tente d’analyser leur développement en essayant de les laisser gagner le jeu Pokémon. Ce dernier étant un « petit monde en soi » avec ses règles, dans lequel on doit se déplacer, interagir, résoudre des problèmes, explorer, élaborer des stratégies et trouver de nouveaux termes. Cette expérience démontre que l’IA n’agit que par le texte puisque pour essayer de surmonter les difficultés que pose le jeu, l’IA doit essayer de passer son temps à écrire ce qu’elle pense et ce qu’elle doit faire. Au fur et à mesure, l’expérience permet de faire évoluer le modèle et la nouvelle version progresse mieux.

Cette expérience permet, selon Raphaël Doan, de démontrer le fonctionnement intrinsèque de l’IA qui est totalement différent de notre propre cerveau. En l’occurrence « quand on prend une décision d’aller chercher tel document on le fait presque instantanément, on y réfléchit quelques secondes puis on y va. Pour un grand modèle de langage, cela ne se fait pas comme cela », il faut qu’il écrive pour se demander s’il doit faire cela, par où il faut passer et les différentes possibilités.

La mise par écrit permet aux grands modèles de langage de sortir la solution la plus probable parce qu’ils sont entraînés pour celle-ci. Pour l’essayiste « il existe la plupart du temps des problèmes qui ne sont pas typiques surtout dans les métiers que nous exerçons ».

La mise par écrit pourrait permettre de savoir comment s’orienter sans prendre la réponse intuitive qui, dans la vraie vie, ne marche pas toujours le mieux. Selon Raphaël Doan « c’est comme cela que se prendront énormément de décisions même de microdécisions dans le monde qui vient ». Cela entraînera de véritable roman à chaque décision prise permettant aux grands modèles de langage de réfléchir aux conséquences de chacune des décisions qu’ils vont prendre.

Une automatisation relativement proche n’étant pas synonyme de remplacement

L’intervenant souligne que « ce que nous automatisons », « c’est forcément qu’il y a quelque chose d’automatisable, quelque chose là-dedans qui est mécanique ». Or, ce ne sont pas ces tâches mécaniques qui nous remplissent forcément d’un sentiment d’une profonde utilité au travail. Dans cette optique, selon Raphaël Doan, « si on parvient à déléguer ces tâches-là à des IA, nous serions libérés d’un poids ».

Pour des tâches répétitives, mécaniques, c’est d’une profonde utilité.

Néanmoins, même si les grands modèles de langage sont capables de moduler leur action, ils reviennent toujours sur le texte sur lequel ils ont été entraînés à l’origine. Cela signifie qu’ils ne peuvent pas penser, naviguer sur des problèmes fondamentalement inédits « qui ne ressemblent à rien de ce qui est compris dans leur base d’entraînement ». Ainsi, lorsque par exemple on leur soumet des énigmes classiques et bien connues, la modification même minime d’un  paramètre génère beaucoup de difficultés de leur part pour trouver la solution. Cela voudrait dire qu’on veut déléguer tout le travail courant et habituel et ne garder que le travail qui n’est précisément pas courant.

Cette perspective est illustrée par l’intervenant par le reste du passage de Proust qui souligne que « ce travail de l’artiste, de chercher à apercevoir sous de la matière, sous de l’expérience, sous des mots quelque chose de différent, c’est exactement le travail inverse de celui que, à chaque minute, quand nous vivons détournés de nous-mêmes, l’amour-propre, la passion, l’intelligence et l’habitude aussi accomplissent en nous, quand elles amassent au-dessus de nous nos impressions vraies, pour nous les cacher entièrement, des nomenclatures, les buts pratiques que nous appelons faussement la vie. C’est la marche en sens contraire, le retour aux profondeurs où ce qui a existé réellement gît inconnu de nous, qu’il nous faudra suivre ».

Raphaël Doan explique que c’est précisément cela qui nous distingue des grands modèles de langage. « L’IA, c’est par construction une machine d’habitude, c’est pour cela qu’elle est faite ». Pour Proust, « dans notre vie, justement, nous cédons trop souvent à nos habitudes ». Pour lui, l’objet de la littérature c’est de nous aider à revenir à notre capacité de repenser le monde de manière nouvelle. « En un sens, ce que dit Proust sous d’autres termes c’est qu’on ne fait pas assez d’efforts pour sortir nous-mêmes de nos propres donnés d’entraînement ».

Raphaël Doan conclut que nous devons devenir de plus en plus artistes au fur et à mesure que l’IA s’améliore et nous égale dans les tâches habituelles. Il faut que nous soyons capables de sortir de nos données d’entraînement, d’affronter les problèmes comme s’ils étaient neufs.

Dans cette perspective il conclut qu’« à mesure que l’IA se développera nous allons tous devoir apprendre à devenir écrivains comme Proust le suggère et nous y invite ».