Comment fonctionne l'intelligence artificielle générative ? - 1

Gary Marcus est une autorité reconnue en matière d’IA. Et en matière d’intelligence artificielle générative, il prône des efforts mutualisés plutôt que des modèles et des initiatives fragmentés.

Il est connu pour ses échanges intenses sur Twitter avec d’autres chercheurs de haut niveau en IA. Gary Marcus est un scientifique ultra-référentiel et un entrepreneur en intelligence artificielle. Il a fondé Geometric Intelligence, une start-up d’apprentissage automatique qui a été vendue à Uber en 2016. Plus récemment, il a fondé RobustAI, une startup dont l’objectif est de développer une IA qui a du « bon sens ». On lui a demandé ce qu’il pensait de l’explosion de l’intelligence artificielle générative.

Il y a beaucoup de battage médiatique autour du GPT-3 et des modèles d’IA générative. Quelle est leur valeur scientifique ?

Gary Markus : Eh bien, je pense que le GPT-3 est une sorte de gadget. Le tour de magie donne l’impression qu’il a une base physique. Si je vous montre une personne coupée en deux et reconstituée, ce n’est pas réel. GPT-3 donne l’illusion de surmonter de nombreux défis de la recherche en IA, mais c’est un leurre. Bien sûr, avec … vous pouvez avoir une conversation, mais il ne peut pas rester connecté longtemps. Il perd le fil. Il invente régulièrement. Cela peut être bon pour le divertissement, mais certainement pas pour fournir des conseils médicaux ou des clients bancaires. En fait, son utilisation est assez limitée. Si je devais le comparer à un animal, je dirais que c’est un perroquet. Sauf qu’il a besoin de milliards de mots écrits par des gens pour apprendre à paraphraser. Bref, c’est juste une super astuce !

Si j’ai bien compris, au lieu d’intelligence artificielle, serait-il plus correct de parler de « connaissance statistique » ?

GM : Oui, c’est le terme correct. GPT-3 est ce que l’on pourrait appeler « l’intelligence alternative ». Il s’agit d’une approche alternative du renseignement qui doit s’appuyer sur des calculs statistiques et mathématiques pour être efficace. L’esprit humain consiste à comprendre le monde, à saisir ce qui nous entoure. Nous ne pouvons certainement pas faire confiance à tout le monde, mais nous savons que nous voyons le monde à peu près de la même manière. GPT-3 est plus proche du comportement extraterrestre que du comportement humain. Cependant, sans cohérence, il ne peut être efficace. À l’heure actuelle, la plupart des applications de ce modèle sont dans le monde du divertissement, comme le jeu Dungeon AI ou des applications qui permettent d’écrire des histoires. Mais en ce qui concerne le travail éditorial, vous devriez commencer à vous inquiéter d’être utilisé par des fermes de trolls à des fins de désinformation. Si vous ne vous souciez pas de l’exactitude ou de la vérité, alors oui, GPT-3 est fait pour vous ! Pour l’instant ce n’est pas fiable. Ce serait une erreur de l’utiliser comme la solution à tout.

Sur Twitter, vous appelez régulièrement à un nouveau modèle d’IA. Que veux-tu dire ?

GM : Je pense qu’il devrait s’agir d’une hybridation des deux branches de l’IA, en prenant des éléments de l’apprentissage en profondeur – du moins sa capacité à apprendre à grande échelle – et d’autres de l’IA symbolique plus traditionnelle (le modèle dans lequel vous représentez les abstractions). En vérité, je ne pense pas que quelqu’un d’autre ait développé les bons outils. Nous sommes un peu à l’ère de l’alchimie (la période entre 1300 et 1700 où les scientifiques étaient particulièrement prolifiques, ndlr). De nombreuses expériences scientifiques ont été lancées. Parfois ça marchait… parfois non. Aujourd’hui, personne ne peut prétendre disposer d’un modèle d’IA polyvalent fiable. Aujourd’hui, nous avons un ensemble d’outils, qui sont tous imparfaits. Pour certaines tâches, ils sont utiles, pour d’autres, ils ne le sont pas. On ferait mieux de penser à les fusionner, non ?

LIRE Rebooting AI: Building AI We Can Trust, Gary Markus et Ernest Davis, Penguin Random House, 2019

Cette interview est parue dans un dossier sur l’IA générative, c’était le numéro 31 du magazine L’ADN, paru en juillet 2022. Malheureusement, ce numéro n’est plus imprimé… Pour les autres numéros du magazine… Cliquez ici.