Il est temps d’accepter que l’IA ne pensera jamais comme un humain – et ce n’est pas grave

Depuis le début de la pandémie, les développeurs d’intelligence artificielle (IA) ont déployé des centaines d’outils d’apprentissage automatique pour aider à diagnostiquer le COVID-19. La promesse : trouver des modèles dans les données médicales comme une version algorithmique du personnage de télévision Dr House.

Récemment, des chercheurs ont découvert que ces outils d’IA étaient surfaits. Au lieu de découvrir des liens pertinents entre les cas, les algorithmes faisaient une litanie de fausses hypothèses, y compris la prédiction des cas de COVID en fonction de la police de texte que les hôpitaux utilisaient dans leurs documents.

Cela ne signifie pas que l’apprentissage automatique est inutile. Cela signifie que nous devons mieux comprendre les forces et les limites de l’IA et, comme nous l’avons fait avec les animaux, accepter que les gens pensent différemment.

Pour un humain, il est évident qu’une police de texte n’est pas un bon prédicteur de maladies infectieuses. Mais pour une machine, ce n’est pas évident du tout. L’IA peut être en mesure d’utiliser des informations pour faire des prédictions, mais elle n’est pas consciente de ce qu’elle fait. Il ne comprend pas les concepts ou le contexte et est facilement déconcerté par des données biaisées ou mal étiquetées qui ne tromperaient pas un enfant de quatre ans.

Comme l’explique Janelle Shane, experte en apprentissage automatique, dans son livre sur les bizarreries de l’IA Tu ressembles à une chose et je t’aimeles erreurs que commettent les machines nous paraissent absurdes parce qu’elles ne perçoivent pas le monde comme nous.

Contrairement à l’IA, l’intelligence humaine est extrêmement généralisable et adaptative. Nous sommes des penseurs flexibles, comprenons des concepts généraux et nous pouvons contextualiser des résultats ou des situations inattendus. Et pourtant, une recherche d’images Google pour « intelligence artificielle » en 2022 renvoie principalement des images de cerveaux humains.

Il ne s’agit pas seulement de nos images de stock : nous utilisons notre propre intelligence comme modèle lorsque nous parlons d’IA, que ce soit dans des conversations informelles, des thrillers de science-fiction ou dans nos gros titres. Cela s’explique en partie par le fait que les pionniers de l’IA ont à l’origine cherché à comprendre et à recréer l’intelligence humaine. Pour l’instant, ils n’ont pas réussi.

Ce n’est pas que la technologie n’est pas intelligente ou devient plus intelligente. Avec les bonnes données, la bonne formation et les bonnes circonstances, les machines sont excellentes pour le calcul, les prédictions et la reconnaissance de modèles. Mon téléphone peut faire des calculs et analyser des commandes vocales (au moins la plupart du temps).

Les nouvelles méthodes d’apprentissage en profondeur peuvent laisser la capacité humaine dans la poussière. En 2016, lorsqu’un système d’IA nommé AlphaGo a battu le meilleur joueur de Go du monde, il a fait un geste qui a étonné les experts : un geste qu’aucun joueur humain n’aurait jamais pensé essayer. Ainsi, plutôt que de considérer l’IA comme une version moins développée de nous-mêmes, il est peut-être temps d’accepter nos différences.

Le roboticien Rodney Brooks a écrit un jour : « Il est injuste de prétendre qu’un éléphant n’a aucune intelligence digne d’être étudiée simplement parce qu’il ne joue pas aux échecs. Les animaux sont une comparaison plus utile à l’IA, car eux aussi perçoivent et interagissent avec le monde différemment des humains. Ils sentent des choses que nous ne pouvons pas et sont totalement inconscients des choses qui nous sont évidentes.

C’est pourquoi, tout au long de l’histoire, nous avons compté sur les animaux pour nous aider à faire des choses que nous ne pouvions pas faire seuls. Nous avons domestiqué des bêtes de somme pour aider à labourer nos champs et transporter des personnes et des biens économiques vers de nouveaux endroits. Nous avons utilisé des canaris dans des mines de charbon, créé des services postaux de pigeons, entraîné des furets à faire passer des fils électriques dans des tuyaux et appris à des dauphins à récupérer du matériel sous-marin perdu.

Vous ne feriez pas confiance à un chien pour vous donner un diagnostic médical ou des conseils relationnels, mais vous pourriez lui faire confiance pour détecter des explosifs, aider les aveugles ou apporter un confort thérapeutique. De même, l’IA peut être mauvaise pour apprécier vos blagues ou répondre à une situation inattendue, mais elle peut naviguer dans le trafic, détecter les risques pour la sécurité dans les centrales nucléaires et collecter des données sur Mars.

Des robots comme le PARO, un appareil médical douillet qui ressemble et bouge comme un bébé phoque du Groenland, sont même étonnamment efficaces en thérapie lorsqu’il n’est pas possible d’utiliser de vrais chiens. Le point n’est pas que l’IA devrait remplacer les chiens. Le fait est que l’exercice de pensée animale nous permet de mettre de côté la comparaison humaine et d’imaginer ce que l’IA peut nous aider que nous ne pouvons pas faire seuls.

Comprendre les forces et les limites de l’IA est essentiel pour éviter les types d’erreurs nuisibles que nous constatons aujourd’hui. L’idée que nous avons affaire à un autre type d’intelligence nous incite à tirer parti de cette technologie pour aider les gens – plutôt que de les remplacer. Cela nous encourage à inventer de nouvelles pratiques et à trouver de nouvelles solutions plutôt que de recréer ce que nous avons déjà. Et cela nous incite à réfléchir de manière plus créative et inclusive sur la manière de situer l’IA dans nos infrastructures, nos lieux de travail et nos vies personnelles.

Le meilleur avenir possible n’est pas celui dans lequel notre technologie pense ou agit comme un humain. C’est un monde dans lequel nous avons imaginé un monde meilleur et nous nous sommes associés à la technologie pour le créer.

En savoir plus sur l’IA :