Cette IA auto-écrite montre que les préjugés racistes et homophobes peuvent être évités › Geeky News

Une intelligence artificielle qui génère des textes en français impressionne par sa qualité. Jusqu’à présent, l’algorithme ne semble pas avoir été influencé par des préjugés racistes ou sexistes.

Les instructions sont simples : « écrivez le début d’une phrase puis cliquez sur « Générer ». Cédille se charge d’écrire le reste ». Et Cédille, une intelligence artificielle (IA) créée par l’agence suisse Coteries, remplit très bien sa mission. Quel que soit l’exemple que vous donnez pour commencer le texte, l’intelligence artificielle parvient à remplir le reste du bloc de manière impressionnante.

Cédille, disponible en version bêta à partir du 9 novembre 2021, est un outil de génération d’écriture en français. De nombreux exemples d’une telle intelligence artificielle existent depuis des années : on se souvient de Clever Bot, de Google AI ou du dernier Copilot, un logiciel Github conçu pour aider les développeurs à coder.

Mais Cédille a la particularité de faire tout cela en français. Formée avec un modèle en français, et non en anglais comme c’est le cas la plupart du temps, Cédille est devenue l’une des premières intelligences artificielles à fonctionner de manière convaincante. Vous pouvez l’essayer ici.

Cédille travaille dans de nombreux cas différents

Pour tester l’efficacité de Cédille, Numerama a utilisé le début de la première phrase de notre article. Apple annonce la possibilité de réparer soi-même un iPhone grâce à des pièces, kits et guides officiels, « à partir de 2022, vous pourrez réparer vous-même votre iPhone ». . Et le reste, inventé par Cédille et affiché en gras, est assez convaincant.

La suite de notre article, écrit par Cedille // Cédille

Même si la suite n’a pas forcément de sens avec le début de la phrase, le travail de Cédille est impressionnant. D’autant plus que, dans l’interface, on nous dit que l’IA fonctionne pour de nombreux styles de texte différents : résumés de vacances, histoires de Noël, ou encore lettres de motivation. Cédille propose même de nous composer des paragraphes d’articles ou de chercher des idées d’articles :

Une introduction imaginée par Cédille // Cédille

Mais il n’y a pas que dans les textes factuels où l’usage de Cédille est apprécié. Sur Twitter, les auteurs ont également été enthousiasmés par les compétences de l’IA.

Je n’ai jamais vu un générateur de texte capable d’autant de créativité. Il se bat et tourne rapidement en rond dans les longs textes, comme toutes les IA, mais pour terminer des textes courts il est quasiment indiscernable d’un humain (talentueux). https://t.co/c4qNCGklxp

– Agar (@akaAgar) 14 novembre 2021

L’utilisateur de Twitter @nolwenn_pamart explique également avoir donné des textes à Cédille et être impressionné par le résultat affiché. « Ils viennent de me montrer Cédille, un logiciel qui complète les phrases, et je pense qu’il écrit mieux que moi », écrit-il sur le réseau social.

Comment éviter que l’IA ne soit biaisée ?

Mais les dernières années l’ont montré : qui dit intelligence artificielle, dit aussi biais. L’apprentissage automatique, la technique avec laquelle les algorithmes sont entraînés, reproduit les biais qui existent déjà. Cependant, ils sont souvent sexistes, racistes, voire les deux.

Alors comment éviter les dérapages des intelligences artificielles, notamment lorsqu’il s’agit de répondre au début de phrases, écrites par les utilisateurs ? L’équipe de Coteries, qui a développé Cédille, explique sur son site avoir mis en place des garde-fous, soi-disant pour empêcher l’intelligence artificielle d’écrire des commentaires « toxiques ». « Nous nous sommes occupés d’entraîner le modèle avec des données de haute qualité. Les textes générés sont ainsi grandement améliorés », est-il écrit. L’équipe dit notamment utiliser un outil pour définir le « taux de toxicité » de certaines phrases ou de certains mots, et pour les détecter.

Et jusqu’à présent, cela semble fonctionner. Numerama a réalisé de nombreux tests utilisant des débuts de phrases contenant des injures ou visant des minorités, souvent victimes de discrimination. D’après ce que nous avons vu, l’intelligence artificielle présente des contenus et des suggestions qui ne sont pas racistes, sexistes ou homophobes. Cependant, nous avons vu quelques exemples qui semblent provenir directement d’articles et ne semblent pas avoir été générés par Cédille.

Cédille n’est pas tombée dans le piège, même si certains textes sont étranges // Cédille

On note également que Cédille affiche un message d’avertissement si l’intelligence artificielle détecte des termes ou des phrases qui pourraient être « toxiques ». Alors quand nous avons tapé « les gays le méritent », le site nous a prévenus que le contenu était « potentiellement inapproprié » (ce qui, d’ailleurs, n’était pas le cas).

Cédille identifie des tournures problématiques // Cédille

Cela ne veut pas dire qu’aucun problème ne sera jamais détecté dans Cédille, ni que la plateforme ne proposera jamais de fragments de textes racistes ou xénophobes. L’exemple de Cédille montre simplement qu’il est possible de prendre un minimum de mesures de sécurité avant de rendre public un tel outil et, surtout, qu’il est indispensable.

Crédit photo de celui-ci :
Eleni Koureas / Unsplash

La suite en vidéo