Astronautes, héros grecs et fées : les « avatars magiques » de Lensa, qui permettent aux utilisateurs de créer des portraits artistiques personnalisés grâce à l’IA, ont envahi les réseaux sociaux. Mais Prisma Labs, la société à l’origine de l’application, est controversée.

En quelques secondes, Lensa transforme le visage de l’utilisateur en super-héros ou en peinture impressionniste. La fonctionnalité payante « Magic Avatar », proposée par l’application depuis novembre, ne nécessite que 10 à 20 selfies pour créer toute une série de personnages virtuels en 4K. Concept assez impressionnant, et viral.

Mais plusieurs médias accusent l’application de penchants sexistes. Présentation de la technologie MIT accusant ainsi Magic Avatar de créer des images sexualisées sans le consentement des utilisateurs, un phénomène qui ne s’applique pas aux photographies masculines. ” Même si toutes les images que j’ai téléchargées étaient entièrement habillées et principalement des gros plans de mon visage, l’application a renvoyé plusieurs images de nudité implicite ou réelle.», explique aussi un journaliste de CNN. Article Filaire raconte même comment Lensa a créé des nus lorsqu’un journaliste n’a téléchargé que des photos d’elle lorsqu’elle était enfant.

” Pourquoi tous mes avatars IA ont-ils d’énormes seins ?», sème également le doute sur l’article tranche. Ars-Technique explique en fait que la technologie utilisée par l’application » peuvent facilement sexualiser leurs résultats par défaut « : » Ce comportement est dû au grand nombre d’images sexualisées trouvées dans sa base de données (…) qui ont été obtenues sur Internet.“. Ainsi, les représentations misogynes des femmes en ligne sans filtrage affectent l’IA.

« Pornification » des selfies, données personnelles, appropriation des œuvres d’art…

De son côté, Prisma Labs assure Tech Crunch que ses équipes travaillent pour corriger les bogues de l’IA. A noter que d’autres préjugés culturels ont également été identifiés – racistes ou anti-grossophobes, par exemple, certains utilisateurs non blancs avaient la peau claire.

Autre source de critique : les données personnelles. Bien que l’application utilise des instantanés de ses utilisateurs pour l’apprentissage et le développement, sa politique de confidentialité indique que Prisma Labs détient les droits sur les images prises à partir de selfies dans l’application. Cependant, la société indique Tech Crunch que les photos des utilisateurs sont supprimées du cloud immédiatement après utilisation.

buzzfeed révèle enfin que les artistes accusent Lens de leur avoir volé leur travail. Google Images, Pinterest, DevianArt… Alors que la technologie utilisée par l’appli va utiliser tout un tas d’images publiées en ligne pour alimenter une base de données qui l’entraîne à l’IA, les artistes reprochent à Lensa de ne prêter (ou récompenser) aucun créateur.

Prisma Labs a répondu en déclarant que les portraits créés par son application ne peuvent pas être considérés comme des copies de l’œuvre. ” Tout comme le cinéma n’a pas tué le théâtre (…), l’IA ne remplacera pas les artistes, mais peut être d’une grande aide« , écrit la société dans tweeter. Je ne suis pas sûr, cependant, qu’essayer un « Magical Avatar » avec votre propre visage soit nécessairement une bonne idée.

Art