Q : Comment les intelligences artificielles apprennent-elles à voir ?
R : En étant entraînées à regarder les images.
Comment les robots voient-ils le monde ? Sur le net, ils écument les sites et les réseaux sociaux et visionnent des milliards de photos, identifiant individus, objets, lieux, produits. La quantité est-elle gage de qualité et de pertinence ? Partant de là, l’artiste américain Trevor Paglen s’interroge sur la représentation du monde par les robots. Il bâtit son œuvre en menant une systématique et persévérante recherche sur le pouvoir des images, la surveillance virtuelle et la collecte des données, leur interprétation ou utilisation. Au « ceci n’est pas une pipe », il répond « ceci n’est pas une pomme ». Les IA ne sont pas programmées pour avoir des états d’âme, encore moins ouvrir des discussions ou des débats artistiques. Seulement prendre des décisions. Avec sa dernière installation From apple to kleptomaniac (images et mots, 2019), présentée en marge de la Biennale d’arte di Venezia par la V-A-C au Pallazzo delle Zattere, il livre une proposition édifiante qui plonge au cœur du système d’apprentissage des robots, en milliers de photos.
From apple to kleptomaniac sort d’ImageNet, la plus grande collection d’images à destination des travaux de recherche en vision par ordinateur qui est aussi utilisée pour entraîner les robots. Dans cette œuvre, Paglen présente une sélection d’images apprises par les IA. ImageNet contient quelques quatorze millions de clichés classés en 26 000 catégories. Pour une grande part, la classification n’est pas sujette à controverse. Une fraise est une fraise, une fourmi aussi. Mais pour une part significative, la place laissée à l’arbitraire ou au subjectif n’est pas négligeable. Par exemple, pour les images impliquant un jugement classées sous les catégories telles que « debtors », « alcoholics », « hedonists », « land owner » « rich persons » ou « bad persons ». Celles-ci révèlent clairement les a priori et préjugés moraux ou politiques des programmeurs en charge du systèm
e de labellisation et de référencement sur le net. Elles nous projètent dans un monde dans lequel les robots vont juger les humains. Ce qui n’augure pas vraiment un monde meilleur, vu les clichés sélectionnés par les IA à certains mots-clés. Pris dans leur ensemble, ces fragments de recherche de Paglen montrent qu’objectiver la subjectivité comporte de réels dangers pour la liberté.
Crédit photos : LR project, From apple to kleptomaniac, Trevor Paglen, 2019
From apple to kleptomaniac – Trevor Paglen – Installation, 2019 (Time, foward ! – V-A-C Zattere Venice)