L'Intelligence artificielle, ses biais et les nôtres

Les biais dans les systèmes d’apprentissage automatique représentent un défi
majeur pour les nouvelles technologies. En ayant tendance à reproduire des
préjugés odieux de nos sociétés, l’intelligence artificielle jette sur notre
inconscient collectif une lumière crue. Le phénomène n’est pas nouveau, mais
sa persistance interroge et laisse les plus grands ingénieurs dans la plus
profonde perplexité. Comment corriger les biais ? Est-ce seulement possible ?
La question n’est pas juste technique, mais philosophique : elle se situe au
croisement de la théorie de la connaissance et de l’éthique. Les Machines,
leurs biais et les nôtres a l’ambition de montrer ce qui pose problème avec
certains algorithmes, mais aussi de répondre à la question naïve au cœur de
toute enquête morale : pourquoi c’est mal ? Parce qu’il existe aussi de
nombreux biais plus ambigus, difficilement décelables et qui ne tombent pas
sous le coup de la loi. Pire, ils sont parfois fondés scientifiquement, parce
que statistiquement significatifs. L’idée centrale est que ni nous ni la
machine n'échappent aux préjugés, mais qu’ils ne sont pas toujours
préjudiciables. Il n’est pas possible d’aborder le monde sans pré-juger de ce
qu’il va arriver ; chaque événement évoque en nous l’idée d’un autre. Nous
sommes sous prescription de nos sens, de notre histoire et de notre culture
qui orientent nos attentes explicites ou implicites. C’est ce que nous
demandons à l’IA : découvrir des corrélations que nous ne percevions pas entre
des sphères telles que les loisirs, l’argent, la famille ou le travail. Des
sphères qui étaient autrefois séparées pour la simple raison que les bases de
données n’existaient pas ou qu’il ne nous était pas venu à l’esprit de les
mettre en relation. Cette séparation apparente pouvait aussi reposer sur des
principes moraux : nous préférions garantir à chaque sphère son autonomie, car
il s’agissait d’une condition nécessaire au respect de droits fondamentaux.
Notre lieu de résidence ne doit pas être déterminant pour l’allocation d’un
crédit de même que notre club de sport ne doit pas nous empêcher d’accéder à
un emploi. Seulement, les sphères aujourd’hui s’entrechoquent et les
corrélations fortement biaisées apparaissent de manière incontrôlée ; un effet
autant qu’une constatation de la technologie qui remet en cause nos valeurs. A
moins que nous réussissions à nous réinventer, à nous réinterpréter sans
feindre de croire que nous pourrons échapper à l’IA ni à nos biais. Rémy
Demichelis est né en 1987 à Paris. Après une formation initiale en philosophie
à la Sorbonne, il s'oriente vers le journalisme et sort diplômé de l'IJBA en
2013. Ses premières années proofessionnelles se déroulent dans de nombreux
médias généraliste avant d'être embauché au groupe Les Echos en 2018. Animé
par l'envie de terminer son cursus en philosoophie, il va jusqu'à la thèse et
passe cinq ans à étudier l'intelligence artifielle sous son biais éthique. En
novembre 2023, il soutient sa thèse de philosophie 'Enjeux éthiques de
l'apprentissage automatique et du big data". Docteur en philo, il a décidé de
rendre sa thèse accessible au plus grand nombre en la traduisant dans un
ouvrage grand public.