Intelligence artificielle : quand les erreurs deviennent humaines

En octobre 2025, Taki Allen, un adolescent de 16 ans, attendait qu’on vienne le chercher devant son lycée, à Baltimore, dans l’État du Maryland, aux États-Unis. Après un entraînement de football, il discutait avec des amis et venait de terminer un paquet de Doritos. Quelques minutes plus tard, plusieurs voitures de police ont débarqué sur place. Les agents, armes à la main, lui ont ordonné de se mettre au sol avant de le menotter et de le fouiller.

À l’origine de cette intervention : une alerte déclenchée par un système de détection d’armes utilisant l’intelligence artificielle, installé dans l’établissement. Le dispositif avait signalé un objet ressemblant à une arme à feu. Il s’agissait en réalité du paquet de chips que l’adolescent tenait entre ses mains. Sur l’image présentée aux policiers, sa position, avec les deux mains autour de l’objet et un doigt tendu, aurait contribué à cette confusion.

L’affaire est d’autant plus troublante que l’alerte avait déjà été examinée et annulée par le service de sécurité de l’établissement, qui avait confirmé l’absence d’arme. Le directeur, qui n’avait pas connaissance de cette annulation, avait toutefois contacté l’agent de sécurité scolaire, lequel avait sollicité la police.

Taki Allen, qui a raconté avoir craint pour sa vie lorsque les policiers ont pointé leurs armes sur lui, a été libéré après la fouille. Son cas a relancé les interrogations sur les dispositifs de surveillance automatisés.

Lire aussi : Côte d’Ivoire : 258 millions $ pour soutenir l’emploi en 2027

Des erreurs qui peuvent coûter des vies

Dans les transports, les conséquences d’une mauvaise détection peuvent être encore plus dramatiques. En mars 2018, à Tempe, en Arizona, un véhicule autonome expérimental d’Uber a mortellement percuté une piétonne qui traversait la route. Le véhicule était équipé d’un système chargé d’analyser son environnement et de détecter les obstacles.

L’enquête menée par le National Transportation Safety Board (NTSB), l’autorité américaine chargée des enquêtes sur les accidents de transport, a relevé plusieurs défaillances. Le système avait détecté la piétonne, mais n’avait pas correctement anticipé sa trajectoire. L’enquête a aussi mis en cause les procédures de sécurité de l’entreprise et la supervision humaine. L’opératrice chargée de surveiller le véhicule était distraite par son téléphone au moment de l’accident.

Chez Tesla, les systèmes d’aide à la conduite ont eux aussi fait l’objet d’une enquête approfondie. En avril 2024, la National Highway Traffic Safety Administration (NHTSA) a recensé 467 accidents signalés impliquant le système Autopilot, dont 14 décès, dans le cadre de son investigation. L’agence a notamment pointé les limites du dispositif de surveillance du conducteur, qui ne permettait pas de garantir suffisamment son attention.

Autopilot est un système d’assistance à la conduite et non un dispositif de conduite entièrement autonome. Le conducteur reste responsable de la surveillance de la route et doit pouvoir reprendre le contrôle à tout moment. Mais lorsque les véhicules prennent en charge une partie croissante des tâches de conduite, la frontière entre assistance et autonomie peut devenir difficile à appréhender pour les utilisateurs.

Quand les algorithmes reproduisent les discriminations

Toutes les erreurs algorithmiques ne se ressemblent pas. Certaines résultent d’une mauvaise interprétation d’une image ou d’une situation. D’autres tiennent à des biais intégrés dès la conception des systèmes, à travers les données utilisées pour les entraîner ou les critères retenus pour produire leurs résultats. Ils peuvent conduire à traiter différemment des individus selon leur origine, leur sexe ou d’autres caractéristiques.

En janvier 2020, Robert Williams, un homme noir vivant à Detroit, a été arrêté à tort après avoir été identifié par un logiciel de reconnaissance faciale. Les enquêteurs recherchaient l’auteur d’un vol dans un magasin et avaient utilisé une image de vidéosurveillance pour effectuer une comparaison avec des bases de données photographiques.
Le logiciel avait désigné Robert Williams comme une correspondance possible. Sur cette seule base, les enquêteurs ont orienté leurs investigations vers lui, avant son arrestation devant son domicile. Il a passé environ 30 heures en détention avant d’être libéré.

Cette affaire a contribué à alimenter le débat sur la fiabilité des technologies de reconnaissance faciale. Dès 2018, une étude menée par Joy Buolamwini et Timnit Gebru avait mis en évidence des écarts importants de précision entre les groupes démographiques dans trois outils commerciaux d’analyse faciale. Les taux d’erreur atteignaient 34,7% pour les femmes à la peau foncée, contre 0,8% pour les hommes à la peau claire. Des travaux du National Institute of Standards and Technology (NIST) ont, eux aussi, relevé des différences de taux d’erreur selon les caractéristiques démographiques dans plusieurs systèmes de reconnaissance faciale.

Les biais peuvent aussi s’installer dans des outils qui ne traitent pas directement de caractéristiques physiques. En 2018, Reuters révélait qu’Amazon avait abandonné un projet d’outil de recrutement fondé sur l’intelligence artificielle. Selon cinq personnes au fait du projet citées par l’agence, le système, entraîné à partir de CV reçus par l’entreprise pendant une dizaine d’années, avait appris à favoriser les candidatures masculines, les profils utilisés pour son apprentissage étant majoritairement ceux d’hommes.

L’outil pénalisait les CV contenant le mot « femmes » ou faisant référence à des établissements universitaires exclusivement féminins. Les recruteurs pouvaient consulter ses recommandations, sans toutefois s’y fier exclusivement. Amazon a finalement dissous l’équipe chargée du projet. Selon les sources citées par Reuters, l’entreprise n’était pas parvenue à corriger les biais du système. Des problèmes liés aux données utilisées conduisaient aussi l’outil à recommander des candidats sans rapport avec les postes proposés, parfois de manière quasi aléatoire. Une version allégée aurait toutefois été conservée pour des tâches simples, comme la détection de doublons dans les bases de candidatures.

Même les décisions médicales ne sont pas épargnées

En 2019, une étude publiée dans la revue scientifique Science a mis en évidence les limites d’un algorithme utilisé par des établissements de santé américains pour repérer les patients ayant besoin d’un accompagnement médical renforcé.

Le système estimait les besoins des patients à partir des dépenses de santé passées, en partant du principe que les personnes nécessitant le plus de soins engendraient les coûts les plus élevés. Or, à état de santé comparable, les patients noirs avaient tendance à recevoir moins de dépenses de santé que les patients blancs. L’algorithme sous-estimait donc leurs besoins et les identifiait moins souvent pour un accompagnement renforcé.

Les chercheurs ont estimé que, si ce biais était corrigé, la part des patients noirs parmi les personnes automatiquement sélectionnées pour ce programme passerait de 17,7% à 46,5%. Le problème ne venait pas d’une erreur de calcul : l’algorithme prédisait bien les dépenses de santé. C’est l’utilisation de ces dépenses comme indicateur des besoins médicaux qui était inadaptée.

L’IA et les fausses références judiciaires

Les erreurs de l’intelligence artificielle peuvent aussi s’inviter dans les tribunaux. Dans un article publié le 3 novembre 2026, le quotidien britannique The Guardian a révélé qu’une procureure du Crown Prosecution Service (CPS), l’organisme chargé des poursuites pénales en Angleterre et au pays de Galles, avait cité une décision de justice fictive devant la Haute Cour de justice (High Court). Selon le journal, cette référence aurait été issue d’un résumé généré par IA lors d’une recherche sur Internet.

La fausse jurisprudence concernait une procédure portant sur la poursuite d’un garçon âgé de 11 ans au moment des faits qui lui étaient reprochés. Selon les informations rapportées par la presse britannique, les juges ont jugé l’explication de la procureure insatisfaisante, tout en estimant qu’elle n’affectait pas l’issue du contrôle juridictionnel.

À qui revient la responsabilité ?

Une fausse alerte dans un établissement scolaire, une identification erronée par reconnaissance faciale, un algorithme médical qui sous-estime les besoins d’une partie de la population ou encore une fausse décision de justice générée par l’IA : ces affaires illustrent les risques liés à une confiance excessive dans ces technologies.

La question dépasse alors la seule performance technique. Lorsqu’une entreprise commercialise un système, qu’une administration l’utilise ou qu’un professionnel s’appuie sur ses recommandations, la responsabilité ne peut être dissociée des conditions dans lesquelles l’outil est conçu et déployé.

L’intelligence artificielle peut alors analyser, calculer et assister les humains dans des tâches de plus en plus complexes. Mais ses performances ne doivent pas conduire à lui accorder une confiance aveugle. À force de lui déléguer des décisions, le risque est aussi de perdre de vue ce qui reste essentiel : le jugement, le discernement et la capacité de remettre en question un résultat.

Il est peut-être temps de faire descendre l’intelligence artificielle de son piédestal et de redonner à l’intelligence humaine toute sa place. Car une technologie, aussi sophistiquée soit-elle, ne devrait jamais dispenser l’humain de réfléchir.