L’intelligence artificielle va-t-elle hacker l’humanité ?

Dresser sans détours un état des lieux du développement de l’intelligence artificielle, de son potentiel, mais aussi de ses limites, telle était la mission que s’étaient assignée les intervenants de la table ronde intitulée “L’intelligence artificielle va-t-elle hacker l’humanité ?” — tenue à la Bellevilloise, en février dernier. Notes.

Intervenants

Jean-Gabriel Ganascia — Professeur d’informatique à l’université Pierre-et-Marie-Curie
Nicolas Monsarrat — Directeur Exécutif — Accenture Digital
Serge Tisseron — Psychiatre, docteur en psychologie, membre de l’Académie des technologies, chercheur associé à l’Université Paris VII Denis Diderot (CRPMS)
Camille Gicquel — Modératrice — Directrice de production nouveaux médias — La Netscouade

État des lieux général

Les intervenants ont salué l’apparition progressive d’un débat public autour de l’intelligence artificielle et des big data. Ils ont souligné la nécessité de renforcer le débat par les acteurs issus des mondes universitaires, institutionnels, économiques, politiques et le grand public. Ces initiatives font certes apparaître dans les outils big data des qualités sur le plan fonctionnelmais font aussi saillir un déficit avéré en termes de réflexion sur l’éthique. En cette dernière matière, les moyens d’évaluation (appelée indicateurs dans l’entreprise) sont en l’état imparfait pour dresser un état des lieux . Ils doivent être améliorés collectivement sur la base de critères humains et sociétaux (Tisseron : « il faut remettre l’humain dans le collectif »).

Entreprises : des succès mais aussi des erreurs

Watson d’IBM (big-datas + IA) permet déjà, dans le domaine de la santé, d’analyser des radiographies avec un taux de réussite supérieur au personnel médical.
Dans un autre domaine, la reconnaissance vocale du même système Watson atteint 99,63 % de fiabilité.
Cependant des erreurs sont commises par manque de concertation et de prise en compte émotionnelle et psychologique du client : ainsi une grande banque française fait passer une voix synthétique pilotée par une IA pour une personne réelle. Le problème c’est qu’elle n’en a pas informé ses clients au préalable. L’impact communicationnel a été désastreux.
L’outil est donc bien conçu mais le problème vient de son utilisation et de la mesure de son impact humain

À retenir

L’intelligence artificielle est l’objet de fantasmes et de mythes, y compris dans l’entreprise ; il convient donc :

D’apprendre à informer et former les utilisateurs (grand-public, salariés, prestataires) concernés au fonctionnement réel des big data et des IA (intelligences artificielles).
De savoir que faire porter à l’outil des responsabilités et/ou des facultés dont celui-ci n’est pas l’objet (rôle juridique, facultés décisionnelles) peut engendrer des risques nouveaux pour les structures (entreprises, institutions) ; il faut traiter ces questions en amont ou phase de conception des projets de big data / IA avec les parties concernées (juridiques, stratégiques, éthiques, techniques, etc.)

La mise en place d’intelligences artificielles crée de nouvelles responsabilitéset pose de nouvelles questions aux personnes et aux structures (institutions, entreprises)

Il est primordial d’anticiper les effets de l’intelligence artificielle sur nos sociétés, de penser sa gouvernance et sa régulation et de définir son éthique.

La personne (collaborateur, client, usager) doit être au cœur des problématiques liées aux big data / IA / robots ; l’outil et l’organisation sont secondaires et doivent en découler.

Les indicateurs « de performance » liés à la big-data et aux IA doivent donc être forgés sur la base de critères économiques, sociaux, sanitaires et éthiques. (par ex : « Quel est l’impact de l’outil sur un groupe de personnes, sur un tissu social ? Améliore-t-il la longévité, la santé, les revenus, le bien-être, les relations interpersonnelles, la dépendance d’un groupe de personnes ? »)

La big-data et la mise en œuvre d’intelligence artificielle doivent s’inscrire dans une politique du long terme ; ces technologies et leur déploiement à venir doivent être orientées et l’entreprise doit s’assurer que leurs usages seront fiables, et surtout bénéfiques pour tous.

Pour aller plus loin

Articles

Ouvrages

Jean-Gabriel Ganascia, Le Mythe de la Singularité, Seuil, 2017
Serge Tisseron, Le jour où mon robot m’aimera, vers l’empathie artificielle, Albin-Michel, 2016