Les questions éthiques autour de l’intelligence artificielle

L’IA peut-elle être “éthique” et “responsable” ? Avoir un impact positif sur notre société ? On parle d’ailleurs de plus en plus de AI for good. Tendance de fond ou simple moyen pour les entrepreneurs et intrapreneurs de la tech, en pleine quête de sens, de se déculpabiliser ?

Si le digital induit des réflexions sur l’impact écologique, l’intelligence artificielle pose intrinsèquement des questions sociétales encore plus large, les plus courantes étant :

L’impact sur l’emploi et les compétences. Les études sont nombreuses et leurs résultats contradictoires donc à prendre avec des pincettes. Mais il est certain que les Directions Générales et Ressources Humaines des grandes entreprises vont devoir plancher sur la question pour saisir les opportunités offertes par l’IA tout en accompagnant leurs collaborateurs dans cette transformation
Les algorithmes eux-mêmes posent question :

- Sur la transparence, particulièrement en matière de deep learning. Comment développer un réseau complexe de neurones capable d’apprendre par lui-même sans que cela devienne une vraie boite noire ?

- La responsabilité : un des exemples les plus discutés sur ce point est celui de la voiture autonome. Un accident se produit … Qui en est le responsable ? Le conducteur, le constructeur, celui qui a créé l’algo ? Pas simple …

- La notion de biais : comment reproduire le raisonnement humain sans reproduire sa part sombre et obscure ? Les exemples d’algorithmes ayant reproduit des préjugés humains sont nombreux et peu glorieux malheureusement, même si des moyens technologiques et humains permettent d’éviter ces dérives.
- La liberté individuelle ou l’assurance que nos données personnelles restent bien privées, même si les européens que nous sommes ne sont pas si mal lotis avec la RGPD qui apporte un socle règlementaire relativement stricte.

Pour adresser ces questions de fond, les entreprises se cherchent et commencent à mettre en place des instances de gouvernances, observatoires et autres dispositifs d’auto-régulations. Les gouvernements et autres organismes de référence légifèrent aussi pour apporter du cadre. C’est le cas de la commission européenne qui a lancé en avril dernier une phase pilote visant à mettre en œuvre dans la pratique les lignes directrices sur l’éthique en matière d’IA.

La position de Catalix en la matière se veut optimiste et contributrice :

- Intégrer l’éthique dans les modules de formation existants

- Accompagner les entreprises dans la construction de leur démarche de mise en œuvre de charte éthique
- Contribuer au débat public sur ces sujets et participer à différentes instances qui traitent de ces questions (le collectif Impact AI, le Hub France IA …)

Bref, les enjeux éthiques soulevés par l’IA sont nombreux, complexes à appréhender et on n’en est qu’au début de l’histoire

– Article rédigé par Charlotte Lischer.