Logo diocèse de Versailles

L’intelligence artificielle


Comment encadrer le développement des algorithmes et des capacités d’intelligence artificielle ?

Une consultation citoyenne

De janvier à juin 2018, la consultation citoyenne a pris la forme suivante :

  • un panel de citoyens tirés au sort
  • 300 auditions d’experts (instances religieuses, militants associatifs, monde scientifique, politiques)
  • Des réunions publiques ouvertes à tous sur inscription, organisées par les espaces de réflexion éthique régionaux du CCNE
  • Une plate-forme d’information, d’expression et d’échanges sur internet ouverte à toute contribution.

Le compte-rendu de cette consultation est disponible sur le site des Etats-généraux de la bioéthique. 

Etat des lieux

Les algorithmes sont présents dans nos vies au quotidien (choisir un itinéraire, faire une recherche sur internet, réseauter, etc, avec les techniques d’apprentissage automatiques), ils deviennent de plus en plus puissants, collectent et croisent des données personnelles. Associés aux neurosciences, ils simulent le comportement du cerveau humain et participent à la recherche pour mieux en comprendre le fonctionnement.

Risques

les algorithmes appartiennent à leur concepteurs qui sont des entreprises privées. Leur manque de transparence – qui contrôle quoi – est souvent critiqué notamment sur les biais utilisés pour traiter des données et décider des résultats.  Quelle responsabilité accorder aux robots intelligents en cas de problèmes et jusqu’où peuvent-ils prendre des décisions pour nous ? Quel statut leur accorder ? Celui de « personne électronique » relativiserait la notion de personne qui s’enracine dans la dignité de l’être humain.

Pistes proposées par le groupe de travail de la CEF

Face à la superpuissance calculatoire de l’intelligence artificielle, pourquoi ne pas rappeler et développer les formes d’intelligences spécifiquement humaines que sont la raison, l’émotion, l’artistique et le relationnel, que la machine sait seulement simuler mais non éprouver. Face au risque de dictature de la technologie numérique,  une éthique de l’IA est à développer comme le préconise la CNIL : loyauté collective pour la transparence et l’utilisation démocratique des algorithmes au service de la dignité humaine et  vigilance/réflexivité par rapport à l’autonomie des machines afin que l’homme ne perde pas la main sur l’intelligence artificielle.

Sur le même thème