Les enjeux de l'éthique

Tant que l’IA était cantonnée aux laboratoires de R&D, les risques de son utilisation se limitaient à des sujets de recherche théorique. Mais l’essor de cette technologie au cours des dernières années et son utilisation progressive dans les métiers et dans le quotidien des citoyens ont rendu son impact bien plus réel et parfois massif, notamment en terme de discrimination avec des cas avérés plus ou moins célèbres.

Chatbots, assistants vocaux, algorithmes pouvant gérer seuls des transactions financières ou sélectionner des candidats, … autant de technologies basées sur l’IA qui touchent la société et génèrent des interrogations sur l'éthique de ces technologies.

L'éthique, clé de voûte de la confiance dans les systèmes d'IA. 

L'éthique : un vaste chantier

Plusieurs initiatives tentent de mettre en place une éthique de l’IA. Depuis 2016, le nombre de publications liées à l'éthique a connu une croissance exponentielle.

Des chartes éthiques sont élaborées à plusieurs niveaux :

  1. pays : Carte géopolitique de l’IA interactive en cliquant sur le TAG ETHICS 
  2. communauté européenne
  3. entreprises de services technologiques telles que Google (Principles of AI), IBM (AI ethics), Microsoft (AI principles)
  4. communautés scientifiques :  Trustworthiness of AI by International Standards organisations (Joint ISO-IEC committee)
  5. fondations :

En plus des chartes, des projets sont lancés sur les thématiques les plus impactées par les questions éthiques : justice, discriminations sociales ou de genre, IA pour tous, media, véhicules autonomes, santé, éducation, etc... Tous ces travaux proposent un cadre utile mais encore en construction pour appliquer des principes éthiques.

La plupart des contenus sur le sujet IA est en anglais mais il est possible d'utiliser des outils gratuits de traduction automatique à base d'IA tels que Google Translator ou DeepL.

L'éthique : oui mais comment ?

Placer l'éthique au coeur des projets d'IA dès le début.

Il est primordial de se poser des questions d’éthique telles que :

  • Est-ce que le système a des données suffisantes en volume et en diversité en entrée ?
  • Est-ce que le système traite équitablement les critères ?
  • Est-ce que le système favorise certains groupes en sortie ?
  • Est-ce que l’équipe qui développe le système présente une diversité suffisante (genre, profil, expérience, compétences, …) ?

L’éthique est au cœur des technologies d’IA. Tout comme les aspects de sécurité, si l’équipe s’en préoccupe à la fin du projet, le coût pour rendre le système IA plus éthique est conséquent et le résultat moins robuste. Une réflexion éthique sur les projets d’IA permet de s’assurer de l’alignement avec les valeurs portées par l’entreprise. Elle oriente l’apprentissage des systèmes IA vers la meilleure décision / recommandation en poussant pour l’équilibre performance / équité.

Sans éthique pas de confiance !

Crédit Photo : Antonio Lopez

Ce phare se nomme "El Faro Les Éclaireurs" et se situe sur un ilot en Patagonie. La photo a été prise le 20.02.2011 pour célébrer une occasion spéciale. Plus de photos comme celle-ci sur www.LiquidLight.photo