Accueil
Expressions par Montaigne
Éthique de l’IA : quels enjeux après la création du Comité d’éthique du numérique ?

L'Institut Montaigne propose une plateforme d'Expressions consacrée au débat et à l’actualité. Il offre un espace de décryptages et de dialogues pour valoriser le débat contradictoire et l'émergence de voix nouvelles.

19/12/2019

Éthique de l’IA : quels enjeux après la création du Comité d’éthique du numérique ?

Trois questions à Anne Bouverot et David Gruson

Société Technologies

Imprimer

Éthique de l’IA : quels enjeux après la création du Comité d’éthique du numérique ?

Anne Bouverot

Présidente du Conseil d'Administration de Technicolor et Présidente de la Fondation Abeona

David Gruson

Directeur du Programme Santé Jouve et fondateur d’Ethik-IA

Le 2 décembre dernier, le Comité Consultatif National d’Éthique a été chargé par Édouard Philippe de constituer un comité pilote d’éthique du numérique. Composé de personnalités d’horizons différents, son but est d’aborder les enjeux éthiques du numérique et de l’intelligence artificielle de manière globale. Le comité se penchera dans un premier temps sur les chatbots, les voitures autonomes et le diagnostic médical. Il rendra ses premiers travaux début 2021.

Anne Bouverot, présidente du Conseil d’administration de Technicolor et de la Fondation Abeona et co-présidente du groupe de travail de l’Institut Montaigne sur les biais algorithmiques, ainsi que David Gruson, directeur du programme santé de Jouve, fondateur d'Ethik-IA, membre du comité d'éthique du numérique et auteur de la note de l’Institut Montaigne sur l’intelligence artificielle en santé, nous livrent leur analyse sur le sujet.

La France a inscrit les enjeux éthiques au coeur des préoccupations liées à l'intelligence artificielle (IA). Comment situer la création du comité d'éthique du numérique dans cette perspective ?

DAVID GRUSON

C’est une avancée très significative. Nous avions évoqué la perspective de cette création dans le rapport Numérique et santé : quels enjeux éthiques pour quelles régulations ?que nous avions co-dirigé avec Claude Kirchner, membre du Comité Consultatif National d’Ethique (CCNE) et président du Conseil d’éthique de l’Institut national de recherche en informatique et en automatique (Inria), dans le cadre de la préparation du volet numérique et IA de la révision de la loi de bioéthique. Cette proposition s’inscrivait alors dans un cadre de réflexion portant sur la notion d’une régulation positive de l’IA :s’ouvrir à l’innovation, ne pas la "surréglementer" dans un contexte juridique déjà très protecteur tout en régulant ses enjeux éthiques.

Ce nouveau comité porte la dynamique à une échelle plus large avec un mandat global pour l’ensemble des secteurs économiques et sociaux. Sa composition diversifiée – académique et opérationnelle – et sa présidence confiée à Claude Kirchner garantit, selon moi, un niveau élevé d’exigence mais aussi le prolongement de cette dynamique derégulation positive.

ANNE BOUVEROT

Il s’agit d’un comité pilote, chargé d’une part de mener des réflexions spécifiques dans le domaine de l’éthique du numérique et de l’IA, et d’autre part d’être force de recommandations pour l’organisation du débat sur ces sujets. Je salue le fait de commencer par un projet pilote : c’est un domaine en développement et le fait de s’appuyer sur des exemples concrets permet d’avoir une meilleure vision de la meilleure manière d’approcher ce sujet important.

On peut bien sûr se demander pourquoi un comité qui va traiter de sujets aussi divers que les agents conversationnels ou "chatbots", les véhicules autonomes et l’IA dans les diagnostics médicaux, a été créé par le comité d’éthique pour les sciences de la vie et de la santé, mais c’est, selon moi, parce que ce comité "père" a acquis une grande légitimité. C’est un excellent point de départ. Il me semble cependant qu’il faudrait assez rapidement réfléchir à donner son indépendance à ce jeune comité pilote.

L’IA et le numérique ont le potentiel de transformer de nombreux domaines, de rendre de nouvelles choses possibles mais également d’introduire de nouveaux risques. Pourquoi créer de nouvelles règles éthiques ?

ANNE BOUVEROT

L’éthique est profondément humaine et, bien sûr, nous n’avons pas attendu l’arrivée d’Internet ni de l’apprentissage automatique pour y réfléchir. Une première chose à poser est que les principes d’éthique existants, et les lois qui les protègent, doivent continuer à s’appliquer dans le monde numérique.

L’éthique est profondément humaine et, bien sûr, nous n’avons pas attendu l’arrivée d’Internet ni de l’apprentissage automatique pour y réfléchir.

Cependant, ce à quoi il est intéressant de réfléchir est l’identification de cas pour lesquels les nouveaux développements modifient certaines questions, en rendent d’autres plus aiguës, ou en créent de nouvelles. Par ailleurs, il y a des questions d’éthique générales mais d’autres qui sont spécifiques, par exemple celles propres aux domaines biomédical, juridique, financier ou encore à l’enseignement et à la recherche. Des comités d’éthique existent déjà dans de nombreux endroits et cherchent à appréhender l’impact du numérique.

Une piste pourrait être qu’à terme, le comité d’éthique du numérique ait un double rôle : d’une part, d’aider les différents comités d’éthique existants à prendre en compte les conséquences des transformations digitales, notamment en leur apportant de l’expertise, et d’autre part, de réfléchir directement aux sujets vraiment nouveaux apportés par l’IA et le numérique.

Le secteur de la santé est particulièrement visé par les enjeux éthiques autour de la gestion des données. Le principe d'accompagnement en garantie humaine (notion développée par le CCNE) a été repris dans la loi de bioéthique votée cette année. La création d'un comité éthique permettra-t-il de protéger les Français des risques liés à l'exploitation de leurs données de santé ?

DAVID GRUSON

Le thème de l’IA en santé se retrouve dans les premiers dossiers que traitera le nouveau comité. Un gros travail a effectivement été mis en œuvre dans le cadre de la préparation de la révision de la loi de bioéthique. La reconnaissance du principe de garantie humaine de l’IA – c’est-à-dire la garantie d’une supervision humaine de toute utilisation du numérique en santé – représente une avancée considérable.

Ce principe, issu de ce travail conduit en France, a déjà été relayé au niveau européen et, depuis le mois d’octobre dernier, dans le cadre de la Task Force sur la régulation de l’IA en santé instituée par l’Organisation Mondiale de la Santé (OMS). J’ai l’honneur d’y représenter le CCNE et de défendre cette vision française et européenne de la régulation de l’IA.

Le défi de l’adaptation des compétences et des métiers de la santé est un autre défi prioritaire.

Une recommandation générale devrait être émise par l’OMS dans le courant du premier semestre 2020 et ce chantier est bien sûr tout à fait stratégique. Je voudrais insister sur un point : il n’y a pas de contradiction entre la volonté de maîtrise des enjeux éthiques et le développement effectif de l’IA. Au contraire, la régulation positive est créatrice de valeur pour les utilisateurs et pour la société dans son ensemble. Le fait que la France ait pris une longueur d’avance sur ces enjeux est aussi une chance pour le développement de notre pays. Dans cette logique, le défi de l’adaptation des compétences et des métiers de la santé est un autre défi prioritaire.C’est ce que nous avions montré dans une note de l’Institut Montaigne intitulée IA et emploi en santé : quoi de neuf docteur ?, en janvier 2019. Et il y a encore beaucoup de chemin à parcourir sur ces sujets.

Imprimer