Tribune parue dans le Monde, 14 décembre 2017
et postée comme contribution au débat lancé par Cédric Villani dans le cadre de sa mission sur l'IA https://parlement-et-citoyens.fr/projects/etablir-un-cadre-ethique-et-de-confiance-pour-le-developpement-de-l-ia/consultation/consultation-37/opinions/pistes-d-action/il-faut-creer-un-comite-national-d-ethique-du-numerique
Il faut créer un comité national d'éthique du numérique
Comme le rappelle Michel Serres, toute entité, cellule biologique, plante, animal, humain, reçoit, transmet, mémorise et transforme de l'information. Cette omniprésence de l'information dans le monde et la capacité des ordinateurs de toutes tailles à la traiter de manière efficace et à communiquer au travers des réseaux dont la rapidité et la disponibilité s'accroissent chaque jour concourent à la révolution numérique que nous vivons quotidiennement et qui ne fait que commencer.
Notre intelligence et nos capacités sensorielles et motrices nous permettent de traiter l'information, de concevoir, d'imaginer, de communiquer, de créer. Les ordinateurs et les programmes qui les équipent étendent de manière remarquable nos capacités individuelles et collectives. Comme tous les outils techniques, ces extensions de nos capacités peuvent être utilisées conformément à nos valeurs fondamentales, mais aussi en les bafouant, d'où la nécessité d'une grande vigilance.
La confidentialité et la maîtrise de nos données sont les premières à avoir interpellé les citoyens, tout particulièrement en France et en Europe. Nous avons été précurseurs avec l'instauration en 1978 d'une autorité de régulation qui s'est avérée remarquable en terme de protection: la CNIL.
S'il a été difficile de comprendre et de faire entendre que les questions éthiques et sociétales posées par la transformation numérique ne portaient pas exclusivement sur les données personnelles et leur régulation, depuis quelques années, cela apparaît évident à tous.
Réfléchir aux positionnements éthiques
Avec l'essor de l'intelligence artificielle, les questions éthiques sont maintenant sur toutes les lèvres. Elles ont pris aujourd'hui une telle importance qu'il nous parait essentiel de créer un Comité Consultatif National d’Ethique (CCNE) pour les sciences, technologies, usages et innovations du numérique, susceptible de suivre en continu l'évolution rapide de ces problématiques.
Nous nous trouvons désormais dans une situation similaire à celle qui a amené la France à être pionnière avec la mise en place en 1983 d'un CCNE pour les sciences de la vie et de la santé, ayant pour mission de réfléchir aux positionnements éthiques résultant de l'extension de nos capacités scientifiques et techniques dans ce domaine. Ce comité organise de façon lisible et construite, encadrée par la loi, le débat public. De ce fait ses avis consultatifs sont pris en considération par la société et par le législateur.
Comme l'illustrent les débats sur l'algorithme APB (Admission Post Bac) et son successeur, sur la robotique, sur les machines autonomes, sur les objets communicants, sur l'IA ou sur l'usage de nos données personnelles par les plates-formes Internet, on exige que les systèmes numériques, leurs données et leurs algorithmes, soient mis en oeuvre au bénéfice de tous, sans discrimination, dans le respect de la diversité d'opinions et de conditions. On demande aussi qu'ils soient « loyaux », sûrs et fiables, équitables, transparents : leur comportement doit pouvoir être analysé, expliqué, compris.
Le numérique recèle des potentialités considérables pour le bien-être dans le respect de l'environnement, à condition de servir un projet de société et non d'être un moyen d'asservissement. Si les questionnements éthiques posés par les avancées des sciences du numérique, des innovations technologiques qui en dérivent et, enfin, de leurs usages, ne sont pas nouveaux, ils sont maintenant de plus en plus partagés par les sociétés contemporaines mondialement dans les sphères tant sociales qu'industrielles ou institutionnelles.
Articuler le temps court avec le temps long
De multiples initiatives de positionnement éthique ont vu le jour récemment, en particulier chez les grands acteurs privés du numérique avec l'annonce de la création d'un comité d'éthique chez Google ou Facebook. Dans le cadre institutionnel, l'Allemagne a mis en place il y a un an un comité pour statuer spécifiquement sur les véhicules autonomes, dont les décisions peuvent maintenant servir de référence pour la résolution de dilemmes éthiques et donc servir de standard pour la programmation de ces véhicules.
Il s'agit maintenant d'articuler le temps court, celui de la compétitivité industrielle et économique, avec le temps long, celui de l'être humain et celui d'un « futur désirable ». Ainsi ce CCNE du numérique, indépendant et consultatif, s'articulerait avec les comités industriels sectoriels. La maîtrise de ces enjeux est pour la France et l’Europe une question de souveraineté et de démocratie, faute de quoi notre continent dépendra de décisions qui seront prises ailleurs, selon des cultures ou des considérations éthiques, économiques, industrielles, sociales nous échappant.
La France se doit donc d'être précurseur en la matière, comme elle le fut dans le domaine de la régulation des données personnelles et pour l'éthique des sciences du vivant et de la santé. Elle doit créer, dès à présent et sous l'égide de la présidence de la république, un Comité Consultatif National d’Ethique pour les sciences, technologies, usages et innovations du numérique.
Raja Chatila,président de l'IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems
Max Dauchet, président de la CERNA
Jean-Gabriel Ganascia, président du COMETS, comité d'éthique du CNRS
Claude Kirchner, président du COERLE,comité d'évaluation des risques légaux et éthiques d'Inria
Antoine Petit, président d'Inria et d'Allistene
Marc Renner, président de la Cdfi, Conférence des directeurs d'écoles françaises d'ingénieurs
Daniel Verwaerde, Administrateur Général du CEA (a signé après la parution dans le Monde)
