Vous êtes ici : Accueil

Ecole jeunes chercheurs sur l'éthique du numérique Accès direct ici

 

Apprentissage et Intelligence Artificielle: les vraies questions éthiques

lundi 13 juin 2016

9h30 à 17h

Inria de Paris

2 rue Simone Iff Paris 12ème

Télécharger l'affichette A4

L'inscription est gratuite mais obligatoire pour des raisons de sécurité.                                 Le nombre de places est limité à 100.  Inscrivez vous sans tarder  ICI 

Après la journée Journée de juin 2015 et celle de février 2016 sur la Gouvernance des algorithmes, cette troisième journée organisée à Paris par la CERNA débattra de l'apprentissage.

Les techniques d'apprentissage machine, important domaine de recherches en intelligence artificielle, sont étudiées depuis des années, mais elles ont récemment fait une irruption spectaculaire dans les médias grâce à la victoire d'AlphaGo, programme de la société Google DeepMind, sur le champion du monde de Go, Lee Sedol. Demis Hassabis, co-fondateur de cette société, affirme que l'apprentissage par renforcement (une technique utilisée dans les programmes informatiques qui s'adaptent en fonction de leurs échanges avec l'environnement) va révolutionner le monde.

Un groupe de travail sur l'intelligence artificielle vient d'être créé à la CERNA afin d'apporter un éclairage pour les experts et le grand public sur les problèmes éthiques posés par l'apprentissage machine. Ces travaux seront évoqués lors de la journée du 13 juin.

Le programme

Cette journée combinera exposés (3/4 h)  et échanges (1/2h)

  • 9h 30 - 10h Laurence Devillers, Professeur, Paris-Sorbonne, LIMSI
    • Présentation de la journée et du travail de la CERNA sur le sujet                           L’utilisation de systèmes informatiques fonctionnant à partir d’apprentissage machine, nécessite une réflexion éthique sur les limites et performances des systèmes et amène une rupture technologique et juridique par rapport aux algorithmes classiques paramétrables. Le modèle résultat de ce type d’apprentissage est dû au concepteur de l’algorithme et aux données choisies. Certains de ces algorithmes d’apprentissage machine apprennent également au cours de leur utilisation de façon autonome à partir des données des utilisateurs, de leur environnement ou d’autres programmes. Le modèles obtenus sont dit de type « boite noire » : pour l’utilisateur, il est difficile de savoir ce que le système connaît.  Ces modèles peuvent servir à reconnaître les personnes, les émotions, la parole … à partir d’informations visuelles, auditives et textuelles. Ils peuvent servir à construire des connaissances sémantiques et à prendre des décisions. Comment pourrait-on expliquer d’une certaine manière les connaissances apprises ? ou tout du moins les résultats obtenus ? Quelles règles éthiques pourrait-on préconiser ? Quelles règles juridiques pourraient en découler ?

 

  • 10h - 11h 15 Milad Doueihi, chaire d'humanisme numérique, Paris-Sorbonne; chaire des Bernardins "l'humain au défi du numérique".
    •  L’apprentissage entre pensée et intelligence                                                              Retour sur les textes d’A Turing et de J von Neumann afin de mieux saisir les modèles comparatifs dans la conception de l’apprentissage informatique et la manière dont ses modèles façonnent toujours l’imaginaire de l’intelligence (informatique) et les conceptions de l’apprentissage automatique.

 

  • 11h 15 - 12h 30 Tristan Cazenave, professeur Paris-Dauphine, LAMSADE
    • Apprentissage et jeux                                                                                               Nous reviendrons sur le deep learning et la recherche Monte-Carlo qui ont permis des avancées importantes en intelligence artificielle pour les jeux. Nous verrons aussi les différentes applications possibles de ces algorithmes d'apprentissage

  • 14h - 15 h 15 Benoît Girard, directeur de recherche CNRS, ISIR
    • Apprentissages multiples, substrats neuronaux et modèles                                          L'apprentissage n'est pas un processus monolithique: plusieurs grandes classes d'apprentissage ont été très tôt identifiées en intelligence artificielle (non-supervisé, supervisé, par renforcement). Du côté des neurosciences, plusieurs travaux théoriques attribuent ces classes d'apprentissage à des grandes régions distinctes du cerveau. Le cas de l'apprentissage par renforcement est particulièrement intéressant, puisque, là où l'IA a identifié plusieurs classes d'algorithmes, les neurosciences ont identifié des modes comportementaux et des substrats neuronaux distincts qui semblent leur correspondre. Cette convergence dresse le tableau d'un apprentissage multiple et distribué dans le cerveau, et nourrit également la conception d'architectures d'apprentissage artificiel.

 

  • 15h 15 -16 h 30 Jean-Baptiste Mouret, chercheur Inria, Equipe Larsen
    • Adaptation Créative par Évolution                                                                                   Les robots quittent progressivement les usines pour fonctionner en autonomie dans des environnements plus naturels et plus complexes. En effectuant cette mutation, ils rencontrent inévitablement des situations que personne n'a anticipé. Alors que les animaux peuvent s'adapter rapidement à beaucoup de ces situations, les robots actuels ont des difficultés à être créatifs quand c'est nécessaire : ils sont limités par les hypothèses faites par leur concepteurs. Dans nos travaux, nous cherchons à capturer la créativité de l'évolution darwinienne pour rendre les systèmes artificiels plus créatifs dans les situations non anticipées. Notre projet a commencé avec des questions sur comment permettre à un logiciel de découvrir des nouveaux comportements intéressants et surprenants ; il a récemment abouti à démonstration d'un robot "insecte" à 6 pattes capable de réapprendre à marcher en moins de 2 minutes après un dommage (par exemple, la perte d'une patte).

 

  • 16h 30 - 17h 30 Table ronde avec les intervenants de la journée
    • Intelligence forte: fantasme ou perspective ?                                                                  La perspective d'une intelligence artificielle "dépassant l'intelligence humaine" suscite débats et déclarations médiatiques, sans que l'on sache ce que veut dire "dépasser" ou "intelligence humaine". Cette éventualité est-elle scientifiquement fondée? A-t-elle même un sens? Peut-on en débattre en ignorant tout des technologies et principes sous-jacents? Agiter de telles idées ne risque-t-il pas de détourner notre vigilance des véritables questions éthiques?  

***********************************************************************************************************

 

         Photos: Domaine de la dune     ethicaluniform.com                 Domaine de la dune

Ecole jeunes chercheurs sur l'éthique du numérique

26 au 30 septembre 2016

Domaine de la dune à Arcachon

Informations pratiques  

Lieu : Domaine de la Dune, Arcachon  http://ladune-arcachon.fr/

Dates: du lundi 26 septembre 14h au vendredi 30 septembre 17 h

Transports: Le domaine est à moins de 3 km de la gare d'Arcachon (accès à pied ou en bus).

Les horaires permettent (par exemple) de partir le lundi matin de Paris et d'y rentrer le vendredi soir par TGV

Contexte et modalités pédagogiques

En ce début 2016, le projet d'arrêté sur les Ecoles Doctorales prévoit une initiation à l'éthique de la recherche et Pierre Corvol, professeur émérite et administrateur honoraire du Collège de France, se voit confier par Thierry Mandon une mission relative à l'intégrité scientifique.

Dans le contexte de l'affirmation de ces enjeux éthiques pour le scientifique, le présent programme couvre les différents questionnements dans le domaine du numérique.

L'école associe des participants et des intervenants des sciences et technologies du numérique et des sciences humaines et sociales. Elle alterne les conférences de synthèse, les débats et les ateliers par petits groupes. Tous les documents présentés durant la semaine seront remis aux participants à l'issue de l'école.  

Inscription et tarifs 

L'école est ouverte à tous, mais priorité sera donnée aux doctorants et jeunes chercheurs.

Une préinscription est obligatoire avant le 25 juin. Les préinscrits recevront directement les directives pour les inscriptions définitives.

L'inscription est de 900 € pour les préinscriptions postérieures au 15 avril. Cette somme comprend l'hébergement pour quatre nuits sur le domaine des Dunes et l'ensemble des repas du lundi midi au vendredi midi.

Cette école bénéficie d'un financement du CNRS dans le cadre de ses écoles thématiques, des personnels du CNRS seront dispensés de frais d'inscription dans la limite des possibilités budgétaires. Dans une même limite, Inria prendra en charge les frais d'inscription de ses personnels.

Pour se préinscrire, cliquer ici

Renseignements : contactCERNA

 Télécharger l'affichette d'annonce

Programme provisoire

Lundi 26

  • 14h Présentation de la semaine
  • 14h 30 – 19h Ethique, science et transformations de la société. Méthodes d’analyse éthique de projets de recherche : présentation et illustrations dans le champ du numérique.
    • Claire Lobet, Professeur à l'Université de Namur
    • Alexei Grinbaum, Chercheur au LARSIM, CEA
    • Ateliers et débats

Mardi 27

  • 8h45 – 12h 30 Droit, Ethique, Déontologie
    • Danièle Bourcier, Directrice de recherche émérite, CNRS, membre du COMETS
    • Ateliers et débats
  • 14 h – 19 h Ethique de la recherche en robotique
    • Raja Chatila, Directeur de recherche CNRS
    • Laurence Devillers, Professeur à l'Université de Paris 4
    • Ateliers et débats

Mercredi 28

  • 8h 45 – 12h 30 Enjeux éthiques liés aux partages de données (data sharing)
    • Danièle Bourcier
    • Jean-Gabriel Ganascia, Professeur à l'Université de Paris 6, IUF, membre du COMETS
    • Open data, Intervenant à définir
    • Ateliers et débats
  • 14h – 19h Accès aux données à des fins de recherche
    • Guillaume Piolle, Supelec
    • François Pellegrini, Professeur à l'Université de Bordeaux, membre du Collège de la CNIL
    • Débats

Jeudi 29

  • 8h 45 – 12h 30 Le paysage institutionnel et juridique de l’éthique des sciences du numérique; intégrité scientifique
    • En Europe, Nicole Dewandre, DGConnect, Commission Européenne
    • En France, Claude Kirchner, Directeur de recherche, Inria. Président du COERLE, comité opérationnel d' éthique d'Inria, membre du comité de prospective de la CNIL
    • La CNIL, Sophie Vulliet-Tavernier, Directrice des relations avec les publics et la recherche, CNIL
    • Entretiens et débats
  • 14h – 19 h L’homme numérisé, l’homme réparé, l’homme augmenté
    • Intervenant à définir
    • Débats

Vendredi 30

  • 8h 45 – 12h 30 Gouvernance des algorithmes
    • Christine Balagué, titulaire de la Chaire réseaux sociaux à l'Institut Mines Télécom, ancienne Vice- présidente du Conseil National du Numérique
    • Débats
  • 14h – 17h Restitution ; Conclusion ; Evaluation

 

 

 

 

Evènements passés

1er février 2016 gouvernance des algorithmes programme et documents 

3 Juillet 2015 Ethique à Innorobo 

15 Juin 2015: journée éthique  Le programme et les slides

Janvier 2015:   Contribution de la CERNA à la concertation du CCNum 

Novembre 2014: La CERNA a remis à Madame Fioraso son rapport sur l’ Ethique de la recherche en robotique 

Juin 2014: organisation à Paris des conférences internationales CEPE et ETHICOMP 2014