Régulation et innovations technologiques

La thématique générale du cours

La révolution numérique s’invite dans de multiples aspects de notre quotidien et questionne notre Etat de droit.  Les exemples sont nombreux.

Pendant plusieurs année, Amazon a recruté les membres de son personnel en confiant le tri des CV à un algorithme qui s'est avéré sexiste, déclassant quasi systématiquement les femmes.

Des partis politiques dont de la propagande électorale sur Facebook, TikTok, Instagram, recourant à des algorithmes pour influencer l’électeur.

Des logiciels d’intelligence artificielle séduisent par leur apparente neutralité. On y recourt notamment pour aider voire remplacer les juges et automatiser les décisions de justice. Pourtant, aux USA, l'outil COMPAS utilisé pour calculer le risque de récidive d'un prévenu s'est avéré raciste, octroyant un risque de récidive plus élevé aux personnes noires. 

A Paris, un arrêté autorise désormais le recours  à des drônes pour surveiller les manifestations. 

Les réseaux sociaux nous enferment dans des "bulles de filtres" et nous poussent à adopter un comportement que nous n'aurions pas nécessairement adopté spontanément. 

Et sur Tinder? Notre libre arbitre est-il vraiment respecté? Apparemment non...

Des algorithmes sont utilisés pour décider de l'attribution de bourses d'étude, d'allocations de chomâge, d'allocations familiales... Ils ont donc un rôle essentiel dans des décisions qui touchent à notre quotidien. Comment savoir si ces algorithmes prennent une décision juste? Qu'ils ne sont pas racistes, sexistes, anti-pauvres? D'ailleurs, que fait l'Etat avec les données qu'on est obligé de lui confier ? 

Ce sont autant de situations quotidiennes provoquées par le développement du numérique. Elles ont en commun, actuellement, de ne pas être encadrées par des normes ou de ne pas l’être adéquatement. En particulier, la loi, souvent à la traîne par rapport aux innovations technologiques, ne suffit plus pour répondre à certaines questions clés dans ce domaine.

Cette situation génère des réflexions fondamentales dans notre Etat de droit, en lien notamment avec les droits fondamentaux des citoyens, la sécurité des individus, l’égalité et la non-discrimination entre citoyens, la protection des personnes vulnérables, l’accès à l’information, le contrôle de nos données à caractère personnel, etc.

Contenu et méthode du cours

Le cours comprend deux parties: les séances de cours et le travail exploratoire. 

1- LES SEANCES DE COURS 

Le cours est conçu comme une enquête au pays des algorithmes. Il est structuré en 10 questions qui correspondent à des thématiques distinctes en lien avec les innovations technologiques et leur régulation, en portant une attention particulière à l’intelligence artificielle. Chaque question correspond à une séance de cours.

Les premiers cours sont des cours-cadre, consacrés à l’explication des notions et concepts clés du cours. Par exemple, « Qu’est-ce qu’un algorithme ? ». Un professeur en informatique viendra nous éclairer. 

Les cours suivants sont des cours thématiques, dédiés à la régulation des technologies dans certains secteurs précis. Par exemple, « les robots vont-ils remplacer les juges ? » ou « les GAFAM sont-ils les nouveaux maîtres du monde ? ».

Avant chaque cours, l’étudiant doit remplir une "mission". La réalisation d'une mission prend environ 2h. En somme, lors de cette mission, l’étudiant se familiarise avec la matière qui sera vue au cours, au départ de sources dynamiques du type podcast, interviews vidéo, conférences TedX, réalisations d’exercices, etc. L’apprentissage se voulant progressif, chaque prestation devra obligatoirement être validée dans le parcours d’apprentissage numérique au fur et à mesure de son accomplissement.

2- LE TRAVAIL EXPLORATOIRE

A ces 10 missions et 10 cours s’ajoutent la réalisation d’un travail exploratoire.

L’étudiant est invité à choisir une question de régulation en lien avec les thématiques étudiées au cours. Par exemple, faut-il craindre ou souhaiter que des décisions de justice soient rendues par des robots ?

Ce travail se veut concret, dynamique et créatif. Il incluera la rencontre avec des acteurs de terrain et l'analyse d'une question d'actualité. Au départ de cette recherche en action, il s'agira de mobiliser les notions vues au cours notamment pour réfléchir à des pistes de solutions pour l'avenir.  

Ce travail prendra la forme que l'étudiant.e juge la plus percutante à ses yeux compte tenu du sujet et du message : travail écrit ou vidéo, audio, BD etc...

--

Ce cours est donné par la professeure Elise DEGRAVE au 2e quadrimestre, le jeudi de 14h à 16h.