06/11/2018

Le « dilemme du véhicule autonome », ou comment les techs enfument le débat de la responsabilité des IA et des robots

Récemment, la revue scientifique « Nature » a publié les résultats d’une étude du MIT (l’étude en Anglais) sur le « dilemme du véhicule autonome » (version actualisée du « dilemme du tramway »). C’est-à-dire comment devrait réagir l’intelligence artificielle (IA) aux commandes d’un tel véhicule face à un accident imminent qu’on ne peut éviter qu’en causant d’autres dommages (y compris aux occupants du véhicule). 

capture-decran-2018-11-06-a-11-03-24

 

 

 

 

 

 

Par exemple, écraser une grabataire pour éviter de renverser un jeune papa et son bébé dans une poussette. Ou alors une jeune cadre dynamique à la place d’une grand-mère poussant la poussette précédemment citée. Ou alors un trentenaire à la mine patibulaire portant son joli petit chaton au lieu d’un garçonnet à l’air espiègle dont le lance-pierre dépasse du pantalon. Ou encore un mignon petit caneton tout doux à la place d’un gros pitbull baveux dont on sait qu’il procure compagnie et joie à une charmante vieille dame. Voire le plus beau massif de fleur de la ville au lieu de la devanture d’une chaîne de restauration rapide appartenant à une caisse-maladie. Etc. etc.

Cette étude devait d’une part montrer les « différences de sensibilité » entre les genres, les classes sociales les peuples et les cultures. Dans quelle région commanderait-t-on à l’IA, par exemple, de ne surtout pas écraser la jeune maman et son bébé (« pensez donc, il a toute la vie devant lui ! ») ou alors de sauver impérativement la personne âgée (« il faut respecter les anciens, leur savoir et leur expérience ») ? Et quand on a le choix entre un groupe de 60 retraités et une seule jeune mère et son seul bébé, faut-il faire le choix du nombre ou de l’âge ? Comment un jeune informaticien programmerait-il l’IA et en quoi cette base d’apprentissage serait-elle différente si elle venait d’une retraitée ? Les résultats sont présentés comme rassurants : plus il y de (jeunes) vies humaines en jeu, plus les gens interrogés ont tendance à les épargner, quitte à pour cela écraser vieux schnoques, bébés phoques et mobilier urbain. De telles études sur les dilemmes moraux sont d’ailleurs légion (cf. ce florilège en Allemand).

Mais cette étude devait surtout montrer que les concepteurs de véhicules autonomes les concevaient de telle manière que, en cas de drame inévitable, l’IA ferait tout pour limiter les dégâts, tant au niveau physique (« surtout, limitons le nombre de blessés ! ») qu’éthique (« quitte à écraser quelqu’un, autant épargner le bon ! »). Le grand public n’aurait donc rien à craindre des véhicules autonomes, et par extension des IA en général, car leurs concepteurs aussi géniaux que visionnaires leur ont donné les moyens de penser à tout, y compris aux problèmes éthiques les plus trapus, même s’ils sont hautement improbables.

Disons-le tout net : C’est de l’enfumage. D’une part, parce que ce sont des questions certes intéressantes pour un débat éthique, mais qui restent purement théoriques. Certes, en théorie, la probabilité existe qu’un accident ne puisse être évité qu’au prix d’un autre dégât (y compris qu’une vie ne puisse être sauvée qu’au prix d’une autre), mais aucune des situations décrites dans le « dilemme » n’est amenée à se reproduire en vrai dans la vraie vie. Lorsque vous êtes au volant, avez-vous déjà été confronté au choix de devoir écraser un bébé et un chaton pour épargner l’autostoppeur désagréable du siège passager ? Moi, jamais.

Par ailleurs, si les IA des véhicules autonomes sont bien conçues, elles ne doivent pas se mettre dans une situation où un danger imminent ne peut être écarté qu’au prix d’un autre danger. Par exemple, au moment d’arriver dans une rue où gambadent des enfants, traversent des piétons, roulent des poussettes, trottinent des personnes âgées et ronronnent des chatons, un véhicule autonome bien conçu devra ra-len-tir. Et non pas maintenir une vitesse qui lui ferait risquer d’avoir comme unique choix d’écraser les enfants pour épargner le chaton (ou l’inverse).

Mais c’est surtout de l’enfumage parce que ce genre d’études a pour unique effet que de détourner le débat public des vraies questions. La vraie question en matière d’accidents causés par des véhicules autonomes pilotés par des IA apprenantes est : qui est responsable ? Peu importe de savoir si l’IA en question, si ce cas s’était présenté, aurait choisi, pour des raisons éthiques ou que sais-je, d’écraser un pépé en fin de cycle pour épargner une fillette qui respire la joie de vivre. Ce qui compte, c’est que, s’il y a de vrais dégâts, quelqu’un paie. Le tout est de déterminer qui : le constructeur du véhicule ? son propriétaire ? le programmeur de l’IA ? le passager du véhicule qui se trouvait le plus près du bouton « stop » (s’il existe) ? le piéton écrasé parce qu’il n’aurait pas respecté les règles de sécurité ? le propriétaire du chaton ? le constructeur de la route ou la commune où elle se trouve, parce qu’ils n’auraient pas veillé à ce que la signalisation soit compréhensible par l’IA ? L’entreprise qui a construit la route et ne l’a pas fait assez plate ? Celle qui a installé la signalisation ? Celle qui fournit les données GPS ? Le bébé qui a hurlé, perturbant ainsi les capteurs sonores de l’IA qui n’aurait pas entendu les pas feutrés du chaton ? Et, une fois que le ou les responsables sont établis, quelle règle de responsabilité va-t-on appliquer ? Une responsabilité causale comme celle du propriétaire d’un immeuble ? Une responsabilité partagée en fonction du niveau de risque ou de la possibilité d’influencer et/ou de contrôler l‘IA et son apprentissage ? Une responsabilité analogue à celle de celui qui met sur le marché des produits dangereux ?

Toutes ces questions se posent en cas de dommage causé par des robots ou par des objets pilotés par des IA. Et ce qu’il faut éviter, c’est que cela aboutisse à une situation où personne n’est responsable, par exemple parce que le concepteur prétend que l’IA, en apprenant, a évolué d’une manière qu’il ne pouvait prévoir et que le propriétaire avance que l’IA a agi d’une façon qu’il ne pouvait prévoir au moment d’acheter l’objet.

Un autre problème avec cette étude, c’est qu’elle sous-entend que l’on pourrait laisser les algorithmes décider tout seul, y compris pour des questions de vie ou de mort. Et ça, c’est la fin de la responsabilité individuelle. Car une personne qui doit prendre une décision et qui suit aveuglément un algorithme ne décide plus rien ; elle obéit.

Le législateur doit donc fixer des règles. Mais il ne doit pas se laisser détourner du sujet par des questions du type « la responsabilité du concepteur de l’IA est-elle réduite parce qu’il l’a programmé pour écraser les mémés avant les enfants ? ». Or, en imposant un débat public sur ces questions qui n’ont qu’un intérêt théorique, les « techs » nous font croire que c’est aux scientifiques qu’il revient de déterminer ce qui est bien ou mal et nous détournent des vraies questions sur la responsabilité des IA et des robots. Si elles font cela, c’est dans le but de réduire leur propre responsabilité. Parce qu’une personne qui fait tout pour éviter qu’un mignon chaton ne se fasse brutalement écraser ne saurait être fondamentalement mauvaise, n’est-ce pas ?

11/06/2018

La complainte du vieux ringard digital naïf

La campagne sur la nouvelle loi sur les jeux d’argent (LJar) aura été le théâtre d’une nouvelle bataille des générations : « les digital natives qui connaissent Internet parce qu’ils sont nés avec et vivent avec » vs. « les vieux ringards techno-analphabètes qui en sont encore au télétexte et qui, quand on leur parle de bit, pensent à autre chose ». Cette votation a aussi été le champ de la bataille entre les « experts-qui-savent » et « ces gros nuls de parlementaires qui ne pigent rien au numérique ». C’est en tout cas ce que certains ont voulu mettre en scène. Et les médias n’ont pas été en reste, eux qui, lors de la campagne sur « no billag », fantasmaient régulièrement sur les intentions de vote de la « génération Internet-Netflix qui n’a pas besoin d’un service public médiatique ». Mais ça, c’était avant que l’analyse post-votation ne démontre que les jeunes avaient encore plus voté contre « no billag » que les moins jeunes.

Revenons aux jeux d’argent. La mise en scène de la guerre des générations et des experts a été savamment orchestrée par le fait que toutes les jeunesses de partis (« les digital natives qui ont tout compris au numérique ») et que de nombreux « experts » en informatique (« les experts-qui-savent ») combattaient la loi. Pendant toute la campagne, on nous a ressassé que les partisans de la LJar « n’avaient rien compris au fonctionnement du net », que les mesures qu’ils préconisaient étaient à la fois « dangereuses pour les libertés » et « inopérantes car faciles à contourner ». On n’a eu de cesse de dire, « au nom des jeunes », la consternation de ces derniers, lesquels, quand on leur parle de blocage d’Internet « rigolent et demandent si c’est bien sérieux », parce que, tout le monde le sait, tous les « jeunes d’aujourd’hui » maîtrisent parfaitement tous les aspects techniques d’Internet. On nous a aussi répété inlassablement que, de toutes façons, le Parlement qui a élaboré la loi « n’avait pas tenu compte de l’avis des experts que, d’ailleurs, il n’avait même pas pris la peine d’en interroger ». Probablement parce que son absence de connaissance et d’intérêt pour les problèmes numériques est « notoire », Sans oublier le fait que ce même Parlement aurait dû « élaborer toutes sortes d’alternatives au blocage des sites », parce que, c’est bien connu, les solutions alternatives, « il en existe tout plein ».

Une fois la votation terminée, ça a repris de plus belle, malgré la nette victoire des partisans de la loi : « Quelle catastrophe pour le net ! » (sous-entendu : « quelle catastrophe que le peuple n’ait pas vu venir une pareille catastrophe »). « Manque d’intelligence ! » (dixit un expert-qui-sait). « Une claque pour la Suisse numérique ! » (dixit une association d’experts-qui-savent). « Les jeunes ne vont pas comprendre cette décision, quel dommage qu’il ne soient pas allés voter ! » (ce qui, soit dit en passant, apporte peut-être la preuve que « les jeunes » n’étaient pas si unanimement contre la LJar, puisqu’ils ne se sont semble-t-il pas déplacés pour la rejeter, malgré sa « dangerosité »…), etc. etc.

Cette posture « techno-jeuniste » est insupportable pour deux raisons :

D’abords, parce que le Parlement a travaillé sérieusement, en connaissance de cause. Et je sais de quoi je parle, puisque que j’ai présidé la commission des affaires juridiques du National (CAJ-N), qui était chargée de préaviser sur le projet. La CAJ-N a travaillé longtemps, et sérieusement. Elle a auditionné une multitude d’experts, pendant plusieurs heures (la commission-sœur aussi, d’ailleurs…). Elle a demandé un nombre important de précisions à l’administration, notamment pour élaborer des alternatives au blocage des sites ou un modèle de concessions libéralisées. Sur la base de ces analyses précises et poussées, elle a rejeté les alternatives au blocage. Ces alternatives étaient d’ailleurs si peu crédibles qu’aucun, je dis bien : aucun des adversaires de la LJar n’a jugé bon de les soumettre au plénum du Conseil national. Ce qui ne les a pas empêché, pendant la campagne référendaire, de prétendre que le Parlement n’avait pas planché sérieusement sur la question. Et, avant et pendant des débats en plénum, les groupes politiques se sont attentivement penchés sur la loi et n’ont pas, comme c’est pourtant l’habitude à Berne, aveuglément suivi la commission. Au contraire, tous les groupes étaient divisés sur plusieurs aspects de la loi, car leurs membres s’étaient fait leur propre avis et étaient parvenu à des conclusions différentes de celles de leurs camarades de parti membres de la commission. Et tout cela n’est pas le résultat d’un « lobbyisme aussi intensif que malsain des méchants casinos suisses », car… tous les milieux intéressés ont mené un tel lobbyisme. Tous les acteurs ont été insupportables. Tous ont promis monts et merveilles aux parlementaires qui voteraient selon leurs désidératas. Or, une fois n’est pas coutume, ce sont bien des considérations d’intérêt public qui ont permis de recueillir des majorités : les parlementaires qui ont soutenu la loi ne l’ont pas fait parce qu’ils n’avaient « rien compris », « ne se sont pas intéressé au sujet » ou « étaient à la botte des casinos », mais parce qu’ils étaient convaincus qu’en matière de jeu d’argent, le libre marché et la concurrence sauvage sont une mauvaise chose et que, tant qu’à avoir des jeux d’argent en ligne, autant qu’ils soient proposé par des acteurs suisses, qui paient leurs impôts et emploient du personnel en Suisse… et surtout y financent l’utilité publique.

La deuxième raison qui rend la position « techno-jeuniste » insupportable est, j’en ai peur, parce qu’elle annonce d’autres débats, où l’avis des « experts », qu’ils soient digital native ou plus âgés, sera présenté comme incontestable et irréfutable, avec recommandation appuyée (pour ne pas dire : ordre) à la population et à ses élus de s’y fier les yeux fermés, parce que « vous n’avez rien compris, mais eux, ils savent ». On retrouve notamment cette ligne d’argumentation en matière de vote par Internet (« ne vous inquiétez pas, nos experts sont formels, le e-voting marche super bien ! ») ou de prévoyance-vieillesse (« il ne faut pas que le peuple se prononce sur le taux de conversion du 2ème pilier, c’est bien trop compliqué ; confions cette décision à des experts ! »)… Et probablement que l’on ne tardera pas à confier des décisions importantes à des algorithmes, censé être beaucoup plus objectifs, rationnels et infaillibles que les simples êtres humains que sont les élus et les électeurs (ce qui est évidemment faux, mais c’est une autre histoire).

Je suis donc très satisfait que, lors de cette votation, le techno-jeunisme ne l’ait largement pas emporté et que le peuple se soit prononcé sur les vrais enjeux de la loi et non sur les fantasmes de quelques experts autoproclamés. Cela augure d’un débat démocratique sain. Et tant pis si cela me fait définitivement passer du côté des digital naïfs. Ou, plus prosaïquement, des vieux ringards.

*  *  *

AJOUTE LE 12 JUIN: Le sondage post-votation de Tamedia (qui doit être considéré comme ce qu’il est, à savoir un sondage mal fichu, mais qui donne tout de même des indications intéressantes…) me donne raison sur toute la ligne: les 18-34 ans ont aussi massivement approuvé la nouvelle loi sur les jeux d’argent que leurs aînés. Ils ont même dit plus massivement oui que les 35-50 ans. La mise en scène de la « guerre des générations » était donc totalement à côté de la plaque!