06/11/2018

Le « dilemme du véhicule autonome », ou comment les techs enfument le débat de la responsabilité des IA et des robots

Récemment, la revue scientifique « Nature » a publié les résultats d’une étude du MIT (l’étude en Anglais) sur le « dilemme du véhicule autonome » (version actualisée du « dilemme du tramway »). C’est-à-dire comment devrait réagir l’intelligence artificielle (IA) aux commandes d’un tel véhicule face à un accident imminent qu’on ne peut éviter qu’en causant d’autres dommages (y compris aux occupants du véhicule). 

capture-decran-2018-11-06-a-11-03-24

 

 

 

 

 

 

Par exemple, écraser une grabataire pour éviter de renverser un jeune papa et son bébé dans une poussette. Ou alors une jeune cadre dynamique à la place d’une grand-mère poussant la poussette précédemment citée. Ou alors un trentenaire à la mine patibulaire portant son joli petit chaton au lieu d’un garçonnet à l’air espiègle dont le lance-pierre dépasse du pantalon. Ou encore un mignon petit caneton tout doux à la place d’un gros pitbull baveux dont on sait qu’il procure compagnie et joie à une charmante vieille dame. Voire le plus beau massif de fleur de la ville au lieu de la devanture d’une chaîne de restauration rapide appartenant à une caisse-maladie. Etc. etc.

Cette étude devait d’une part montrer les « différences de sensibilité » entre les genres, les classes sociales les peuples et les cultures. Dans quelle région commanderait-t-on à l’IA, par exemple, de ne surtout pas écraser la jeune maman et son bébé (« pensez donc, il a toute la vie devant lui ! ») ou alors de sauver impérativement la personne âgée (« il faut respecter les anciens, leur savoir et leur expérience ») ? Et quand on a le choix entre un groupe de 60 retraités et une seule jeune mère et son seul bébé, faut-il faire le choix du nombre ou de l’âge ? Comment un jeune informaticien programmerait-il l’IA et en quoi cette base d’apprentissage serait-elle différente si elle venait d’une retraitée ? Les résultats sont présentés comme rassurants : plus il y de (jeunes) vies humaines en jeu, plus les gens interrogés ont tendance à les épargner, quitte à pour cela écraser vieux schnoques, bébés phoques et mobilier urbain. De telles études sur les dilemmes moraux sont d’ailleurs légion (cf. ce florilège en Allemand).

Mais cette étude devait surtout montrer que les concepteurs de véhicules autonomes les concevaient de telle manière que, en cas de drame inévitable, l’IA ferait tout pour limiter les dégâts, tant au niveau physique (« surtout, limitons le nombre de blessés ! ») qu’éthique (« quitte à écraser quelqu’un, autant épargner le bon ! »). Le grand public n’aurait donc rien à craindre des véhicules autonomes, et par extension des IA en général, car leurs concepteurs aussi géniaux que visionnaires leur ont donné les moyens de penser à tout, y compris aux problèmes éthiques les plus trapus, même s’ils sont hautement improbables.

Disons-le tout net : C’est de l’enfumage. D’une part, parce que ce sont des questions certes intéressantes pour un débat éthique, mais qui restent purement théoriques. Certes, en théorie, la probabilité existe qu’un accident ne puisse être évité qu’au prix d’un autre dégât (y compris qu’une vie ne puisse être sauvée qu’au prix d’une autre), mais aucune des situations décrites dans le « dilemme » n’est amenée à se reproduire en vrai dans la vraie vie. Lorsque vous êtes au volant, avez-vous déjà été confronté au choix de devoir écraser un bébé et un chaton pour épargner l’autostoppeur désagréable du siège passager ? Moi, jamais.

Par ailleurs, si les IA des véhicules autonomes sont bien conçues, elles ne doivent pas se mettre dans une situation où un danger imminent ne peut être écarté qu’au prix d’un autre danger. Par exemple, au moment d’arriver dans une rue où gambadent des enfants, traversent des piétons, roulent des poussettes, trottinent des personnes âgées et ronronnent des chatons, un véhicule autonome bien conçu devra ra-len-tir. Et non pas maintenir une vitesse qui lui ferait risquer d’avoir comme unique choix d’écraser les enfants pour épargner le chaton (ou l’inverse).

Mais c’est surtout de l’enfumage parce que ce genre d’études a pour unique effet que de détourner le débat public des vraies questions. La vraie question en matière d’accidents causés par des véhicules autonomes pilotés par des IA apprenantes est : qui est responsable ? Peu importe de savoir si l’IA en question, si ce cas s’était présenté, aurait choisi, pour des raisons éthiques ou que sais-je, d’écraser un pépé en fin de cycle pour épargner une fillette qui respire la joie de vivre. Ce qui compte, c’est que, s’il y a de vrais dégâts, quelqu’un paie. Le tout est de déterminer qui : le constructeur du véhicule ? son propriétaire ? le programmeur de l’IA ? le passager du véhicule qui se trouvait le plus près du bouton « stop » (s’il existe) ? le piéton écrasé parce qu’il n’aurait pas respecté les règles de sécurité ? le propriétaire du chaton ? le constructeur de la route ou la commune où elle se trouve, parce qu’ils n’auraient pas veillé à ce que la signalisation soit compréhensible par l’IA ? L’entreprise qui a construit la route et ne l’a pas fait assez plate ? Celle qui a installé la signalisation ? Celle qui fournit les données GPS ? Le bébé qui a hurlé, perturbant ainsi les capteurs sonores de l’IA qui n’aurait pas entendu les pas feutrés du chaton ? Et, une fois que le ou les responsables sont établis, quelle règle de responsabilité va-t-on appliquer ? Une responsabilité causale comme celle du propriétaire d’un immeuble ? Une responsabilité partagée en fonction du niveau de risque ou de la possibilité d’influencer et/ou de contrôler l‘IA et son apprentissage ? Une responsabilité analogue à celle de celui qui met sur le marché des produits dangereux ?

Toutes ces questions se posent en cas de dommage causé par des robots ou par des objets pilotés par des IA. Et ce qu’il faut éviter, c’est que cela aboutisse à une situation où personne n’est responsable, par exemple parce que le concepteur prétend que l’IA, en apprenant, a évolué d’une manière qu’il ne pouvait prévoir et que le propriétaire avance que l’IA a agi d’une façon qu’il ne pouvait prévoir au moment d’acheter l’objet.

Un autre problème avec cette étude, c’est qu’elle sous-entend que l’on pourrait laisser les algorithmes décider tout seul, y compris pour des questions de vie ou de mort. Et ça, c’est la fin de la responsabilité individuelle. Car une personne qui doit prendre une décision et qui suit aveuglément un algorithme ne décide plus rien ; elle obéit.

Le législateur doit donc fixer des règles. Mais il ne doit pas se laisser détourner du sujet par des questions du type « la responsabilité du concepteur de l’IA est-elle réduite parce qu’il l’a programmé pour écraser les mémés avant les enfants ? ». Or, en imposant un débat public sur ces questions qui n’ont qu’un intérêt théorique, les « techs » nous font croire que c’est aux scientifiques qu’il revient de déterminer ce qui est bien ou mal et nous détournent des vraies questions sur la responsabilité des IA et des robots. Si elles font cela, c’est dans le but de réduire leur propre responsabilité. Parce qu’une personne qui fait tout pour éviter qu’un mignon chaton ne se fasse brutalement écraser ne saurait être fondamentalement mauvaise, n’est-ce pas ?

19/09/2018

La réponse de la droite à la précarité ? Encore plus de précarité !

La majorité de droite du Conseil national vient d’accepter un postulat PLR qui veut répondre à l’« ubérisation » des rapports de travail. Ce phénomène est généré par des plates-formes comme Uber, Batmaid ou Upwork qui prétendent uniquement « mettre en relation clients et prestataires de services ». Elles refusent donc d’être les employeurs de ces prestataires (quoi qu’en dise le droit en vigueur dans les pays où elles déploient leurs activités). Cette méthode vise surtout à exonérer les plates-formes de toutes les règles de protection des travailleurs, notamment leur assujettissement aux assurances sociales. Ce n’est rien d’autre que de la sous-enchère et de la concurrence déloyale, car ces travailleurs précaires ont souvent des revenus très très bas (16.- bruts/h pour les chauffeurs Uber !), ne serait-ce qu’à cause des marges exorbitantes prélevées par la plateforme qui les emploie et, parce que cette dernière refuse de payer les charges sociales, ils ont souvent d’importantes lacunes d’assurances sociales. En cas d’accident, de chômage, de maladie, d’invalidité… ou d’atteinte de l’âge de la retraite, ils seront donc mal couverts. Au final, c’est la collectivité qui paiera la note en leur versant aide sociale et prestations complémentaires, pendant que les plates-formes encaissent les bénéfices. Tout le monde est perdant : les travailleurs concernés, qui vivent dans la misère ; les concurrents de ces plates-formes, qui, parce qu’ils paient leur dû, sont moins concurrentiels ; leurs travailleurs, dont l’emploi est menacé ; et les contribuables, qui ramassent les pots cassés.

La solution ? Appliquer le droit en vigueur !

Cette situation est inadmissible. La solution est pourtant simple : il suffit d’appliquer le droit du travail et des assurances sociales en vigueur. C’est d’ailleurs ce que fait la SUVA, qui considère à juste titre les employés d’Uber comme des travailleurs et exige que la plateforme verse les cotisations sociales en retard, ce qu’Uber conteste devant les tribunaux, par peur de voir tout un modèle d’affaire basé sur le non-respect des règles s’effondrer. En la matière, le droit suisse du travail et des assurances sociales est plutôt bien fait (c’est assez rare pour le relever !) : les règles pour définir qui est salarié et qui est indépendant sont claires et peuvent s’appliquer sans problèmes aux travailleurs des plateformes. Mais encore faut-il le vouloir.

La « solution » du PLR ? Encore plus d’ubérisation !

Malgré cette solution évidente, le PLR en propose une autre, qui ne manquera pas d’encourager l’ubérisation et d’aggraver la précarité : créer une nouvelle catégorie de travailleurs, les « travailleurs de plateforme », qui « offrira une certaine couverture sociale, mais (…) sera moins favorable que celle d'un salarié. » Le PLR, qui fait décidément preuve d’un libéralisme de plus en plus radical, propose donc de répondre aux tentatives des plateformes d’affaiblir la protection des travailleurs… par un affaiblissement de cette protection. D’ailleurs, dans cette histoire, c’est certainement son objectif ultime.

 

17/08/2018

Série d’été sur le vote électronique (7ème et dernier épisode)

Tout au long de l’été, je décortique les mythes qui circulent à propos du vote par Internet. Aujourd’hui, le dernier épisode :

7. L’introduction généralisée du vote électronique est inéluctable (et ceux qui s’y opposent sont des dinosaures…)

Les opposants au e-voting sont régulièrement traités de dinosaures, de vieux schnoques, de résident d’EMS et j’en passe. On les accuse d’être rétifs à toute modernité et hostiles à l’innovation. De passer à côté des besoins de la population, en particulier de ceux des jeunes générations prétendument aussi expertes qu’avides des nouvelles technologies (c’est faux, mais ça sonne bien) ou de ceux des Suisses de l’étranger, dont on dit qu’ils veulent pouvoir voter coûte que coûte et quels que soient les dangers pour la fiabilité des scrutins. Et, de toute façon, les opposants au e-voting sont volontiers comparés à Don Quichotte se battant contre d’inarrêtables moulins à vent. Car, pour bon nombre de promoteurs du vote électronique, son avènement est inéluctable. Parce que, c’est bien connu, personne ne peut freiner l’essor des nouvelles technologies. Pas même les principes essentiels au bon fonctionnement de la démocratie.

Mais il ne faut pas tout confondre. S’il n’est guère possible, ni d’ailleurs souhaitable, d’entraver le développement des nouvelles technologies, cela ne veut pas dire qu’il faut jeter par dessus-bord toutes les règles qui ont fait leurs preuves, à plus forte raison si ces règles servent à préserver la démocratie. Ce n’est pas parce que le vote électronique est « moderne » qu’il justifie que l’on abandonne des principes aussi essentiels que le secret du vote, la fiabilité des résultats électoraux ou la possibilité pour tout citoyen de participer au dépouillement ou d’en surveiller le bon déroulement. A moins bien sûr de considérer que ces principes seraient obsolètes. Ce qui reviendrait à considérer comme telle la démocratie elle-même.

Quoi qu’il en soit, l’introduction généralisée du vote par Internet, n’est pas inéluctable. D’abord parce que de nombreux pays y ont renoncé à des stades plus ou moins avancés, vus les risques encourus. Les Pays-Bas, pays pionnier du vote électronique dès 1996, ont, en 2006, stoppé ce canal de vote (pourtant accessible à 99% du corps électoral) pour des raisons de sécurité. La Cour constitutionnelle allemande a jugé le vote par Internet incompatible avec les principes démocratiques en 2009. Et, en 2017, la France a supprimé la possibilité d’élire les députés des Français de l’étranger par Internet, au nom de la sécurité informatique. Certes, il y a quelques pays qui persévèrent malgré les erreurs et autres fraudes, notamment les USA, où même l’élection présidentielle de 2000 a été entachée d’irrégularité en raison de machines à voter. Pourtant, récemment, un enfant de 11 ans a pu falsifier un résultat électoral en Floride, heureusement dans le cadre d’un concours de hackers... et sur une réplique du vrai site !

En Suisse aussi, il serait tout à fait possible de renoncer définitivement au vote par Internet. D’une part, grâce à une initiative populaire en préparation qui souhaite l’interdire complètement, en tout cas tant que la technologie ne permet pas une vérifiabilité par n’importe quel citoyen sans connaissances particulières en informatique. En outre, si le Parlement fédéral décidait de pérenniser les actuels « essais » de vote électronique (qui concernent d’ailleurs beaucoup trop d’électeurs pour être vraiment traités d’essais, mais c’est une autre histoire) et donc d’introduire ce canal de vote à large échelle, il serait possible de lancer le référendum. Donc, si les citoyens refusent que l’on sacrifie la démocratie sur l’autel de la technique (et des intérêts financiers de ceux qui font vendent les systèmes de vote électronique…), ils pourront s’y opposer. Et ce seront eux qui auront le dernier mot.

...

Ainsi se termine ma série d’été sur le vote électronique. Pour lire les autres billets sur le sujet, c’est par ici…