droit des robots - Le blog de Thierry Vallat, avocat au Barreau de Paris (et sur Twitter: @MeThierryVallat)

12 novembre 2017 7 12 /11 /novembre /2017 06:36

Conférence ONU du désarmement pour arrêter les robots tueurs: et si on commençait par définir les SALA ?

"Arrêtons les robots tueurs", tel est l'ambitieux programme des membres de la campagne "Stop killer robots" qui estiment que l'humain doit en dernier ressort rester maître de la décision de tuer.

Depuis plusieurs années, l’intelligence artificielle se développe et trouve des applications dans divers domaines.

Cependant, la question des robots tueurs intéressant potentiellement les armées inquiètent grandement et beaucoup estiment qu’il devient urgent de légiférer tant qu’il est encore temps.

L'ONU s'apprête ainsi à ouvrir lundi 13 novembre 2017 ses premières discussions officielles sur les SALA, ces Systèmes d'Armes Létales Automatisées, également appelés "robots tueurs" ou en anglais LAWS (Lethal Autonomous Weapons Systems) https://www.unog.ch/80256EE600585943/(httpPages)/F027DAA4966EB9C7C12580CD0039D7B5?OpenDocument

Ces armes autonomes capables de choisir leurs cible et de tuer pourraient rapidement remplacer les soldats sur les champs de bataille ou , en matière de sécurité intérieure, dans des opérations de maintien de l'ordre. Cette perspective de "robots tueurs" peut donc légitimement inquiéter.

En effet, les armes entièrement autonomes seraient encore plus dangereuses que les drones télécommandés qui sont déjà utilisés sur certains conflits, car elles seraient capables de sélectionner et d’attaquer des cibles sans intervention d’un être humain.

Se pose donc la question de la définition même de ces SALA, les américains n'ayant par exemple pas la même compréhension de ces systèmes que la France, comme développé dans la directive américaine du 21 novembre 2012 3000.09: http://www.dtic.mil/whs/directives/corres/pdf/300009p.pdf relative à l'autonomie des systèmes d'armes ou les russes qui ont développé par exemple le robot FEDOR

Celle de l'implication humaine dans la prise de décision finale reste également primordiale avec la notion d'"Human in the loop", ainsi que le degré d'autonomie allant de seulement fonctionnelle (déplacement), à opérationelle (surveillance) voire même décisionnelle.

Mais d'ores et déjà Amandeep Gill, le représentant permanent de l'Inde auprès de l'ONU à Genève, désigné pour conduire ces discussions, n'affiche pas un franc optimisme

"Ce serait très facile de légiférer sur une interdiction mais je pense que se précipiter sur un sujet aussi complexe ne serait pas judicieux", a-t-il expliqué vendredi à des journalistes. "Nous en sommes au point de départ", a-t-il ajouté ( robots: UN to host first talks on use of 'killer robots' )

Selon M. Gill, il y a un accord entre les nations sur le fait que "les humains doivent rester responsables des décisions de vie ou de mort". Cependant, dit-il, il y a des opinions différentes quant aux mécanismes par lesquels le "contrôle humain" doit s'exercer sur ces armes.

Le Comité international de la Croix rouge (CICR), mandaté pour faire respecter les lois de la guerre, n'appelle pas non plus de son côté à une interdiction mais a souligné la nécessité de limiter l'usage des armes autonomes.

Un encadrement juridique rationnel des SALA s'impose donc, notamment pour définir leur utilisation, mais aussi, question essentielle, les responsabilités, car on ne peut pas transférer à des machines la responsabilité de prendre des décisions ayant des conséquences légales.

Qui sera alors le responsable des actions du robot-tueur: le programmateur de l'intelligence artificielle, le constructeur, son financier ou le commandant de l'opération ?

Lire également notre article Les SALA ou Robots-tueurs: vers une nécessaire reglementation des systèmes d'armes léthaux autonomes

(crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

6 novembre 2017 1 06 /11 /novembre /2017 06:44

Un Chatbot recruteur: le recrutement par robot est-il une méthode plus humaine de sélection de candidats au travail ?

Après avoir eu leur propre syndicat (lire Comme Benji 3.0 le chatbot, les robots ont désormais leur syndicat) , voilà que les chatbots, ces robots conversationnels recrutent !

Ou plus exactement, ils sont utilisés par le tour-opérateur Marco Vasco pour effectuer la pré-selection des futurs collaborateurs du groupe.

Le chatbot, prénommé...Marco, interroge par exemple les candidats connectés sur Messenger la messagerie de Facebook, pour lui décrire des souvenirs de voyage, en leur montrant des photos de capitales européennes ou d'îles de rêve.

Et à l'issue de mini-épreuves testant créativité et qualité d'élocution, le robot sélectionnera les heureux préselectionnés.

Cette méthode de recrutement se veut paradoxalement "plus humaine" que l'envoi traditionnel de CV et est déjà utilisée par le groupe Adecco avec Aloha ou le Cabinet Mazars avec Sam.

L'algorithme Marco sera-t-il plus objectif qu'un CV ? Cela dépendra bien sur de sa programmation.

Qui a dit que les robots allaient piquer tout le boulot des humains ?

Je défendrai sur ce thème l'intelligence artificielle et les robots au procès organisé le 15 novembre 2017 http://dpmassocies.over-blog.com/2017/10/tribunal-des-flagrants-delires-rh-saison-3.html

Pour plus de détails : Retrouvez l'article source sur leparisien.fr

(crédit dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique Droit du travail et de la sécurité sociale droit des Robots
commenter cet article …

28 octobre 2017 6 28 /10 /octobre /2017 09:47

Un robot se voit accorder la citoyenneté saoudienne: Sophia devient la première IA à obtenir une nationalité officielle

C'est une première mondiale: un robot se voit doté de la citoyenneté !

En effet, aux termes d'un communiqué officiel garant du sérieux de cette annonce, l'Arabie Saoudite a octroyé à l'androïde Sophia, une intelligence artificielle développée par Hanson Robotics, une société de Hong King, qui a pu elle-même commenter la nouvelle lors d'une conférence Future Investment Ininiative organisée le 26 octobre 2017 à Riyadh Saudi Arabia Gives Citizenship to a Robot

Autant dire que cette annonce n'a pas fait sourire tout le monde, puisque certains pointaient déjà l'étrange distorsion de droits entre la nouvelle citoyenne Sophia et les femmes saoudiennes, ces dernières étant obligées de porter une abaya et d'avoir un gardien lorsqu'elles sortent de leur domicile, alors que le robot est apparu sans voile à la tribune.

Sophia une femme robot saoudienne...vraiment ?

Mais peut-on affirmer qu'un robot, quand bien même porterait-il un prénom objectivement féminin et une apparence idoine à force d'anthropomorphisme, serait genré ?

Faudrait-il d'ailleurs que les robots aient un "sexe" et que vous puissiez choisir, en Arabie Saoudite ou ailleurs, et en fonction de vos besoins, un robot domestique féminin pour "forcément" vous aider à tenir votre maison et un robot chauffeur sous l'apparence d'un homme. Inquiétante étrangeté de l'humanoïde, mais jusqu'où va nous mener cette "vallée dérangeante" , sans parler des développements plus sexuels que nous aborderons prochainement ?

En tous cas, quelque soit son sexe éventuel, on s'étonne que ce robot puisse d'emblée bénéficier de plus de droits que les travailleurs étrangers qui ont vécu toutes leur vie en Arabie Saoudite sous le régime de la Kafala.

Est-ce à dire que nous serions déjà entré dans un monde où les robots ont plus de droits que certains humains ?

Cette décision saoudienne constitue incontestablement un excellent coup marketing pour le Royaume wahhabite, mais aussi pour les tenants de la "personnalité robot" allant dans le sens du rapport Delvaux de la Commission européenne, tel qu'adopté par le Parlement en février 2017, et selon lequel la création d'une personnalité juridique spécifique aux robots, pour qu'au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers. Serait ainsi considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers.

Nous aurons l'occasion d'y revenir très prochainement, puisque Me Thierry Vallat aura la charge d'assurer la défense de l'Intelligence Artificielle dans un procès organisé le 15 novembre 2017.

Lire sur ce sujet nos articles sur le droit des robots comme Vers la création d'une personnalité juridique électronique , L'Estonie rêve d'une Kratt Law, ou La punition appliquée à l'intelligence artificielle

Robot Sophia gets Saudi citizenship

Robot Sophia is the first robot in the world to be recognized with a citizenship

https://www.youtube.com/watch?v=sKrV2CVDXjo&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

27 septembre 2017 3 27 /09 /septembre /2017 08:02

L'Estonie rêve d'une Kratt Law, première loi au monde codifiant les intelligences artificielles

L'Estonie deviendra-t-elle la première nation à codifier l'intelligence artificielle ?

C'est en tous cas le but assigné en novembre 2016 par le gouvernement estonien à un groupe d'experts et au cabinet d'avocats pan-baltiqueTriniti et qui a abouti à des recommandations de cette task force, comme la création d'une loi spécifique concernant les robots et des changements drastiques dans le code civil.

C'est le magazine économique Ärileht qui dévoile une interview avec Marten Kaevats, conseiller à l'innovation numérique auprès du gouvernement estonien dans laquelle il apparait que l'intervention de la robotique dans la vie quotidienne implique des changements règlementaires, pas seulement dans la loi sur les transports liée aux véhicules autonomes en circulation à Tallinn (lire notre article Des véhicules autonomes dans la capitale de l'Estonie), mais aussi plus généralement sur tous les pans du droit impactés par la responsabilité d'une intelligence artificielle qui constitue la question essentielle:

"Qui va être responsable en cas de défaillance de l'IA ? "

C'est donc un changement de paradigme auquel pense l'Estonie qui rêve également de devenir le 1er pays au monde à légiférer sur l'Intelligence artificielle, déjà surnommée la loi Kratt (du nom de cette mythique créature des forêts estoniennes, un génie domestique plutôt retors qu'on pourrait traduire par "Gobelin" et au service forcé de son maître, une version estonienne du golem ou du "robota" tchèque de Karel Çapek )

Quatre scenarii sont ainsi envisagés:

- le moins radical serait de se concentrer sur la règlementation des transports et les véhicules autonomes, déjà en développement en Estonie.

- un deuxième scénario y ajouterait une loi spéciale pour réguler la robotique (robots, algorithmes, capteurs etc.)

- une 3ème orientation conduirait à modifier le Code civil pour y inclure des articles régulant les intentions et autorisations réciproques. Par exemple, si votre frigo "intelligent" considère que vous n'avez plus assez de bières, il vous en commandera automatiquement, mais seulement avec votre autorisation préalable.

- enfin un 4ème scénario aboutirait à la création d'une personnalité robot à part entière, inspirée de celle figurant dans le rapport de la Commission européenne adopté par le Parlement en février 2017 et qui va encore être évalué ces prochains mois avant de revenir devant le Parlement. European parliament calls for robot law, (lire notre article Vers la création d'une personnalité juridique électronique)

Une telle "loi des Robots" ne devrait cependant pas être d'actualité avant plusieurs années encore (5 à 8 ans selon les experts juridiques dont Karmen Turk and Maarja Pild ) et la Kratt Law rester dans les tiroirs estoniens en attendant que les algorithmes continuent de se développer avec le deep learning et l'avènement de la future IA conceptuelle transversale.

(Crédit photo: film November)

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique droit des Robots droit et Estonie
commenter cet article …

26 août 2017 6 26 /08 /août /2017 07:00

Les défis éthiques de la voiture autonome face au dilemme du tramway

Le développement des véhicules autonomes ne se ralentit pas et ces engins commencent à circuler sur les routes et dans les villes européennes, comme désormais à Tallinn Des véhicules autonomes dans la capitale de l'Estonie)

Et c'est l'Allemagne qui devient le premier pays à présenter des règles éthiques pour les voitures sans chauffeurs.

En effet, si les véhicules autonomes devraient singulièrement réduire les accidents, ils devront effectuer des choix cornéliens permanents entre deux options, comme celle de choisir d'écraser des piétons plutôt que de se sacrifier avec ses passagers pour sauver lesdits piétons.

Il existe deux types de programmation possibles pour l'intelligence artificielle de ces robots roulants.

Une voie dite " utilitariste" qui correspond à un véhicule privilégiant la sécurité du plus grand nombre. L’autre, dite "égoïste", privilégie pour sa part la sécurité individuelle du passager.

Il ne s'agit, ni plus ni moins que la transposition du célèbre paradoxe du tramway (Trolley problem) décrit pour la première fois par Philippa Foot en 1967: est-il moral pour une personne d'effectuer un geste qui bénéficiera à un groupe de personnes A, mais, qui pourrait, ce faisant dans ces circonstances, nuire à une personne B ?

Une récente étude a démontré que les participants de six études expérimentales de Amazon Mechanical Turk ont avoué préférer le véhicule utilitariste lorsqu’il s’agit des autres; mais à l’inverse, quand il s’agit de leur propre véhicule, ils ont majoritairement opté pour l’option égoïste et préféreraient être à bord d'une voiture qui protégerait ses passagers à n'importe quel prix.

Un choix donc cornélien !

Les allemands ont donc présenté le 23 août 2017 un guide éthique des règles qui devraient s'appliquer aux véhicules autonomes, avec pour priorité la sécurité sans discrimination des humains sur les dommages aux biens ou sur des animaux.

Ces règles établies par un comité éthique prévoient notamment qu'en cas de collision inévitable, il ne saurait y avoir de discrimination entre le genre, la race, l'age, la mobilité ou d'autres facteurs visibles: en d'autres termes, les voitures autonomes devront être programmées pour comprendre que toute vie humaine se vaut.

Le Parlement allemand a adopté le 12 mai 2017, une loi autorisant les constructeurs automobiles qui les autorise à tester leurs voitures autonomes sur les routes du pays, sous certaines conditions, ce qui devrait faciliter l'essor de cette technologie dont la première commercialisation pourrait avoir lieu en 2020.

Élaboré dès 2016, ce texte définit leurs conditions de circulation : dans l’immédiat, elles nécessitent donc une présence humaine au volant, pour s’assurer qu’un chauffeur puisse reprendre le contrôle en cas d’urgence

Le Congres américain réfléchit également de son côté à la fixation de telles règles étiques, tandis qu'au niveau fédéral certains états comme la Californie ou le Nevada ont déjà commencé à élaborer des réglementations.

Reste la lancinante question: qui est responsable quand une voiture conduite par une intelligence artificielle, et donc un algorithme, provoque l'accident ?

Aujourd'hui, selon la Convention de Vienne applicable, c'est le conducteur qui est supposé responsable.

Tel est d'ailleurs le résultat d'un petit sondage personnel effectué récemment sur Twitter dans lequel les personnes interrogées incriminent plutôt le conducteur à 41 % (mais Obi Wan Kanobi n'est pas loin il est vrai) et le concepteur de l'algorithme à seulement 14 %.

Mais demain, l'intelligence artificielle pourrait être par défaut la responsable sans faute dans l'hypothèse de tels accidents causés par des robots roulants autonomes.

Lire également sur le sujet nos articles La première police d'assurance pour voiture autonome et Concilier valeurs morales et intérêts personnels le futur choix cornélien de la voiture autonome

(Crédits dessin: Cabinet Thierry Vallat)

Les défis éthiques de la voiture autonome face au dilemme du tramway

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

17 août 2017 4 17 /08 /août /2017 09:38

Avec le robot Flippy qui cuit les steaks et prépare les burgers, le droit du travail sur le grill ?

L'intelligence artificielle s'invite désormais aussi dans la cuisine...et inquiète les travailleurs de la filière fast-food.

Après les robots-serveurs dans les restaurants ou le robot Chef Cui capable de préparer un bol de nouilles en 90 secondes dans un restaurant de ramens à Shanghaï, voici Flippy le robot conçu par Miso Robotics qui cuit les steaks hachés ''à la perfection''.

La chaîne de restaurants américains Caliburger annonce son intention de l'utiliser pour la préparation de ses burgers dans 50 de ses établissements d'ici 2018

La start-up de Pasadena (Californie) a construit cet assistant culinaire robotisé pour faire le pénible travail de cuisson des steaks avec son lot de graisse, de chaleur et de travail répétitif.

Armé de bras robotisés, de capteurs sensoriels et de caméras, Flippy reconnait la viande, son temps idéal de cuisson et apprend de ses propres erreurs en se perfectionnant sans cesse.

Il peut donc cuire la viande, la retourner et s'en saisir pour la placer sur le petit pain, laissant le reste de travail (pour l'instant) à un vrai cuistot qui placera les autres ingrédients nécessaires à la finition du sandwich.

Dans une récente interview, Greg Creed le PDG de Yum Brands prédit que les robots remplaceront aux USA les travailleurs des fast foods à l'horizon 2010

Il faut savoir que le taux de turn-over dans cette branche a été de 73% en 2016 !

Et parmi ceux-ci, les ''Fry cooks'', ces cuisiniers qui tournent et grillent les steaks et les filets de poulet toute la journée, sont ceux qui quittent le plus rapidement ce travail fastidieux et pénible.

En tous cas, les financiers misent sur Miso Robotics qui vient de lever des fonds pour 3.1 millions de dollars grâce à une société de licences et brevets californienne Acacia Research,

Alors avancée technologique ou reculade sociale sur le front du droit du travail ?

Rappelons tout de même que la robotisation dans les restaurants ne constitue pas (encore) une panacée et que nombre d'entreprises ayant testé des robots comme serveurs ou à la prise de commande sont revenus à la dure réalité des affaires en devant ''congédier'' leurs travailleurs robotiques, faute de rendement ou de compétence Le site Shangaiist relève par exemple qu’au lieu de faire gagner du temps aux équipes, les robots se révèleraient assez maladroits. (lire notre article Un robot licencié pour incompétence rêve-t-il de prudhommes electriques ?

Le droit du travail appliqué aux robots n'est bien entendu pas encore mis en place, et on peine à imaginer une section spécifique dédiée aux intelligences artificielles dans le futur code du travail. Il faudrait déjà songer aux emplois, souvent précarisés, menacés par Flippy et ses amis robots qui vont envahir bientôt nos cuisines.

"FLIPPY" | Miso Robotics

https://www.youtube.com/watch?v=lMIkWyiJp0k&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots Droit du travail et de la sécurité sociale
commenter cet article …

9 août 2017 3 09 /08 /août /2017 05:28

Comment concilier Cybersécurité et voitures autonomes ? La réponse anglaise à ce nouveau défi contre les hackers

Vers des voitures connectées et autonomes mieux protégées contre les piratages informatiques.

Dans un communiqué du 6 août 2017 le site du ministère des transports britannique vient d'exposer les grandes mesures préconisées afin d'éviter autant que possible le piratage des voitures autonomes qui reste un sujet de préoccupation majeur.

Un guide officiel va donc désormais encourager les techniciens et ingénieurs travaillant sur les systèmes automatisés et les intelligences artificielles embarquées dans ces voitures sans chauffeurs à renforcer les cyber-protections.

Il s'agit en conséquence d'un vrai défi qui donne des sueurs froides aux assureurs.

Le gouvernement anglais développe un programme de travail plus vaste cette année alors que la prochaine loi "Autonomous and Electric Vehicles Bill" va tenter de créer de nouvelles bases de travail pour les assurances des véhicules sans conducteurs

Cette réglementation vise à mettre la Grande-Bretagne en pointe des développements de ce type de véhicules intelligents, alors que la sécurité et la protection des consommateurs est supposée rester au centre de cette industrie en devenir et prometteuse en termes de création d'emplois.

Les risques de piratage des données personnelles du véhicule et de ses passagers restent en effet très élevé et doivent être pris en considération par les constructeurs.

Les principes généraux publiés prévoient 8 axes principaux qui devront être au centre des préoccupations des développeurs:

La sécurité organisationelle devra être détenue et promue au niveau du conseil d'administration
les risques en matière de sécurité devront être gérés et évalués de manière appropriés et proportionnels, y compris ceux afférant à la logistique
Le service après vente devra être assuré, ainsi qu'une réponse aux incidents sur l'ensemble de la sécurité des systèmes au cours de leur exploitation
toute la chaîne de production (sous-traitants, revendeurs, tiers etc.) doit travailler conjointement pour assurer la sécurité du système
Une défense en profondeur doit être privilégiée
la sécurité de tous les logiciels doit être assurée en toute circonstance
le recueil et la transmission de données doivent être sécurisés et contrôlés
le système devra résister à toute attaque et apporter une réponse de sécurité appropriée en cas de défaillance des capteurs

On le voit de bien beaux principes théoriques et surtout du travail sur la planche des cyber-protecteurs de ces véhicules autonomes qui commencent déjà à circuler ici et là en Europe (Lire à ce sujet notre article Des véhicules autonomes dans la capitale de l'Estonie)

il sera ainsi indispensable que puissent être également bien balisées les responsabilités en cas d'accidents, établies en fonction des instructions des constructeurs automobiles sur ce que la voiture pourra ou non faire de manière autonome (lire La première police d'assurance pour voiture autonome )

Sans compter les défis éthiques que pose ce nouveau mode de transport Concilier valeurs morales et intérêts personnels le futur choix cornélien de la voiture autonome

(Crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

29 juillet 2017 6 29 /07 /juillet /2017 05:04

Drones de livraison: des boissons fraîches livrées en Estonie dans le temps record de 5 mn !

Le monde des drones de livraison est en pleine effervescence (lire notre article Les drones de livraison )

Et ce sont les estoniens de Cleveron qui viennent de se faire remarquer par une ingénieuse innovation: la livraison de boissons fraîches par les airs, directement sur votre lieu de villégiature.

C'est en effet à Viljandi, localité du centre de l'Estonie, célèbre pour son festival folk annuel et sa redoutable équipe de football du JK Tulevik, que les premiers essais ont eu lieu et que depuis deux semaines est désormais opérationnel un service de livraison par drone sur la plage du lac bordant la ville, comme nous apprend le journal local Postimees (article en estonien: Esimene lendav kuller toob järve tagant pudeli vett)

Vous commandez par Sms de votre téléphone ou votre tablette à la maison-mère située sur l'autre rive du lac et, cinq minutes après, un drone (on ne sait pas s'il est télépiloté ou autonome) largue d'une hauteur de deux mètres dans le réceptacle breveté CleverNest.

C'est ainsi que cette entreprise se proclame "plus rapide distributeur mondial par drone".

La règlementation estonienne est plutôt souple (aviation act https://www.riigiteataja.ee/en/eli/ee/Riigikogu/act/528032014001/consolide

Pour opérer avec un drone, vous ne devez en effet obtenir un permis spécial auprès de l'ECAA, équivalent de notre DGAC in Estonia et régler la somme de 32€ seulement si vous pilotez à une hauteur de plus de 150 m du sol ou dans une zone règlementée.

C'est ainsi que l'on voit régulièrement des drones voler sur la pittoresque et touristique colline de Toompea à Tallinn, juste devant les fenêtres du parlement estonien et de la résidence du Premier ministre, sans que grand'monde ne s'en émeuve !

En tous cas, un "coup marketing" savamment orchestré bien entendu, puisqu'il suffirait dans cette configuration d'un distributeur automatique de boissons pour obtenir une canette encore plus vite, et qui serait totalement irréalisable en France sauf à titre expérimental (lire notre interview pour Libération du 12 juillet 2017: Vos achats livrés par drone, ce n'est pas pour tout de suite )

On citera l'enseigne niçoise de Speedburger qui vient de tester en juin 2017 la livraison par drone, plutôt que par scooter, dans une zone industrielle éloignée du centre ville (Speed Burger teste la livraison de burger en drone)

Cleveron's drone delivery service at Viljandi beach, Estonia

Uploaded by Cleveron Ltd. on 2017-07-24.

https://www.youtube.com/watch?v=K8Gi6d_HcK8&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des drones droit des Robots droit et Estonie
commenter cet article …

16 juillet 2017 7 16 /07 /juillet /2017 07:51

Des véhicules autonomes dans la capitale de l'Estonie: Tallinn se dote de deux minibus sans conducteur

A l'occasion de la présidence estonienne de l'Union européenne depuis le 1er juillet 2017, la capitale de l'Estonie met en place un service de navettes autonomes et électriques EasyMile.

Deux mini-bus EZ10 de 8 personnes vont circuler dans les prochains jours sur un petit trajet au centre ville de Tallinn entre la place Viru et le Kultuurikatel, pôle creatif qui constitue une des attractions culturelles majeures de la présidence européenne du pays baltique.

Avant d'opérer comme transport public, en provenance de France ( EasyMile est une start-up toulousaine créée en 2014 par Robosoft et Ligier), grâce à la société logistique DSV, le véhicule autonome EZ10,a du passer avec succès les tests de l'administration estonienne des routes et c'est la société Milrem spécialisée en robotique militaire qui s'est chargée de la formation des accompagnateurs (''presenters'') qui seront dans chacun des minibus.

La loi estonienne autorise en effet les tests de véhicules autonomes de type SAE 2 ou SAE 3 sur ses routes depuis mars 2017, mais à la condition qu'une personne titulaire du permis de conduire soit obligatoirement à bord pour en reprendre le contrôle manuel si nécessaire, d'où la présence de ces animateurs.

Pour le moment, le court trajet se fera sur une voie sécurisée, isolée du trafic, le long de la ligne de tramway en rénovation jusqu'à la fin du mois d'août et sera gratuit pour tous les usagers.

La Convention de Vienne sur la circulation routière du 8 novembre 1968 avait été modifiée en mars 2016 et avait ouvert ainsi la voie à la conduite automatisée avec toutefois une restriction, à savoir que les systèmes de conduite automatisée doivent pouvoir "être contrôlés voire désactivés par le conducteur".

Rappelons qu'en France les expérimentations sur route des ''voitures à délégation de conduite'', sont autorisées par ordonnance du 3 août 2016 (lire mon article dans le Village de la justice La France autorise enfin par ordonnance du 3 août 2016)

La loi n°2015-992 du 17 aout 2015 relative à la transition énergétique pour la croissance verte avait en effet disposé dans son article 37 - IX que "le gouvernement est autorisé à prendre par ordonnance toute mesure relevant du domaine de la loi afin de permettre la circulation sur la voie publique de véhicules à délégation partielle ou totale de conduite (…) à des fins expérimentales…"

Mais le décret en Conseil d'Etat indispensable à la mise en oeuvre tarde à venir et il semblerait bien qu'en France les voitures autonomes aillent plus vite que la réglementation, alors que les constructeurs sont tous bien avancés dans le développement de ce type de véhicule.

(source: http://estonianworld.com/technology/tallinn-introduces-driverless-shuttle-buses/)

Lire également sur le sujet mon article Concilier valeurs morales et intérêts personnels: le futur choix cornélien des voitures autonomes

Des véhicules autonomes dans la capitale de l'Estonie: Tallinn se dote de deux minibus sans conducteur

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots droit des transports
commenter cet article …

13 juillet 2017 4 13 /07 /juillet /2017 09:20

DoNotPay le chatbot avocat qui résout vos problèmes juridiques gratuitement

On n'arrête pas le progrès en matière de robots avocats ?

Après Watson, le premier robot avocat, voici DoNotPay le premier chatbot juriste qui se vante de résoudre gratuitement, comme son nom l'indique, 1.000 problèmes juridiques du quotidien.

Lancé le 12 juillet 2017 par Joshua Browder son fondateur, DoNotPay étend en effet son activité puisque, cantonné dans un premier temps aux litiges de droit de l'automobile (contestation de contraventions) et de droit d'asile, de nouvelles fonctionnalités lui sont désormais dévolues lui permettant de répondre aux demandes liées au droit de la consommation et de droit du travail.

DoNotPay n'est pas opérationnel (pour le moment) en France, mais seulement en Grande Bretagne et dans 50 états américains.

Il est en principe destiné aux personnes à faible pouvoir d'achat et renvoie dans les cas les plus délicats à des avocats ou des associations opérant pro bono.

Son taux de succès annoncé serait de 55%

Alors ubérisation des avocats ou réel progrès en faveur des plus démunis sans accès au droit ? Le débat reste ouvert

(Source Mashable http://mashable.com/2017/07/12/donotpay-robot-lawyer-businesses/#NmlBVKJOusqJ)

(photo: Joshua Browder et dessin Cabinet Thierry Vallat)

Lire également notre article Les Robots-avocats trouvent du travail: Maître Ross Watson

The World's First Robot Lawyer - now in 1,000 legal areas.

Uploaded by Joshua Browder on 2017-07-10.

https://www.youtube.com/watch?v=-rabJDCBUbY&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

10 juillet 2017 1 10 /07 /juillet /2017 06:18

Les risques de l'intelligence artificielle: le rapport européen du CESE adopté le 31 mai 2017

Les technologies d'intelligence artificielle offrent un grand potentiel en matière de création de solutions nouvelles et innovantes pour améliorer la vie des peuples, assurer la croissance de l'économie et relever les défis en termes de santé et de bien-être, de changement climatique et de sécurité.

Cependant, comme toute technologie perturbatrice, l'intelligence artificielle comporte des risques et présente des défis sociétaux complexes dans plusieurs domaines tels que le travail, la sécurité, la vie privée, l'éthique, les compétences, etc.

Une approche globale de l'intelligence artificielle, qui couvre tous les effets bons ou mauvais de cette dernière, sur la société dans son ensemble, s'avère ainsi cruciale, surtout à une époque où les évolutions s'accélèrent.

Le Comité économique et social européen (CESE) vient donc de rendre un avis adopté en assemblée plénière le 31 mai 2017 intitulé Les retombées de l’intelligence artificielle pour le marché unique (numérique), la production, la consommation, l’emploi et la société.

L’intelligence artificielle (IA) connaît actuellement un certain nombre d’évolutions majeures et trouve à un rythme soutenu des applications dans la société. Le marché de l’IA s’élève à environ 664 millions de dollars américains (USD) et devrait, selon les estimations, atteindre 38,8 milliards d’USD en 2025. Étant donné que l’IA peut influencer la société de manière aussi bien positive que négative, le CESE a entrepris de suivre attentivement les évolutions dans ce domaine, non seulement d’un point de vue technique, mais aussi sur le plan éthique, sociétal et de la sécurité.

Il n’existe pas de définition précise unique de l’IA. Il s’agit d’un concept qui englobe un grand nombre de (sous-)domaines, tels que l’informatique cognitive (cognitive computing: algorithmes qui raisonnent et apprennent à un niveau supérieur, c’est-à-dire plus humain), l’apprentissage automatique (machine learning: algorithmes qui apprennent de manière autonome à réaliser des tâches), l’intelligence augmentée (augmented intelligence: coopération entre l’homme et la machine) et la robotique intelligente (IA intégrée dans des robots). L’objectif principal de la recherche et du développement en matière d’IA est toutefois d’automatiser les comportements intelligents, entre autres la capacité de raisonner, de collecter des informations, de planifier, d’apprendre, de communiquer, de manipuler, de signaler et même de créer, de rêver et de percevoir.

Le large impact de l’IA sur la société ne peut pas encore être pleinement évalué. Tout le monde s’accorde toutefois pour dire que cet impact sera majeur. Aujourd’hui, les avancées en matière d’IA se succèdent rapidement, ce qui rend un contrôle critique et global nécessaire pour pouvoir appréhender de manière adéquate et opportune les évolutions décisives et de rupture, de nature tant technique que sociale, susceptibles de changer la donne dans le développement de l’IA ou autour de celui-ci.

Ces évolutions décisives sur le plan technique peuvent être définies comme des avancées notables ou significatives dans le développement de compétences d’IA, qui pourraient constituer des éléments précurseurs d’une IA générale. Les évolutions décisives sur le plan social peuvent être associées à une perte massive d’emplois sans perspective d’emplois de substitution, à des situations précaires, des défaillances du système, une évolution inattendue sur le plan international, etc.

Le CESE a pointé actuellement onze domaines dans lesquels l’IA soulève des enjeux de société: l’éthique; la sécurité; la vie privée; la transparence et l’obligation de rendre des comptes; le travail; l’éducation et les compétences; l’(in)égalité et l’inclusion; la législation et la réglementation; la gouvernance et la démocratie; la guerre; la superintelligence. Le CESE a donc formulé un certain nombre de recommandations.

Le CESE plaide tout d'abord en faveur d’une approche dite «human-in-command» de l’IA, dont les conditions seraient un développement responsable, sûr et utile de l’IA dans le cadre duquel les machines resteraient les machines, sous le contrôle permanent des humains.

Le CESE préconise ensuite l’instauration d’un code de déontologie pour le développement, le déploiement et l’utilisation de l’IA, afin que les systèmes d’IA demeurent, tout au long de leur processus d’exploitation, compatibles avec les principes de dignité humaine, d’intégrité, de liberté, de respect de la vie privée, de diversité culturelle et d’égalité entre hommes et femmes, ainsi qu’avec les droits fondamentaux.

Le CESE plaide pour la mise en place d’un système de normalisation pour la vérification, la validation et le contrôle des systèmes d’IA, fondé sur un large éventail de normes en matière de sécurité, de transparence, d’intelligibilité, d’obligation de rendre des comptes et de valeurs éthiques.

Le CESE recommande également une infrastructure d’IA européenne, composée de cadres d’apprentissage libres (open source) et respectueux de la vie privée, d’environnements d’essai en situation réelle (real life) et de séries de données de haute qualité pour le développement et la formation de systèmes d’IA. Il attire l’attention sur l’avantage (concurrentiel) que peuvent procurer à l’UE, sur le marché mondial, le développement et la promotion de «systèmes d’IA homologués au niveau européen», dans lesquels cette dernière ferait l’objet d’une certification et d’un étiquetage européens.

Sur le point spécifique du travail et des risques causés par l'apport massif d'IA, il est nécessaire d'identifier conjointement quels secteurs du marché du travail seront influencés par l’IA, dans quelle mesure et dans quels délais, et trouver des solutions pour faire face aux conséquences de ce processus sur l’emploi, le contenu du travail, les régimes sociaux et l’(in)égalité. Il convient en outre d’investir dans les secteurs du marché du travail dans lesquels l’IA n’a que peu ou pas d’influence.

Le CESE suggère que ces parties prenantes œuvrent ensemble en faveur de systèmes d’IA complémentaires et de leur mise en place conjointe sur le lieu de travail. L’on peut par exemple penser à des équipes homme-machine au sein desquelles l’IA compléterait et améliorerait les prestations humaines. Elles devraient également investir dans l’apprentissage formel et informel, l’enseignement et la formation pour tous afin de pouvoir travailler avec l’IA, mais également dans le but de développer les compétences qui ne seront pas ou ne pourront pas être assurées par l’IA.

Le développement d’applications d’IA qui bénéficient à la société, favorisent l’inclusion et améliorent la vie des gens doit être activement encouragé et promu, au niveau aussi bien public que privé. La Commission européenne devrait, dans le cadre de ses programmes, financer des travaux de recherche portant sur l’incidence sociale de l’IA ainsi que des innovations en matière d’IA financées par l’UE.

Le CESE soutient par ailleurs l’appel à l’interdiction des systèmes d’armes autonomes lancé par Human Rights Watch et d’autres organisations. Il se félicite de la consultation annoncée sur ce sujet dans le cadre des Nations unies, mais estime que celle-ci devrait également porter sur les applications de l’IA dans le domaine de la «cyberguerre».

Les actions et les décisions des systèmes d’IA (résultant d’algorithmes intelligents) ont une influence croissante sur la vie des personnes. C’est par exemple le cas de l’utilisation de l’IA pour les travaux de police fondés sur l’information, pour l’évaluation des demandes de crédit hypothécaire ou pour les procédures d’acceptation de couverture dans le secteur des assurances. À cet égard, l’intelligibilité et la contrôlabilité du processus de prise de décision d’un système d’IA, ainsi que la capacité de rendre compte de ses actions, sont essentielles.

Mais, d’ores et déjà, de nombreux systèmes d’IA sont très difficiles à comprendre pour les utilisateurs. C’est aussi de plus en plus souvent le cas pour les concepteurs de ces systèmes. En particulier, les réseaux neuronaux sont souvent des boîtes noires (black boxes) dans lesquelles se déroulent des processus (de prise de décision) qui sont devenus incompréhensibles et pour lesquels aucun manuel explicatif n’est fourni.

Le CESE plaide ainsi pour des systèmes d’IA transparents, compréhensibles et contrôlables dont le fonctionnement puisse également être expliqué a posteriori. Il convient par ailleurs de définir quels sont les processus décisionnels qui peuvent être confiés à des systèmes d’IA et quels sont ceux qui ne peuvent l’être, et quand une intervention humaine devrait être privilégiée ou exigée.

Le respect de la vie privée dans le cadre des systèmes d’IA est un sujet majeur de préoccupation. De nombreux biens (de consommation) disposent déjà d’un système d’IA intégré: appareils électroménagers, jouets, voitures, montres et bracelets intelligents ou encore smartphones. Tous ces produits communiquent des données (souvent personnelles) aux plateformes en nuage des producteurs. Les inquiétudes liées à la question de savoir si la vie privée est suffisamment protégée sont d’autant plus vives que le commerce des données, c’est-à-dire la vente à des tiers des données recueillies par le fabricant, est en plein essor.

De plus, l’IA est en mesure, grâce à l’analyse d’un très grand nombre de données (souvent) personnelles, d’influencer les choix des individus dans de nombreux domaines (des décisions commerciales aux élections et aux référendums). Les enfants constituent un groupe particulièrement vulnérable. Le CESE exprime sa préoccupation face aux applications d’IA qui visent explicitement à influencer le comportement et les souhaits des enfants.

Il convient d’éviter que l’application de l’IA aux données personnelles ne restreigne la liberté réelle ou perçue des individus. Le règlement général de l’UE sur la protection des données prévoit une protection renforcée de la vie privée concernant les données personnelles transmises par voie numérique. Il convient de contrôler attentivement, à la lumière des évolutions dans le domaine de l’IA, si le droit des personnes au consentement éclairé et au libre choix lors de la transmission des données, mais aussi celui d’accéder aux données transmises, de les adapter et de les vérifier, sont suffisamment garantis dans la pratique.

Concernant la règlementation, il est d’ores et déjà nécessaire d’entreprendre une évaluation concrète de la législation et de la réglementation européennes dans les six domaines désignés par la STOA (Scientific Foresight Unit) susceptibles de faire l’objet d’une révision ou d’une adaptation. Le CESE peut et veut jouer un rôle dans ce processus d’évaluation. Il s’oppose en revanche à la mise en place d’une forme de personnalité juridique pour les robots ou l’IA. Les effets correctifs préventifs du droit de la responsabilité civile s’en trouveraient en effet selon lui vidés de leur substance. De plus, cela créerait des possibilités d’abus de même qu’un risque moral au niveau tant du développement que de l’utilisation de l’IA.

L’IA ne connaît cependant pas de frontières. Il importe dès lors de se pencher sur la nécessité d’une réglementation mondiale, étant donné qu’une réglementation régionale ne suffira pas et aura même des effets indésirables. Compte tenu de son système éprouvé de normes portant sur les produits et la sécurité, des tentations protectionnistes qui se manifestent sur d’autres continents, du niveau élevé de connaissances en Europe, du système de droits fondamentaux et de valeurs sociales en vigueur en Europe ainsi que du dialogue social, le CESE recommande à l’UE de jouer un rôle moteur dans l’établissement de cadres stratégiques clairs et universels en matière d’IA et de stimuler ce processus au niveau mondial.

Enfin se pose la question des perspectives et des risques liés au développement de la superintelligence. Selon Stephen Hawking, la mise au point de l’IA générale représentera déjà la fin de l’humanité. À ce stade, l’IA continuera selon lui à évoluer à un rythme que les hommes ne pourront pas suivre. Certains spécialistes préconisent dès lors la création d’un disjoncteur (kill-switch) ou bouton de réinitialisation (reset-button), permettant de désactiver ou de réinitialiser un système d’IA superintelligent ou qui s’est emballé.

Les débats autour de l'IA ne font donc que commencer.

(source: CESE)

Retrouvez également mes échanges avec Rachel Marsden du 8 mars 2017 sur le sujet: "Intelligence artificielle: opportunité ou menace" http://www.thierryvallatavocat.com/2017/03/intelligence-articielle-opportunite-ou-menace-mon-debat-avec-rachel-marsden-du-8-mars-2017.html

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique droit des Robots
commenter cet article …

11 juin 2017 7 11 /06 /juin /2017 06:52

La punition appliquée à l'intelligence artificielle: un robot puni doit recopier mille fois la première loi d'Asimov

Nous connaissons tous le générique des Simpsons dans lequel le turbulent Bart recopie au tableau noir de sa classe une phrase différente à chaque épisode, en punition de l'une de ses nombreuses bêtises.

Sur le même concept, l'artiste franco-portugais Filipe Vilas-Boas a imaginé ''The punishment'', une oeuvre, co-réalisée avec l'architecte Paul Codamy, dans laquelle un robot exécute une punition en prévision de sa future désobéissance à la première loi de la robotique posée par Isaac Asimov : ''un robot ne peut porter atteinte à un être humain''

L'installation était présentée dans le festival Futur en Seine qui s''est déroulé du 8 au 10 juin 2017 à Paris-la Villette.

Rappelons que la première loi est la suivante: ''un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger'' (la version plus courte écrite en punition est celle du robot Nestor dans Le Petit robot perdu)

Il s'agit donc d'une amusante, mais dérangeante, installation composée d'un bras robotisé armé d'un stylo recopiant inlassablement sur un carnet d'écolier la phrase ''I must not hurt humans'' (je ne dois pas blesser les humains).

Cette création artistique amène inéluctablement vers la question: ''Faut-il (et comment) punir un robot ? ''

Cette humiliante punition scolaire n'a pas eu sur Bart Simpson d'effets pédagogiques avérés, et même produit l'effet inverse chez notre jaune chenapan et sur une intelligence artificielle alors ?

Comment aurait évolué le programme HAL 9000 imaginé par Stanley Kubrik pour son film ''2001: L’odyssée de l’espace'' qui se retourne contre l'équipage humain, s’il avait recopié mille fois la litanie ''je ne dois pas blesser les humains'' à un stade moins avancé de ses algorithmes ?

La question renvoie bien sur à la notion de personnalité robotique et à celle d'utilité d'une punition pour une machine automatisée.

En effet, à partir du moment où les robots deviennent des personnes juridiques, se pose la question du châtiment réservé à un robot qui contrevient à la loi.

Dans un ouvrage publié en décembre 2011 aux Presses du MIT intitulé “L’Ethique du robot - des implication sociales et éthiques de la robotique”, Patrick Lin, Keith Abney, George A. Bekey consacrent un chapitre entier à cette question de la punition des robots

Pour ces auteurs, la notion de punition est tripartite: celui qui a mal agit doit payer sa dette à la société d'une part. D'autre part, il est censé se réformer pour ne pas commettre à nouveau le même acte et enfin sa punition est censée dissuader les autres de commettre un tel acte.

Toutefois, juger un acte criminel requiert que l'accusé soit doté d'une personnalité et soit responsable du choix de ses actes . Le degré d’autonomie de cette personnalité dépendra de l’intelligence artificielle qui le commandera ou l'aura programmé.

Les intelligences artificielles sont aujourd'hui capables d'auto-apprentissage, c’est-à-dire que les robots peuvent se développer différemment selon leur propre expérience, échappant ainsi à ceux qui ont programmé leurs algorithmes

Ce sera donc au juge d’évaluer la responsabilité du robot, le cas échéant partagée entre plusieurs acteurs (le constructeur du robot, celui qui l’a programmé, celui qui l’a testé etc.).

Mais si un juge considère un robot responsable d’un acte criminel : comment alors le punir.

Infliger aux robots des peines similaires à celles infligées aux hommes, cela a -t-il un sens ?

Va-t-on créer des prisons pour robots ou l'obliger à porter un bracelet électronique, si tant est qu'une privation de liberté ait un sens pour une machine intelligente ?

Une vision plus simpliste, et radicale, serait d'envisager de débrancher le robot. Mais s'il est doté d'une personnalité juridique, il sera alors titulaire de droits et on ne pourra impunément le tuer ou le torturer, d'où la nécessité de réfléchir à des peines qui seraient adaptées aux robots.

Pour revenir sur notre oeuvre ''the punishment'' un robot peut-il se réformer et une peine infligée à un robot aurait-elle valeur d’exemple pour ses semblables ? Et pourquoi répéter mille fois la même chose, une ligne ne serait-elle pas suffisante pour une intelligence artificielle ?

Pour l'artiste Filipe Vilas-Boas ''cette automatisation galopante pose de sérieuses questions à la société, notamment sur le travail, l'école, l'éthique, les robots et il serait passionnant que nous y répondions collectivement ».

Et l'artiste de conclure : « une vieille peur en somme, une fausse peur certainement comme dans le mythe du Golem, qu'il faut contrebalancer par toute la somme de travail que les machines en général nous épargnent. Il me semble globalement que nous avons entre les mains un formidable outil de libération. Quel élève puni par une tâche répétitive n'aurait pas souhaité donner ses lignes à recopier à un robot ? » the punishment by filipe vilas-boas and paul coudamy - Designboom

The Punishment

The Punishment is an installation in which a robot executes a preventive punishment for its possible future disobedience. A reference to Isaac Asimov's laws of robotics. Project by Filipe Vilas-Boas

https://vimeo.com/209734673

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

11 mars 2017 6 11 /03 /mars /2017 06:07

Intelligence artificielle: opportunité ou menace mon débat avec Rachel Marsden du 8 mars 2017

L'intelligence artificielle risque-t-elle de menacer à terme l'espèce humaine ?

En pleine actualité avec le développement fulgurant des voitures autonomes sans conducteur, des drones civils ou militaires, des SALA, les robots-tueurs ou des chatbots, les algorithmes sont devenus incontournables qu'ils nous fascinent ou qu'ils nous effrayent.

Alors amies ou ennemies ces IA ? Me Thierry Vallat a débattu le 8 mars 2017 sur Sputnik News avec Rachel Marsden de cette question qui agite un monde de la robotique en pleine mutation et dont les contours juridiques viennent d'être esquissés par la Commission européenne qui adopté le 16 février 2017 un rapport sur le statut des robots.

Retrouvez ce passionnant échange sur Sputnik : https://fr.sputniknews.com/radio_desordre_mondial/201703101030396959-intelligence-artificielle/ et en vidéo sur Youtube

Intelligence artificielle : opportunité ou menace ?

Intelligence artificielle : opportunité ou menace ? Le Désordre Mondial avec Rachel Marsden Benoit Hamon propose de financer son projet de revenu universel par une taxe sur les robots. De son cô...

https://www.youtube.com/watch?v=wka6CeIVkVE&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

15 février 2017 3 15 /02 /février /2017 12:08

Comme Benji 3.0 le chatbot, les robots ont désormais leur syndicat: like a swede !

"Face tomorrow like a swede": le syndicat suédois TCO invente l'union syndicale pour Intelligences Articielles et révèle une hilarante vidéo dans laquelles des robots revendiquent leurs droits et adhèrent au syndicat idéal...suédois bien entendu

Il est même désormais possible d'adhérer en ligne avec un site, sur lequel chatbots, robots compagnons et humains peuvent d'ores et déjà s'inscrire (http://www.likeaswede.se/#en)

Farfelu ? Pas si sur !

A l'heure de la montée en puissance de l'utilisation des IA dans la secteur du travail que ce soit pour la production industrielle, l'assistance des personnes agées ou des enfants et même les cabinet d'avocats (lire Les Robots-avocats trouvent du travail ), il faudra bien fatalement à un moment se poser la question de l'adaptation du droit du travail aux robots.

D'autant plus que certains sont déjà bien malmenés, notamment en Chine avec des licenciements fort expéditifs (lire Un robot licencié pour incompétence rêve-t-il de prud'hommes électriques ?)

Alors le syndicalisme "à la suédoise" comme modèle social, une initiative en tous cas qui fait réfléchir sur l'intégration inéluctable des robots à notre quotidien, y compris dans le monde du travail.

Face Tomorrow Like a Swede

What happens when Artificial Intelligences want to start living like a Swede? They start a union at likeaswede.se. Visit likeaswede.se to talk about the Swedish Part Model - the futureproof way of ...

https://www.youtube.com/watch?v=VTnMSIc9slg&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots Droit du travail et de la sécurité sociale
commenter cet article …

13 décembre 2016 2 13 /12 /décembre /2016 10:08

Les SALA ou Robots-tueurs: vers une nécessaire réglementation des Systèmes d'Armes Létales Autonomes

Organisé le 12 décembre 2016 par le Centre de Recherche de l'Ecole des Officiers de la gendarmerie Nationale (CREOGN) en partenariat avec l'Association de Droit des Robots (ADDR), s'est tenu à Paris un passionnant colloque sur la place des robots dans notre société.

En premier lieu, il a été débattu de la réalité technologique des robots et des applications dans les secteurs les plus variés comme les transports, la medecine ou l'industrie, mais aussi des questions éthiques et des interactions Homme-Robot, mais aussi de la nécessité de la création d'une "personnalité robot" et de la mise en place d'un véritable droit de la robotique.

Mais à côté du fulgurant développement des robots civils, ont été également évoquées les applications militaires de ces machines et l'autonomie décisionnelle des systèmes robotisés militaires.

Car, bien entendu, ce sont les robots intervenant dans le secteur Sécurité/Défense et leur plus ou moins grande autonomie qui posent aujourd'hui de nombreuses questions.

Ce fut donc l'occasion lors de cette conférence de préciser la notion de SALA, ces "systèmes d'armes létales automatisées" plus communément surnommées "robots-tueurs" qui se développent partour dans le monde.

Ces armes autonomes capables de choisir leurs cible et de tuer pourraient rapidement remplacer les soldats sur les champs de bataille ou , en matière de sécurité intérieure, dans des opérations de maintien de l'ordre. Cette perspective "robots tueurs" peut donc légitimement inquièter.

En effet, les armes entièrement autonomes seraient encore plus dangereuses que les drones télécommandés qui sont déjà utilisés sur certains conflits, car elles seraient capables de sélectionner et d’attaquer des cibles sans intervention d’un être humain.

Se pose donc la question de la définition même de ces SALA, les américains n'ayant par exemple pas la même appréhension de ces systèmes que la France, comme développé dans la directive US 3000.09 de 2012 relative à l'autonomie des systèmes d'armes.

Celle de l'implication humaine dans la prise de décision finale reste également primordiale avec la notion d'"Human in the loop", ainsi que le degré d'autonomie de seulement fonctionnelle (déplacement), opérationelle (surveillance) à même décisionnelle.

Bien sur, la possibilité d'une absence totale de supervision humaine qui impliquent le recours à une technologie complexe d'intelligence artificelle douée de capacités d'auto-apprentissage, pour aboutir à la prise décision du ciblage pose des problèmes, notamment au regard du respect du DIH (droit international humanitaire) et de la fameuse clause de Martens, ainsi que des conventions de Genève de 1977.

Et en prime, les applications des robots en matière de sécurité intérieure peuvent inclure des missions de police, mais aussi de sécurité civile (incendie, maritime) ou en environnement carcéral.

Plus concrètement: aura-t-on bientôt des robots affectés aux palpations de sécurité ou effectuant des contrôles radars ? Gardiens de prison ? Qu'en sera-t-il avec la légitime défense des robots (déjà que le débat est en cours pour celle des policiers humains !) Pourra- t-on refuser les ordres d'un robot ?

Un encadrement juridique des SALA s'impose donc, notamment pour définir leur utilisation, mais aussi, question essentielle, leur responsabilité.

Qui sera le responsable des actions du robot-tueur: le programmateur de l'intelligence artificielle, le constructeur, son financier, le commandant de l'opération ?

Les USA qui se sont déjà dotés en novembre 2012 d'une directive 3000.09 relative à l'autonomie des systèmes d'armes réfléchissent à la compléter comme le préconise un rapport "preparing for the future on artifial intelligence" ( The Administration's Report on the Future of Artificial Intelligence )

La France n'est pas en reste avec le rapport de l'état-major de l'armée de terre "action terrestre future" et la question du maintien de l'humanité du soldat dans le combat futur qui constitue un enjeu majeur (lire: Action Terrestre Future : demain se gagne aujourd'hui )

Lors de la réunion multilatérale sur le désarmement qui se tient à Geneve jusqu'au 16 décembre 2016, des pourparlers visant à l'interdiction préventive de telles armes seront au coeur des délibérations de la CCAC (conférence d'examen de la convention sur l'interdiction ou la limitation de l'emploi de certaines armes classiques)

Néanmoins, on peine à croire à une totale interdiction, alors que l'on assiste à une véritable course à de tels armements des USA à Israël en passant par la Russie et la France, avec les robots Big Dog de Boston Dynamics (logistique), Andros (ouverture de feu), Telemax (deminage), Guardian (reconnaissance) ou nEUROn (drone)

Reste donc à convenir d'un moratoire et d'un droit des SALA et, plus généralement, d'une construction juridique rationnelle encadrant les robots.

Retrouvez la directive américaine du 21 novembre 2012 3000.09: http://www.dtic.mil/whs/directives/corres/pdf/300009p.pdf

(crédits dessin: Cabinet Thierry Vallat)

Les SALA ou Robots-tueurs: vers une nécessaire réglementation des Systèmes d'Armes Létales Autonomes

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

Conférence ONU du désarmement pour arrêter les robots tueurs: et si on commençait par définir les SALA ?

Un Chatbot recruteur: le recrutement par robot est-il une méthode plus humaine de sélection de candidats au travail ?

Un robot se voit accorder la citoyenneté saoudienne: Sophia devient la première IA à obtenir une nationalité officielle

L'Estonie rêve d'une Kratt Law, première loi au monde codifiant les intelligences artificielles

Les défis éthiques de la voiture autonome face au dilemme du tramway

Avec le robot Flippy qui cuit les steaks et prépare les burgers, le droit du travail sur le grill ?

Comment concilier Cybersécurité et voitures autonomes ? La réponse anglaise à ce nouveau défi contre les hackers

Drones de livraison: des boissons fraîches livrées en Estonie dans le temps record de 5 mn !

Des véhicules autonomes dans la capitale de l'Estonie: Tallinn se dote de deux minibus sans conducteur

DoNotPay le chatbot avocat qui résout vos problèmes juridiques gratuitement

Les risques de l'intelligence artificielle: le rapport européen du CESE adopté le 31 mai 2017

La punition appliquée à l'intelligence artificielle: un robot puni doit recopier mille fois la première loi d'Asimov

Intelligence artificielle: opportunité ou menace mon débat avec Rachel Marsden du 8 mars 2017

Comme Benji 3.0 le chatbot, les robots ont désormais leur syndicat: like a swede !

Les SALA ou Robots-tueurs: vers une nécessaire réglementation des Systèmes d'Armes Létales Autonomes

Présentation

Le Cabinet Thierry Vallat

Recherche

Recherche

Dans les médias récemment

Archives

Articles Récents

Rubriques

Le Cabinet En Images

Catégories

Liens

Présentation

Le Cabinet Thierry Vallat

Recherche

Recherche

Dans les médias récemment

Archives

Articles Récents

Rubriques

Le Cabinet En Images

Catégories

Newsletter

Liens

Suivez-moi