droit des robots - Le blog de Thierry Vallat, avocat au Barreau de Paris (et sur Twitter: @MeThierryVallat)

10 janvier 2019 4 10 /01 /janvier /2019 16:11

Quand l'intelligence artificielle devient un détecteur de mensonges: après Avatar et Borderctrl dans les aéroports, voilà VeriPol qui démasque les faux plaignants !

Les robots ne connaissent pas le mensonge, mais peuvent le débusquer et c'est donc tout naturellement que des projets d'intelligences artificielles se développent.

Le blog a déjà évoqué récemment l'utilisation de l'intelligence artificielle pour traquer les mensonges des passagers aériens lors des contrôles de sécurité, grâce à une analyse de leurs micro-expressions.

Le projet européen "BORDERCTRL" en phase de test dans des aéroports grecs, lettons et hongrois développe un système de contrôle intelligent censé faciliter le travail des douaniers et services de sécurité en repérant les immigrants illégaux et contribuer ainsi à prévenir les crimes et le terrorisme, et destiné à fluidifier le trafic des voyageurs qui ne cesse d'augmenter dans les aéroports du vieux continent

Il s'agit en réalité d'un véritable détecteur de mensonges profilé calqué sur les tests effectués au Canada en 2017 avec une IA surnommée "Avatar" (pour Automated Virtual Agent for Truth Assessments in Real Time) capable de détecter les mensonges à partir des comportements physiologiques dans ses aéroports, pour aider les douaniers à contrôler les voyageurs en cas de doute sur leur motivation à venir

Au passage de la frontière, vous êtes interrogé par une IA intégrant des facteurs de risques personnalisés et devrez répondre à des questions posées par une sorte de détecteur de mensonges profilé en fonction "du genre, de l'appartenance ethnique et de la langue" du voyageur

Le système de détection va alors analyser les micro-expressions du visage pour confondre les personnes qui mentiraient sur les véritables raisons de leur voyage ou leurs bagages (pour en savoir plus lire notre article Le projet européen Iborder control)

Et voilà que dans le même ordre d'idée, des chercheurs britanniques de l'Université de Cardiff et espagnols ont développé une intelligence artificielle capable de détecter les mensonges dans les plaintes déposées pour vol !

Le programme est testé depuis plus d’un an par la police espagnole et les développeurs de ce détecteur de mensonges ont publié leur étude dans la revue scientifique Knowledge-Based Systems: VeriPol se montrerait fiable dans 83 % des cas, et aurait réduit le nombre de fausses déclarations de vol.

Cette IA est basée sur une combinaison d’analyse automatique des textes et de deep learning.

Ayant appris à reconnaître les éléments caractéristiques des fausses déclarations de vol, VeriPol va utiliser ses algorithmes pour identifier les différentes caractéristiques d'une déclaration,

En analysant à peu près tout ce qui compose le texte, la nombre de mots, la ponctuation, les verbes et adjectifs utilisés. Veripol va tente également rechercher également la présence d’indices dans ces déclarations, comme l’absence de contact avec les secours, le manque de détails, l’absence de témoins ou de preuves, ou encore une importance exagérée donnée aux objets volés.

A priori, les plaintes les plus courtes seraient de fausses plaintes, ou encore celles qui se concentrent que sur les objets cher tels que les téléphones, les ordinateurs, et qui ne mentionneraient pas les papiers, les bijoux de famille, seraient également de fausses plaintes pour vol. Les tests auraient ainsi mis en exergue que le programme VeriPol semblerait être plus efficace que les forces de l’ordre pour repérer les fausses déclarations.

Le polygraphe a été créé en 1921 est ce qui se rapproche le plus aujourd'hui du standard de référence en matière d’évaluation de la vérité. ces IA vont-elles détrôner ce vénérale détecteur de mensonge, pas si fiable que cela, encore utilisé notamment aux USA ( il ne peut être imposé au mis en cause mais le refus de s'y soumettre constituen un indice que la personne a quelque chose à se reprocher) ?

A noter encore ce projet danois baptisé Veritaps, un nouvel algorithme d’apprentissage automatique développé par une équipe de l’université de Copenhague capable d’identifier l’honnêteté et son contraire en analysant la manière dont une personne interagit avec l’écran d’un mobile. Ainsi, les actions malhonnêtes seraient plus longues et impliqueraient davantage de gestes que pour les comportements honnêtes expliquent les chercheurs dans leur article.

Votre smartphone serait ainsi transformé en petit détecteur de mensonges par cette application: le programme marque d’une coche verte les déclarations véridiques et d’un point d’interrogation rouge celles qui lui semblent douteuses. La personne recevant ces évaluations pourra alors demander un complément d’information à son interlocuteur pour les réponses suspectes.

Ce genre d’applis soulève cependant de nombreuses questions éthiques puisqu'exploitant des données personnelles comme la pression sanguine ou le rythme cardiaque. Tous ces projets sont par ailleurs bien silencieux sur le recueil des données biométriques, la conservation des données, leur durée de conservation, leur accès etc. qui ne semblent guère préoccuper leurs intiateurs.

Alors, véritables détecteurs de mensonges ou plutôt indicateurs sur la nécessité de vérifier une information, la tentation est déjà grande d'utiliser les IA en matière de justice ou de sécurité et l'idée de multiplier les robots dans les commissariats de police et dans les tribunaux fait de plus en plus son chemin, en espérant que ce ne sera pas au détriment de l'humain comme le projet de loi "Justice" de Nicole Belloubet semble le concevoir.

Et pourquoi pas aussi ne pourraient-ils pas servir à déceler les fake news, ce serait bien utile en ces temps d'infox continuelles !

(crédits dessin: Cabinet Thierry Vallat)

Retrouvez mon interview sur la reconnaissance faciale et ses dangers sur Sputnik News du 9 janvier 2019

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique droit des Robots
commenter cet article …

17 décembre 2018 1 17 /12 /décembre /2018 13:26

Actualité de la reconnaissance faciale décembre 2018: elle s'invite dans les lycées de PACA dès janvier prochain

Mise à jour du 20 février 2019

Big brother dans nos écoles: c'est déjà aujourd'hui ! Nous lancions ce cri d'alarme en juillet dernier dans notre article Vidéosurveillance, reconnaissance faciale et badge de présence pour les élèves: bienvenue dans l'école 2.0 de 2018.

Et nous n'avions encore rien vu !

Le quotidien Niçois NIce Matin nous confirme en effet que dès janvier 2019 se déroulerait une expérimentation de reconnaissance faciale dans des lycées français.

Des portiques visuels de contrôle d’accès développés par la société américaine Cisco, seront installés dans deux établissements de la Région Provence Alpes Côte d’Azur Ampère à Marseille et les Eucalyptus à Nice

Des capteurs vidéos seront installés devant les grilles de l'établissement. A chaque lycéen ou professeur serait associée une identité numérique comprenant une photo, comme un badge ou un bracelet par exemple. Les capteurs seraient capables de déterminer si l’image de la personne qui vient de passer se trouve bien dans les fichiers du lycée, en comparant toutes les images enregistrées au préalable

Si tel n’est pas le cas, le surveillant qui contrôle les allées et venues à l’ouverture du portail reçoit une alerte sur un écran (ordinateur, tablette ou smartphone). Les caméras installées par la société enregistrent le parcours de cette personne repérée afin d’aider le surveillant à identifier et approcher ce visiteur inconnu.

On parle de seulement, dans un premier temps, de deux classes de l’établissement niçois. Soit une soixantaine d’élèves sur un millier, selon le Syndicat national des enseignements de second degré (SNES).

Il s'agit d'apporter une assistance aux agents assurant l’accueil du lycée afin de faciliter et réduire la durée des contrôles, lutter contre l’usurpation d’identité et détecter le déplacement non souhaité d’un visiteur non identifié"

On peut également comprendre l'inquiétude légitime des parents sur ce mode de contrôle et de surveillance de leur enfant. Le consentement préalable des lycéens serait requis et ceux qui refuseraenit la biométrie pourront, en théorie, continuer sur un contrôle classique.

C'est déjà un vieux projet caressé par la Région PACA dont le président Les Républicains Renaud Muselier avait déposé en début d'année 2018 auprès de la commission nationale de l’informatique et des libertés (Cnil) une demande de conseil sur ce « projet d’expérimentation de portique visuel »(lire dans La Provence.)

La Région annonce que la CNIL aurait désormais donné son feu vert à pour lancer l’expérimentation.

C'est aller vite en besogne car il ne s'agissait que d'une "demande de conseil" sur ce dossier, qui n’a pas valeur d’avis ou de validation de la Commision.

Force est en outre de constater que le règlement européen n'implique plus de déclaration préalable à la CNIL.

En revanche, la transparence requise par le RGPD depuis mai 2018 devra être respectée

Pour être conforme au RGPD, la CNIL recommande d'ailleurs de faire figurer un premier niveau d’information sur un panneau d’information affiché à proximité du dispositif de contrôle d’accès aux locaux. Le second niveau d’information pourra être porté à la connaissance des personnes concernées par le biais d’une note d’information plus complète relative à la gestion des données personnelles et aux droits de personnes, mise à disposition des visiteurs (durée de conservation des données, accessibilité, finalité du traitement etc.),

Rappelons enfin que le critère absolu, c’est la proportionnalité de cette démarche par rapport à l’utilisation qu’on veut en faire, La question est : est-ce qu’il n’existe pas un autre moyen moins intrusif dans la vie privée que cette technologie un peu invasive pour assurer la sécurité ? » Nos bon vieux surveillants ne font-ils d’ores et déjà pas ce travail ou cherche-t-on à les supprimer encore d'avantage ?

Et ne comptez pas vous détendre avec un peu de musique pour oublier que vous êtes fliqués: la reconnaissance faciale est utilisée aujourd'hui systématiquement par plusieurs artistes, comme Taylor Swift , qui l'utilisent pour des raisons de sécurité, en scannant la foule afin d'identifier lors de leurs concerts les éventuels stalkers mis sur liste noire....

Big Brother on vous dit.

Retrouvez notre analyse sur le sujet pour 20 minutes Education: Les questions que pose la reconnaissance faciale dans les écoles

(source: Nice Matin https://www.nicematin.com/vie-locale/la-reconnaissance-faciale-testee-des-janvier-2019-a-lentree-dun-lycee-de-nice-284866

Mise à jour du 20 février 2019

Quatre organisations: La Quadrature du Net, la Ligue des droits de l’Homme, CGT Educ’Action des Alpes-Maritimes et la Fédération des Conseils de Parents d’Élèves des écoles publiques des Alpes-Maritimes, ont déposé un recours devant le tribunal administratif de Marseille pour demander l’annulation de la délibération du conseil régional du 14 décembre 2018 autorisant la mise en œuvre d’une expérimentation de reconnaissance faciale dans deux lycées de la région.

Ce recours se fonde notamment sur le manque de respect des règles du règlement général sur la protection des données (RGPD), comme l'absence d'analyse d’impact n’avait été réalisée et un traitement de données biométriques qui manifestement disproportionné par rapport à l’objectif poursuivi

Retrouvez le recours ici.

(crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique droit des Robots
commenter cet article …

9 décembre 2018 7 09 /12 /décembre /2018 08:35

Vocabulaire de l'Intelligence artificielle: ne dites plus chatbot, mais dialogueur

Parution au Journal officiel de ce 9 décembre 2018 du Vocabulaire de l'intelligence artificielle, une liste de termes, expressions et définitions adoptés en français)

C'est ainsi par exemple que le processus par lequel un algorithme évalue et améliore ses performances sans l'intervention d'un programmeur, en répétant son exécution sur des jeux de données jusqu'à obtenir, de manière régulière, des résultats pertinents connu en anglais sous le vocable "machine learning" est francisé en "apprentissage automatique".

Le chatbot, ce logiciel spécialisé dans le dialogue en langage naturel avec un humain, qui est capable notamment de répondre à des questions ou de déclencher l'exécution de tâche devient un "dialogueur" ou "agent de dialogue" ( mais pas agent conversationnel qui est désormais dconseillé).

Ne dites plus non plus "réseau neuronal", mais "réseau de neurones artificels"

Pas certain cependant que ces termes emportent l'adhésion des professionnels.

II. - Table d'équivalence
A. - Termes étrangers

TERME ÉTRANGER (1)	DOMAINE/SOUS-DOMAINE	ÉQUIVALENT FRANÇAIS (2)
artificial intelligence (AI).	Informatique.	intelligence artificielle (IA).
artificial neural network, neural network.	Informatique.	réseau de neurones artificiels, réseau de neurones, réseau de neurones formels, réseau de neurones.
artificial neuron, artificial neurone, formal neuron, formal neurone.	Informatique.	neurone artificiel, neurone formel.
chatbot, conversational agent.	Informatique.	dialogueur, n.m., agent de dialogue.
data clustering, unsupervised learning, unsupervised training.	Informatique.	apprentissage non supervisé.
deep learning, deep structured learning, hierarchical learning.	Informatique.	apprentissage profond.
formal neuron, artificial neuron, artificial neurone, formal neurone.	Informatique.	neurone artificiel, neurone formel.
hierarchical learning, deep learning, deep structured learning.	Informatique.	apprentissage profond.
machine learning (ML).	Informatique.	apprentissage automatique, apprentissage machine.
neural network, artificial neural network.	Informatique.	réseau de neurones artificiels, réseau de neurones, réseau de neurones formels, réseau de neurones.
reinforcement learning.	Informatique.	apprentissage par renforcement.
supervised learning, supervised training.	Informatique.	apprentissage supervisé.
unsupervised learning, data clustering, unsupervised training.	Informatique.	apprentissage non supervisé.
(1) Il s'agit de termes anglais, sauf mention contraire. (2) Les termes en caractères gras sont définis dans la partie I (Termes et définitions).

B. - Termes français

TERME FRANÇAIS (1)	DOMAINE/SOUS-DOMAINE	ÉQUIVALENT ÉTRANGER (2)
agent de dialogue, dialogueur, n.m.	Informatique.	chatbot, conversational agent.
apprentissage automatique, apprentissage machine.	Informatique.	machine learning (ML).
apprentissage non supervisé.	Informatique.	data clustering, unsupervised learning, unsupervised training.
apprentissage par renforcement.	Informatique.	reinforcement learning.
apprentissage profond.	Informatique.	deep learning, deep structured learning, hierarchical learning.
apprentissage supervisé.	Informatique.	supervised learning, supervised training.
dialogueur, n.m., agent de dialogue.	Informatique.	chatbot, conversational agent.
intelligence artificielle (IA).	Informatique.	artificial intelligence (AI).
neurone artificiel, neurone formel.	Informatique.	artificial neuron, artificial neurone, formal neuron, formal neurone.
réseau de neurones artificiels, réseau de neurones, réseau de neurones formels, réseau de neurones.	Informatique.	artificial neural network, neural network.
(1) Les termes en caractères gras sont définis dans la partie I (Termes et définitions). (2) Il s'agit d'équivalents anglais, sauf mention contraire.

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

27 novembre 2018 2 27 /11 /novembre /2018 07:29

Robots soldats: le programme Autonomous Warrior relance le débat sur les Systèmes d'armes létales autonomes (SALA)

La question des robots soldats revient sur le devant de la scène avec le programme britannique en cours "Autonomous Warrior", grandes manoeuvres lancées le 12 novembre 2018 afin de tester des dizaines de robots militaires.

Rappelons que l'ONU a lancé en avril 2018 les premières discussions officielles sur les SALA, ces Systèmes d'Armes Létales Automatisées, également appelés "robots tueurs" ou en anglais LAWS (Lethal Autonomous Weapons Systems) https://www.unog.ch/80256EE600585943/(httpPages)/F027DAA4966EB9C7C12580CD0039D7B5?OpenDocument

Ces armes autonomes capables de choisir leurs cible et de tuer pourraient rapidement remplacer les soldats sur les champs de bataille ou , en matière de sécurité intérieure, dans des opérations de maintien de l'ordre. Cette perspective de "robots tueurs" peut donc légitimement inquiéter.

En effet, les armes entièrement autonomes seraient encore plus dangereuses que les drones télécommandés qui sont déjà utilisés sur certains conflits, car elles seraient capables de sélectionner et d’attaquer des cibles sans intervention d’un être humain

La technologie a effectué d'énormes progrès tant au niveau mécanique que logiciel. ce n'est pas un hasard si on les retrouvent déjà sur tous les terrains d'opération, sous forme de drones, de navires ou de tanks. C'est ainsi que des robots de combat ont été engagés contre Daesch en Syrie. Aucun pays ne veut rester à la traîne, sous peine de se retrouver en infériorité technologique et tactique.

Et ils s'invitent même dans la société civile ! Prenons l'exemple des drones. Ils sont d'abord développés pour les besoins militaires, massivement utilisés en Afghanistan par exemple et ils sont d'une redoutable efficacité sur le terrain. Mais aujourd'hui, les drones de loisirs constituent un des cadeaux les plus appriéciés pour Noël ! Mais bien entendu, les recherches les plus avancées et les plus secrètes restent la chasse gardée des militaires.

D'où de nombreuses préoccupations, qui ne sont donc pas limitées au militaire, puisque la prise de contrôle à distance de machines (drones ou voitures plus ou moins autonomes) semble relativement aisée aujourd'hui pour un hacker expérimenté.

Certains estiment que l'on se dirige de plus en plus vers une « guerre de robots », où les humains seraient soit inutiles, soit épargnés.

Mais malheureusement, les humains constitueront toujours une cible. Le rôle des combattants humains sera en revanche modifié. Les robots seront une aide de plus en plus précieuse pour les militaires. Et les soldats seront de plus en plus professionnels avec des connaissances de plus en plus pointues pour pouvoir se servir de ses armements. Mais attention, si l'image du conscrit auquel on donne un fusil pour sauver la patrie en danger parait difficilement inimagineable aujourd'hui avec ces nouvelles armes sophistiquées, les conflits sont de moins en moins classiques et l'exemple afghan avec l'enlisement d'armées très bien équipées et en apparence invicibles est édifiant: des engins improvisés à la Mac Gyver peuvent causer à la longue autant de dommages qu'un robot-tueur.

ll n'y a pas de guerre sans morts. Même en utilisant des armées de robots contre des machines, comment imaginer qu'un conflit se finirait sans pertes civiles, collatérales ou non. Et être tué par un robot ou un soldat, quelle différence après tout ?

En arriverons nous pour autant au cauchemar Skynet, comme dans le film Terminator où l'homme est traqué par les robots devenus totalement autonomes et hostiles ?

Rien n'est moins sur. Mais force est de constater que l'on assiste aujourd'hui à une course à l'armement de plus en plus rapide. Les tests britanniques d'autonomous warrior le démontrent. Les français ne sont pas en reste et s'équipent de chars utonomes estoniens dans le cadre du programme Scorpion par exemple, avec à terme de plus en plus d'autonomie pour ces robots gràce à la délégation par apprentissage qui se développe.

Et c'est là un des dangers, la programmation des algorithmes, qui reste humaine. Qui va-t-on décider de neutraliser et en fonction de quels critères nourrira-t-on la machine ?

On peut donc s'interroger sur le fait que droit international soit vraiment respecté avec ces drones qui neutralisent à distance. Et si demain une machine sans opérateur humain vient abattre un adversaire dans un pays étranger, quel droit appliquer, qui va rendre des comptes ?

Les enjeux éthiques sont également au coeur de ce débat. Envoyer des robots à la guerre pourrait causer des erreurs de jugement par le commandement. On le voit d'ailleurs avec les ciblages par drones avec un sentiment d'impunité du tireur humain derrière son écran, un "effet cockpit" qui ne doit en rien atténuer la responsabilité du tireur en cas de crime de guerre. Qui sera le responsable des actions du robot-tueur: le programmateur de l'intelligence artificielle, le constructeur, son financier ou le commandant de l'opération ?

Un encadrement juridique rationnel des SALA s'impose donc, notamment pour définir leur utilisation, mais aussi, question essentielle, les responsabilités, car on ne peut pas transférer à des machines la responsabilité de prendre des décisions ayant des conséquences légales.

Malheureusement à la question "Un robot peut-il respecter le droit sur le champ de bataille ?" c’est par la négative que Human Right Watch a répondu dans son dernier rapport du 21 aout 2018 Les robots tueurs échouent au test moral et juridique, car ils violent notamment la "clause de Martens"

Me Thierry Vallat a répondu aux questions de Sputnik News le 26 novembre 2018 sur le thème: Robots-tueurs, de la science-fiction aux prochains champs de bataille

Lire également notre article Les SALA ou Robots-tueurs: vers une nécessaire reglementation des systèmes d'armes léthaux autonomes

(crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

6 novembre 2018 2 06 /11 /novembre /2018 06:00

Le projet européen Iborder control: quand une intelligence artificielle va jouer au détecteur de mensonges sur les passagers aériens selon leur genre et leur appartenance ethnique

L'intelligence artificielle va-t-elle prochainement débusquer les mensonges des passagers aériens lors des contrôles de sécurité, grâce à une analyse de leurs micro-expressions.

C'est en effet un véritable détecteur de mensonges profilé qui est en phase de test dans des aéroports grecs, lettons et hongrois a annoncé la Commission européenne dans un récent communiqué du 24 octobre 2018.

Il s'agit d'un projet européen financé par l'UE destiné à fluidifier le trafic des voyageurs qui ne cesse d'augmenter dans les aéroports du vieux continent.

L'idée est simple et.... terrifiante: au passage de la frontière, vous serez interrogé par une IA intégrant des facteurs de risques personnalisés et devrez répondre à des questions posées par une sorte de détecteur de mensonges profilé en fonction "du genre, de l'appartenance ethnique et de la langue" du voyageur

Le projet est calqué sur les tests effectués au Canada en 2017 avec une IA capable de détecter les mensonges à partir des comportements physiologiques dans ses aéroports. Cette IA surnommée "Avatar" (pour Automated Virtual Agent for Truth Assessments in Real Time) pourrait ainsi aider les douaniers à contrôler les voyageurs en cas de doute sur leur motivation à venir.

Si l'on en croit l'enthousiaste communiqué européen, ce projet répondant au doux nom de "IBORDERCTRL" développe un système de contrôle intelligent ‘qui va faciliter le travail des douaniers et services de sécurité en repérant les immigrants illégaux et ainsi contribuerait à prévenir les crimes et le terrorisme.

Dans un premier temps, il faudra télécharger une application en ligne du systeme The IBORDERCTRL system en téléchargeant la photographie de votre passeport, du visa et les justificatifs de ressources, puis utiliser une webcam pour répondre à des questions d'un avatar de douanier qui tiendront compte du genre, de l'appartenance ethnique et de la langue" du voyageur.

Le système de détection va alors analyser les micro-expressions du visage pour confondre les personnes qui mentiraient sur les véritables raisons de leur voyage ou leurs babages.

Cette étape préalable ne sera que la première du genre puisque à votre arrivée à la véritable frontière, le système vous préviendra de vos droits et des procédures, de même que prodiguera des conseils et des avertissements pour décourager les activités illégales !

Ceux qui auront eu la chance d'obtenir une bonne note au premier exercice bénéficieront d'un contrôle allégé, tandis que les autres, considérés à haut risque, seront sévèrement reévalués.

Leurs données personnelles seraient croisées par les officiers de contrôle, par exemple les photos telles que téléchargées pour passer le précontrôle et celles déjà utilisées lors de voyages précédents.

Bien entendu, vos empreintes digitales, le scan de votre réseau veineux palmaire et la reconnaissance faciale seraient alors également au programme de ce cauchemar biométrique.

Le communiqué est malheureusement bien laconique sur les limites au recueil des données biométriques, la conservation des données, leur durée de conservation, leur accès etc. qui ne semblent guère préoccuper les initiateurs du projet....

Rappelons que Londres teste déjà un système destiné lui aussi à réduire les files d'attente aux portiques du metro: les passagers du tube n'auront bientôt plus besoin de ticket ou de pass avec ce nouveau système de billetterie à partir de la reconnaissance faciale et de l’analyse des veines palmaires qui laisse craindre une surveillance de masse de plus en plus présente.

(crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans protection des données personnelles Lutte contre le terrorisme droit des Robots
commenter cet article …

11 juillet 2018 3 11 /07 /juillet /2018 11:04

Révision de la loi de bioéthique: le cadrage juridique du Conseil d'Etat du 6 juillet 2018

"Dignité, liberté, solidarité" : le Conseil d’État dévoile publiquement ce 11 juillet 2018 sa lecture du modèle bioéthique français.

Dans le délicat domaine de la bioéthique, le Conseil d’État a fait sienne la mise en garde du doyen Carbonnier : "Ne légiférer qu'en tremblant, préférer toujours la solution qui exige moins de droit et laisse le plus aux mœurs et à la morale".

Le Conseil d’Etat avait en effet été saisi, en décembre 2017, par le Premier ministre d’une demande de cadrage juridique préalable à la révision de la loi de bioéthique portant sur les sujets suivants : la procréation, les conditions du don d’organes, de tissus et de cellules (dont les gamètes), du don du sang, la génomique, les neurosciences, l’intelligence artificielle et les big data, la fin de vie, la situation des enfants dits "intersexes".

L‘étude "Révision de la loi de bioéthique : quelles options pour demain ? " a été adoptée par l’Assemblée générale plénière du Conseil d’Etat du 28 juin 2018 et remise au Premier ministre le 6 juillet 2018.

Les principes du modèle bioéthique français

Le Conseil d’État livre sa lecture du modèle bioéthique français fondé sur le triptyque dignité, liberté, solidarité. Il se caractérise par :

- la place prééminente du principe de dignité qui se traduit par une protection particulière du corps humain : respect, inviolabilité et extra-patrimonialité du corps,

- la prise en compte du principe de liberté individuelle, qui s’exprime à travers l’obligation de consentement, le droit au respect de la vie privée, l’autonomie du patient

- l’importance accordée au principe de solidarité, avec une certaine conception du don altruiste, l’attention portée aux plus vulnérables et la mutualisation des dépenses de santé.

L’étude confronte les questions à l’ordre du jour de la révision à ce « modèle », pour éclairer le législateur sans se substituer à lui. Elle le fait en évaluant la contrainte juridique, en indiquant les options possibles et en identifiant leurs implications dans un souci de cohérence.

Les questions de procréation : AMP, autoconservation des ovocytes, GPA…

En ce qui concerne l’assistance médicale à la procréation (AMP), le droit ne contraint ni au statu quo ni à l’évolution des conditions d’accès. Ni le principe d’égalité, ni un prétendu « droit à l’enfant » n’impose ainsi l’ouverture de l’AMP. L’intérêt supérieur de l’enfant est un principe important qui doit inspirer le législateur, mais qui ne lui impose pas de maintenir la législation en l’état et ne l’empêche pas de chercher des solutions autres que celles qui existent actuellement, en opérant une conciliation entre plusieurs motifs d’intérêt général. Comme le souligne Bruno Lasserre, vice-président du Conseil d’État : « Un droit à l’enfant : non. L’intérêt de l’enfant : oui avec d’autres impératifs d’intérêt général... ».

L’étude examine les différents scénarios possibles dans l’hypothèse d’une ouverture de l’AMP et recommande de créer, le cas échéant, un mode d’établissement de la filiation spécifique permettant tant à la mère biologique qu’à la mère d’intention d’établir son lien de filiation à l’égard de l’enfant dès la naissance de celui-ci, de manière simple et sécurisée sans imposer une réforme d’ensemble du droit de la filiation. Par ailleurs, l’étude constate que si une AMP « non pathologique » devait être autorisée, il serait sans doute préférable de prévoir sa prise en charge par l’assurance maladie, compte tenu de la difficulté d’objectiver une différence entre les bénéficiaires et de l’enjeu financier modeste.

La même absence de contraintes juridiques se retrouve sur beaucoup de sujets et notamment l’autoconservation ovocytaire. Sur un plan éthique, la lourdeur des traitements à subir et le risque que l’autoconservation réduise, notamment sous la pression de leurs employeurs, la liberté des femmes de pouvoir procréer pendant leur période de fertilité́, plaident en faveur du statu quo. A l’inverse, dans un contexte social qui voit l’âge de la première grossesse reculer, l’autoconservation peut se concevoir aussi comme une mesure émancipatrice permettant aux femmes de se libérer des contraintes physiologiques en évitant de longs, douloureux et coûteux parcours d’AMP se soldant par des échecs.

Sur la gestation pour autrui, le Conseil d’État souligne sa contrariété avec les principes d’indisponibilité du corps et de l’état des personnes qui le conduit à en exclure le principe. Celle–ci implique, en effet, la mise à disposition par une femme de son corps pendant neuf mois au profit de tiers, avec les risques inhérents à toute grossesse et tout accouchement, la renonciation de celle-ci à son état de mère et la remise de l’enfant. Selon le vice-président, il s’agit « d’une contractualisation de la procréation incompatible avec notre modèle, y compris lorsqu’elle est présentée comme éthique ».

Le Conseil d’État estime aussi envisageable de permettre aux enfants issus d’un don de gamètes d’accéder, à leur majorité, à l’identité du donneur si celui-ci y consent. Le vice-président indique toutefois que c’est à la condition que soit préservé l’anonymat du don au moment où il est effectué : « oui à l’accès aux origines, non au choix du donneur ».

La fin de vie

A propos de la fin de vie, le Conseil d’État rappelle que le droit en vigueur est très récent et qu’il est le fruit d’un débat approfondi. Il permet, en outre, de répondre à l’essentiel des demandes d’aide médicale à mourir : « L’accès à des soins palliatifs de qualité est un préalable nécessaire à toute réflexion éthique sur la fin de vie ». Il n'y a donc pas lieu à légiférer sur ce point.

La génétique et la génomique

Les progrès vertigineux de la génétique et de la génomique soulèvent des questions majeures « souvent méconnues et qui pourtant concernent chacun d’entre nous dans ce qu’il a de plus intime » selon le vice-président.

Le développement des tests génétiques facilités par la banalisation du séquençage génomique questionne la pertinence de l’interdit actuel d’y avoir recours pour soi-même ou pour un tiers. Si une dépénalisation était envisagée, deux garanties sont indispensables : maintenir l’interdiction de procéder à un test pour un tiers et interdire explicitement aux assureurs et aux employeurs de tirer parti de ces données.

L’édition génique permet d’inactiver certains gènes responsables de maladies voire d’amplifier l’expression d’autres susceptibles de présenter un intérêt particulier. Le Conseil d’État constate que si cette technique très novatrice devait donner lieu à des développements en matière clinique sur des cellules germinales ou des embryons, elle se heurterait aux stipulations de la convention d’Oviedo et aux dispositions du Code civil qui, en l’état, interdisent les modifications du génome transmissibles à la descendance.

L’intelligence artificielle

Enfin, l’étude montre que l’intelligence artificielle à travers les objets connectés et le développement des algorithmes peut modifier les places respectives du patient et du médecin.

Le vice-président met en avant « l’importance de l’humain, qu’il s’agisse du consentement indispensable du patient à l’utilisation par d’autres de ses données ou du rôle irremplaçable du médecin dans l’établissement d’un diagnostic et la conduite du colloque singulier ».

En particulier, le Conseil d’État estime qu’il n’est pas nécessaire, en l’état actuel du développement technologique, d’attribuer une personnalité juridique aux dispositifs d’intelligence artificielle. Une telle idée procède en effet d’une représentation anthropomorphiste de ces outils. Or, d’une part, l’intelligence artificielle demeurera, sans doute pour longtemps, une intelligence dite « faible », capable de n’exécuter qu’un seul type de tâches. D’autre part, l’autonomie des systèmes d’apprentissage automatique est toujours relative, dans la mesure où son action ne résulte d’aucune intentionnalité et où son fonctionnement dépend de paramétrages effectués à l’origine par des êtres humains

Quant à l’exigence d’une responsabilité maintenue du professionnel de santé, le Conseil d’État estime que les règles actuelles de la responsabilité médicale sont susceptibles de s’adapter aux évolutions issues du développement des systèmes d’intelligence artificielle

> consulter l'étude
> lire le dossier de presse

(source: Conseil d'Etat)

(crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans Bioéthique droit des Robots
commenter cet article …

11 mai 2018 5 11 /05 /mai /2018 11:09

Quand la DRH robot chargée du recrutement s'auto-licencie !

Vera, la sémillante DRH virtuelle russe du groupe L'Oreal s'est auto-licenciée...

Le géant du luxe avait tenté de confier à une intelligence artificielle la présélection de candidats et le passage d’entretiens de recrutement.

Les équipes russes du groupe avait mis en place avec la start-up Stafori, édiiteur d'un robot RH la préselection de candicats pour pourvoir leurs postes vacants.

Il s'agissait de faire passer un premier entretien téléphonique, grâce à un système de de reconnaissance vocale par une intelligence artificielle nourrie par ses programmateurs de 13 milliards d'exemples de syntaxe, de discours de télévision et de pages Wikipédia !

Le "test and learn" n’a pas été concluant et il a été décidé d'arrêter net la phase pilote en débranchant la malheureuse Vera, partie sans indemnités https://www.exclusiverh.com/articles/test-recrutement/l-oreal-limoge-son-robot-drh.htm

C'est qu'après avoir eu leur propre syndicat (lire Comme Benji 3.0 le chatbot, les robots ont désormais leur syndicat) , voilà que les chatbots, ces robots conversationnels, recrutent !

Ou plus exactement, ils sont désormais fréquemment utilisés pour effectuer la pré-selection des futurs collaborateurs comme par le tour-opérateur Marco Vasco .

Le chatbot, prénommé...Marco, interroge par exemple les candidats connectés sur Messenger la messagerie de Facebook, pour lui décrire des souvenirs de voyage, en leur montrant des photos de capitales européennes ou d'îles de rêve.

Et à l'issue de mini-épreuves testant créativité et qualité d'élocution, le robot sélectionnera les heureux préselectionnés.

Cette méthode de recrutement se veut paradoxalement "plus humaine" que l'envoi traditionnel de CV et est déjà utilisée par le groupe Adecco avec Aloha ou le Cabinet Mazars avec Sam.

L'algorithme Marco sera-t-il plus objectif qu'un CV ? Cela dépendra bien sur de sa programmation.

En tous cas l'expérience Vera a fait long feu.Et l'uberisation sociale frappe également déjà les robots

En effet, alors que grandissent les craintes du remplacement des salariés humains par des machines, on apprend que des restaurants de la ville chinoise de Canton licencient des robots-serveurs jugés incompétents !

Très populaires dans certains pays d’Asie comme la Chine et le Japon, de nombreuses entreprises, commerces, ou services se sont en effet dotés de robots pour remplacer leurs employés.

« Les robots comprennent une quarantaine de phrases et de consignes de la vie de tous les jours. Ils ne tombent pas malades, ils ne réclament pas de vacances ni de jours de congé » argumente le patron d’un restaurant de la province du Jiangsu pour justifier le recours aux robots-serveurs.

Bien que la main d’œuvre soit abondante en Chine, les établissements de restauration employant des robots ont tendance à augmenter, et se comptent désormais à une bonne dizaine, selon les sources chinoises, à Kunshan, Haikou, Ningbo, Changsha.

Les robots font bien sur office d’attraction pour la clientèle, mais permettent également de substantielles économies, comme dans ce restaurant de ramens shanghaïen, où deux robots de type Chef Cui sont capables de préparer un bol de nouilles en 90 secondes.

Embaucher un robot coûte environ 50.000 yuans, soit plus de 6 000€, sans compter les centaines de yuans chaque mois pour l’électricité et les réparations.

Mais amère désillusion, les robots affectés au service ne répondent pas vraiment aux attentes de leur patron en raison de leurs maladresses et dysfonctionnements répétitifs. ..

Si les robots sont d’excellents moyens d’augmenter la productivité quand ils sont assignés à des tâches répétitives, ils ne seraient en revanche pas encore adaptés aux emplois qui demandent des interactions fréquentes avec les humains.

Le site Shangaiist relève qu’au lieu de faire gagner du temps aux équipes, les robots se révèlent assez maladroits.

« Ils n’étaient pas capable de porter des bols de soupe ou d’autres plats de façon stable, et ils tombaient souvent en panne. Le boss a décidé de ne plus les utiliser », confie un employé. Une serveuse pointe du doigt les limites de ses collègues artificiels. « Leurs compétences sont limitées. Ils ne peuvent pas prendre de commande, ni verser de l’eau chaude pour le thé ».

Sur les trois restaurants cantonnais qui employaient des robots, deux ont fermé leurs portes et le troisième, appartenant à la chaîne Heweilai, est celui qui a licencié ses robots pour "incompétence", précise H+ magazine.

Aucun défenseur des robots congédiés n'a pu bien entendu mettre en cause une formation insuffisante ou une programmation défectueuse, la sanction étant irrémédiable et sans appel. Comme Vera qui ne pourra bénéficier d'indemnités.

Le droit du travail appliqué aux robots n'est donc pas encore mis en place, mais on pourrait déjà imaginer une section spécifique dédiée aux intelligences artificielles dans le code du travail.

Qui a dit que les robots allaient piquer tout le boulot des humains ? (mais déboule désormais dans le game Duplex, l'IA conversationnelle de Google, qui va peut-être changer bien des choses...)

Me Thierry Vallat a défendu sur ce thème l'intelligence artificielle et les robots au procès organisé le 21 octobre 2017 pour la 3e édition du Tribunal des flagrants délires RH Maitre Thierry Vallat plaide pour l'intelligence artificielle et les robots

(crédit dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots
commenter cet article …

30 mars 2018 5 30 /03 /mars /2018 06:26

Voitures autonomes: parution du décret du 28 mars 2018

Quelques jours à peine après le drame de Tempe (Arizona) dans lequel une voiture autonome Uber a écrasé une passante, publication en France au journal officiel de ce 30 mars du très attendu décret n° 2018-211 du 28 mars 2018 relatif à l'expérimentation de véhicules à délégation de conduite sur les voies publiques

Ce texte précise la détermination des conditions de délivrance et des modalités de mise en œuvre de l'autorisation de circulation à des fins expérimentales de véhicules à délégation de conduite

Prévue par l'article 1er de l'ordonnance n° 2016-1057 du 3 août 2016 relative à l'expérimentation de véhicules à délégation de conduite sur les voies ouvertes à la circulation publique, l'autorisation de circulation à des fins expérimentales d'un véhicule à délégation de conduite est délivrée à des conditions et selon des modalités que le décret prévoit, conformément à l'article 3 de l'ordonnance.

Le décret prévoit que le superviseur humain peut se trouver à l'extérieur du véhicule, mais il devra maintenir un contact visuel direct avec les navettes depuis un endroit proche. Il pourrait ainsi reprendre à distance le contrôle du véhicule en cas problème.

Les véhicules concernés par l'autorisation peuvent circuler sur des voies ouvertes à la circulation publique sous couvert d'un titre provisoire de circulation spécifique qui s'ajoute au nombre de ceux actuellement prévus par l'article R. 322-3 du code de la route.

Les véhicules sont équipés d'un dispositif d'enregistrement permettant de déterminer à tout instant si le véhicule a circulé en mode de délégation partielle ou totale de conduite. Les données sont automatiquement et régulièrement effacées.

En cas d'accident, les données enregistrées au cours des dernières cinq minutes sont conservées par le titulaire de l'autorisation durant un an.

D'autres conditions ont été précisées:

I. - Lors de l'activation des fonctions de délégation de conduite, une personne assure, en qualité de conducteur, la conduite du véhicule.
II. - Lors de l'activation des fonctions de délégation de conduite, le conducteur est à tout instant en capacité de prendre le contrôle du véhicule, notamment en cas d'urgence ou lorsque le véhicule sort des conditions d'utilisation définies pour l'expérimentation.
III. - Le conducteur doit avoir reçu une formation préalable adéquate aux fonctions de délégation de conduite mises en œuvre pendant l'expérimentation.
IV. - L'autorisation d'expérimentation peut autoriser le conducteur du véhicule à se trouver physiquement à l'extérieur du véhicule. Il doit alors être en mesure de prendre le contrôle du véhicule à tout instant.

Pour les véhicules affectés au service de transport public de personnes ou de marchandises, le décret procède à des adaptations des articles R. 3113-10 et R. 3211-12 du code des transports. Ces adaptations permettent de simplifier l'inscription aux registres des transporteurs (de personnes ou de marchandises) des entreprises souhaitant faire l'expérimentation d'un service de transport composé uniquement de véhicules à délégation de conduite.

Rappelons que les autorités de l'Arizona ont interdit le 26 mars 2018 à Uber de faire rouler des voitures autonomes sur les routes de cet Etat du sud-ouest des Etats-Unis en raison de l'accident qui a coûté la vie à une piétonne il y a quinze jours

Alors que Toyota ou Nvidia ont suspendu leurs tests et qu'Uber n'a pas renouvelé sa demande d'autorisation en Californie, l'accident de Tempe ne semble donc pas remettre en cause le développement de la voiture autonome, par exemple avec l'américain Waymo (la branche de Google qui développe les voitures sans conducteurs).

Même si la conduite autonome a encore du chemin à faire avant d'être complètement sûre, de nombreuses réglementations sont mis en place, à l'appui des colossaux investissements engagés, avec notamment la chambre des Représentants américaine qui a approuvé en septembre 2017 un texte censé faciliter le déploiement des véhicules autonomes, en empêchant les Etats d'imposer des réglementations trop restrictives.

(crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans droit des transports droit des Robots
commenter cet article …

31 janvier 2018 3 31 /01 /janvier /2018 07:57

Véhicules autonomes: enjeux économiques et cadres légaux débattus au Sénat le 31 janvier 2018

Faut-il autoriser la circulation de voitures, bus ou camions dépourvus de volant et de pédales, dont l'itinéraire est déterminé par une intelligence artificielle ? Peut on admettre que le réseau routier devienne l'apanage de robots sur roues ?

Relevant à la fois de toutes les problématiques inhérentes à l'intelligence artificielle et à la robotisation, la conduite sans intervention d'un chauffeur est par excellence le thème dont la maîtrise technique aura des conséquences déterminantes pour la géoéconomie de l'Union européenne au XXIe siècle.

Un rapport sénatorial n°117 du 27 novembre 2017 sera débattu aujourd'hui au Sénat en séance publique sur le thème "Véhicules autonomes : enjeux économiques et cadres légaux".

Pour les auteurs de ce rapport, tant que la cybersécurité n'est pas garantie, il ne faut pas autoriser les voitures autonomes

Se posent également des problème éthiques et juridiques (lire notre article Voitures autonomes: problèmes juridiques et éthiques)

Toutefois un chemin considérable a déjà été parcouru : des navettes totalement autonomes transportent des salariés sur le réseau routier privé de leurs employeurs ; les salons de l'automobile comportent toujours plus de prototypes (dénommés concept cars par les professionnels) pouvant circuler de façon totalement autonome ; surtout les voitures haut de gamme destinées aux particuliers comportent des dispositifs de sécurité en nombre croissant, qui pourraient servir un robot aussi bien qu'un chauffeur humain.

Plusieurs propositions ont donc été faites par le rapport sénatorial du 27 novembre 2017 pour avancer sur ces questions:

1. Développer à grande échelle des essais de voitures sans chauffeur sur les routes de l'Union européenne et au maximum sur celles d'États voisins.

2. De même, expérimenter les protocoles de communication susceptibles d'être utiles aux futurs véhicules coopératifs.

3. Agir au sein des Nations unies pour adapter les textes élaborés dans cette enceinte aux nécessités des expérimentations à conduire, puis pour tirer les conséquences juridiques des résultats obtenus dans l'assistance poussée aux conducteurs.

4. Lorsque des formes très poussées d'assistance auront été autorisées à emprunter les voies de communication terrestres, mettre progressivement fin à la circulation de véhicules par trop dépourvus d'assistance, afin d'éviter que l'hétérogénéité du parc ne devienne cause d'accidents.

5. Accompagner l'apparition de voitures autonomes avec des prescriptions juridiques spécialement élaborées à leur intention, afin de pallier d'avance l'irréalisme - dans leur cas - de procédures judiciaires courantes lorsque des conducteurs humains sont mis en cause.

5. Favoriser le développement de services autonomes de transport public empruntant des axes routiers spécialement aménagés à cet effet, par exemple des navettes empruntant un itinéraire déterminé, avec des arrêts à la demande pour charger ou décharger des passagers.

6. Agir au niveau international pour garantir la protection des données personnelles recueillies sur le territoire de l'Union européenne.

7. S'opposer à l'homologation de véhicules dépourvus de volant et de pédales, pouvant circuler sans personne à bord, jusqu'à ce que leur cybersécurité soit parfaitement assurée

Me Thierry Vallat est intervenu sur la chaine Public Sénat le 31 janvier 2018 à 17h15 lors d'un débat organisé sur ce thème

Retrouvez également l'audition du mercredi 17 janvier 2018 par la commission de l'aménagement du territoire et du développement durable d'Anne-Marie IDRAC, Haute responsable chargée de piloter la stratégie sur le véhicule autonome (le compte rendu est consultable ici).

(Crédits dessin: Cabinet Thierry Vallat)

Etats généraux de l'alimentation / Réforme du CESE / Voitures autonomes - Sénat 360 (31/01/2018)

Quel avenir pour l'agriculture française ? Comment rééquilibrer les négociations commerciales entre producteurs et distributeurs ? Comment mieux consommer? C'est tout l'enjeu du projet de loi ...

https://www.dailymotion.com/video/x6e0h3m

Véhicules autonomes: enjeux économiques et cadres légaux débattus au Sénat le 31 janvier 2018

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots droit des transports
commenter cet article …

3 janvier 2018 3 03 /01 /janvier /2018 05:22

Drones de loisir: le point de la réglementation au 1er janvier 2018

La France a été l'un des premiers pays à se doter, dès 2012, d’une réglementation qui a été complétée par deux nouveaux arrêtés du 17 décembre 2015.

Parmi les principales mesures applicables, le pilote d’un drone de loisir (aéromodèle) doit se limiter à un vol à vue, avec une distance maximale prévue de 200 mètres. L’altitude ne doit pas excéder 150 mètres et les zones urbanisées sont exclues du survol et le vol de nuit est également prohibé.

Il n'est également pas envisageable de filmer ou de photographier des passants ou des voisins avec un drone sans leur accord préalable, ni de diffuser une vidéo en ligne par exemple Règles d'usage d'un drone de loisir

Puis a été adoptée par le Parlement le 13 octobre 2016 la loi relative au renforcement de la sécurité de l'usage des drones civils.

Cette loi n° 2016-1428 du 24 octobre 2016 réprime depuis lors d'une amende de 15.000 euros assortie de 6 mois d’emprisonnement le survol ''par maladresse ou par négligence'', au-dessus des zones qualifiées de ''sensibles'', telles que centrales nucléaires, zones militaires ou aéroports, conformément à l'article L. 6232-12 du Code des transports (lire notre article sur le sujet La loi sur la sécurisation des Drones civils adoptée ).

La loi n° 2016-1428 du 24 octobre 2016 impose par ailleurs aux drones de plus de 800 g d'être enregistrés à compter du 1er juillet 2018 et une immatriculation pour ceux de plus de 25 kg ,ainsi notamment qu'une obligation de formation du télépilote, de bridage et de mise en place d'un transpondeur.

Les fabricants ou importateurs d'aéronefs circulant sans personne à bord devront également inclure dans les emballages de leurs produits, ainsi que dans les emballages de leurs pièces détachées, une notice d'information relative à l'usage de ces aéronefs. Cette notice rappelle les principes et les règles à respecter pour utiliser ces appareils en conformité avec la législation et la réglementation applicables.

On attend cependant toujours les décrets d'application qui sont annoncés pour le 1er trimestre 2018. Nous y reviendrons aussitôt qu'ils seront publiés.

Seule est intervenue récemment la publication de l'Arrêté du 27 octobre 2017 fixant la liste des zones interdites à la prise de vue aérienne par appareil photographique, cinématographique ou tout autre capteur. Ce texte définit les zones interdites, en France, à la prise de vue aérienne par appareil photographique, cinématographique ou tout autre capteur. L’arrêté précise donc les zones interdites à toute captation aérienne au dessus du territoire français par un drone.

Une notice très pédagogique de la DGAC résume par ailleurs les « bonnes pratiques » en matière de pilotage de drone avec les 10 principes pour voler en conformité avec la loi; n'hésitez pas à vous y référer et assurez vous de vérifier la carte interactive qui vous renseignera sur les zones interdites ou non de survol https://www.geoportail.gouv.fr/donnees/restrictions-pour-drones-de-loisir

Il existe enfin sur le site Internet du ministère de l’Environnement un dossier complet sur la réglementation en vigueur, avec notamment les deux arrêtés de 2015 qui distinguent plusieurs régimes en fonction, non pas des machines elles-mêmes, mais de l’utilisation qui en est faite. :

Retrouvez Me Thierry Vallat sur le droit des drones dans "Justice décodée" sur France Info TV interrogé par Dominique Verdeilhan le 20 décembre 2017

Justice décodée: le droit des Drones 2018

Me Thierry Vallat, avocat au barreau de Paris, répond le 20 décembre 2017 aux questions de Dominique Verdeilhan sur France Info dans Justice décodée sur la réglementation des drones civils

https://www.youtube.com/watch?v=aGzzSvI44kI&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des drones droit des Robots
commenter cet article …

31 décembre 2017 7 31 /12 /décembre /2017 09:17

Voitures autonomes: problèmes juridiques et éthiques

Les véhicules autonomes ont le vent en poupe et leur succès ne se dément pas avec de multiples expérimentations sur les routes européennes, comme par exemple à Tallinn Des véhicules autonomes dans la capitale de l'Estonie)

La Convention de Vienne sur la circulation routière du 8 novembre 1968 a du être modifiée en mars 2016 et avait ouvert ainsi la voie à la conduite automatisée avec toutefois une restriction, à savoir que les systèmes de conduite automatisée doivent pouvoir "être contrôlés voire désactivés par le conducteur".

Rappelons qu'en France les expérimentations sur route des ''voitures à délégation de conduite'', sont autorisées par ordonnance du 3 août 2016 (lire mon article dans le Village de la justice La France autorise enfin par ordonnance du 3 août 2016)

La loi n°2015-992 du 17 aout 2015 relative à la transition énergétique pour la croissance verte avait en effet disposé dans son article 37 - IX que "le gouvernement est autorisé à prendre par ordonnance toute mesure relevant du domaine de la loi afin de permettre la circulation sur la voie publique de véhicules à délégation partielle ou totale de conduite (…) à des fins expérimentales…"

Mais le décret en Conseil d'Etat indispensable à la mise en oeuvre tarde à venir et il semblerait bien qu'en France les voitures autonomes aillent plus vite que la réglementation, alors que les constructeurs sont tous bien avancés dans le développement de ce type de véhicule.

Et se posent également, outre des problèmes juridiques, des défis éthiques.

L'Allemagne est récemment devenue le premier pays à présenter des règles éthiques pour les voitures sans chauffeurs.

Les allemands ont présenté en effet le 23 août 2017 un guide éthique des règles qui devraient s'appliquer aux véhicules autonomes, avec par exemple pour priorité la sécurité sans discrimination des humains sur les dommages aux biens ou sur des animaux.

Le magazine C dans l'air du 30 décembre 2017 s'est interrogé sur l'Intelligence Artificielle et en particulier le développement des voitures autonomes https://www.france.tv/france-5/c-dans-l-air/363611-intelligence-artificielle-doit-on-s-en-mefier.html

Me Thierry Vallat a ainsi pu exposer dans cette émission le dilemme du tramway, décrit pour la première fois par Philippa Foot en 1967, et principal sujet de cette réflexion sur l'éthique en la matière: est-il moral pour une personne d'effectuer un geste qui bénéficiera à un groupe de personnes A, mais, qui pourrait, ce faisant dans ces circonstances, nuire à une personne B ?

Il existe en effet deux types de programmation possibles pour l'intelligence artificielle de ces robots roulants: une voie dite " utilitariste" qui correspond à un véhicule privilégiant la sécurité du plus grand nombre et l’autre, dite "égoïste", privilégie pour sa part la sécurité individuelle du passager. Laquelle prévaudra ou faut-il laisser sa place au hasard ?

Lire également sur le sujet nos articles La première police d'assurance pour voiture autonome et Concilier valeurs morales et intérêts personnels le futur choix cornélien de la voiture autonome

Éthique des voitures autonomes

Thierry Vallat intervient sur l'éthique des voitures autonomes dans C dans l'air du 30 décembre 2017

https://www.youtube.com/watch?v=ar-DqVtVT-M&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots droit des transports
commenter cet article …

18 décembre 2017 1 18 /12 /décembre /2017 11:59

Algorithmes et éthique: il faut des droits-système organisant la gouvernance mondiale de notre univers numérique

Alors que se pose aujourd'hui avec une acuité nouvelle le débat sur la neutralité du net, la CNIL vient de publier le 15 décembre 2017 le rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et de l’intelligence artificielle.

Ce rapport s'intitule Comment permettre à l’Homme de garder la main ?

Des tâches complexes, parfois critiques, sont ainsi déléguées à des systèmes de plus en plus autonomes à mesure que les techniques d’apprentissage propres à l’intelligence artificielle se développent. Ces usages multiples et croissants, indissociables des masses de données inédites à disposition dans tous les secteurs, soulèvent de nombreuses questions parmi lesquelles:

L’intelligence artificielle va-t-elle augmenter l’homme plutôt qu’elle ne le supplantera ?

L’élaboration d’un modèle de gouvernance éthique de l’intelligence artificielle est-elle envisageable ?

Deux principes fondateurs pour une intelligence artificielle au service de l’homme peuvent ête dégagés aujourd'hui, qui pourraient s’inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l’ère numérique, de véritables "droits-système" organisant la gouvernance mondiale de notre univers numérique :

Un principe de loyauté appliqué à tous les algorithmes et intégrant les impacts collectifs, et pas seulement personnels, de ces derniers. Tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l’existence pourrait être directement affectée. L’intérêt des utilisateurs doit primer. Par exemple, un tel principe pourrait avoir vocation à s’appliquer à l’impact potentiel des réseaux sociaux sur la structure du débat public dans nos démocraties (segmentation du corps politique par le ciblage de l’information) ou à celui d’algorithmes de police prédictive sur des communautés ou quartiers entiers.
Un principe de vigilance/réflexivité : il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants. Ce principe constitue une réponse directe aux exigences qu’imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s’insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C’est l’ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes (par exemple, des comités d’éthique assurant un dialogue systématique et continu entre les différentes parties-prenantes).

Ces principes fondateurs doivent être complétés par des principes organisationnels ayant traits à l’intelligibilité et à la responsabilité des systèmes algorithmiques, ainsi qu’à la nature de l’intervention humaine dans la prise de décision algorithmique.

Le rapport dégage 6 recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.) :

Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ;
Constituer une plateforme nationale d’audit des algorithmes ;
Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées).

(Source: CNIL Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle )

(Crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique droit des Robots
commenter cet article …

9 décembre 2017 6 09 /12 /décembre /2017 14:12

Maitre Thierry Vallat plaide pour l'intelligence artificielle et les robots

Le 21 octobre 2017 avait lieu, pour la 3e édition du Tribunal des flagrants délires RH, le procès de l'intelligence artificielle et des robots.

Me Thierry Vallat assurait la défense des algorithmes et de l'IA.

Depuis le Kratt, le mythe du Golem, les créatures humanoïdes qui jalonnent l'histoire humaine, ainsi que dans une droite ligne l'intelligence artificielle, fascinent et perturbent.

Modernes Frankenstein, les robots depuis Asimov, progressent pourtant avec le deep learning.

J'ai plaidé pour eux et obtenu leur acquittement (avec contrôle judiciaire certes , mais c'est déjà pas si mal...)

La plaidoirie de la défense est à retrouver en intégralité, ainsi que le verdict sur ce blog (et l'ensemble sur http://www.reconquete-rh.org/index.php/tribunal

Merci encore à André Perret et François Greuze pour cette belle initiative, cet excellent moment partagé et heureux d'avoir contribué à cette revue de premier plan Un droit pour les robots ? Notre contribution au trimestriel Mag RH

TDFDRH3.12 - La plaidoirie - Thierry VALLAT

Intelligence Artificielle & RH

https://www.youtube.com/watch?v=mt69YuPhk4M&feature=youtu.be

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique droit des Robots
commenter cet article …

19 novembre 2017 7 19 /11 /novembre /2017 10:37

Le robot, la musique et les droits d'auteur

Un algorithme qui compose une musique produit-il une œuvre de l’esprit ? Et quels droits pourraient y être attachés ?

Depuis que les intelligences artificielles sont utilisées pour des activités artistiques, se pose la question de la protection éventuelle des oeuvres culturelles ainsi créées: la réponse est pour le moment très claire, elles ne sont pas protégées par des droits d'auteur.

Car le robot ne peut prétendre à être considéré comme auteur.

En effet, pour être protégée juridiquement par ce statut, une oeuvre doit être une création "de l'esprit", précise l'article L 111-1 du code de la propriété intellectuelle: "L'auteur d'une oeuvre de l'esprit jouit sur cette oeuvre, du seul fait de sa création, d'un droit de propriété incorporelle exclusif et opposable à tous."

Elle doit porter "l'empreinte de la personnalité" de l'auteur.

Ainsi, si le processus créatif est laissé à la personne physique, celle-ci devra être juridiquement considérée comme l’auteur de l'œuvre originale.

L'auteur d'une œuvre assistée sera donc celui qui prend les dispositions nécessaires pour la création de l’œuvre.

Mais un logiciel aux capacités intelligentes qui fait de la musique de manière autonome n'est-il ainsi que l’égal d’un piano ou d'une simple guitare ?

Au niveau européen, le rapport Delvaux avait notamment proposé d'accorder des droits de propriété intellectuelle spécifiques sur les œuvres crées par des intelligences artificielles et de réfléchir aux « critères de "création intellectuelle propre" applicables aux œuvres protégeables par droit d'auteur créées par des ordinateurs ou des robots ». Il a été adopté en février 2017 par le Parlement européen (lire notre article Vers la création d'une personnalité juridique électronique )

On retrouve en réalité, avec les créations artistiques générées par un ordinateur selon des algorithmes autonomes, les mêmes problématiques que celles qui se posent aux créations artistiques d’animaux: aucune oeuvre produite par des animaux, des plantes ou par la nature ne peut prétendre à un copyright. Mais le singe Naruto qui s’était pris en photo avec l'appareil d'un photographe professionnel laissé au pied d’un arbre recevra tout de même 25 % des revenus générés par l’image, via des œuvres de charité protégeant son habitat, suite à une longue procédure et un accord obtenu de haute lutte en septembre 2017 Selfie d'un singe: pas de droits d'auteur, mais un quart des revenus .

Alors, pourquoi ne pas en revenir aux fondamentaux du droit d'auteur concernant l'IA ?

A la base, comme le rappelait Victor Hugo en 1878 lors de son discours d'ouverture de l’Association littéraire et artistique internationale, une œuvre appartient par principe non pas à l’auteur mais à la société tout entière, et que c’est par l’effet d’un contrat social (le droit d’auteur) que l’œuvre est d’abord gérée en exclusivité par l’auteur pendant une période strictement limitée. La loi accorde à l’auteur un monopole temporaire, dont l’idée de base était qu’il devait permettre à l’auteur de créer d’autres œuvres.

La mise en place d'un "droit d’auteur des robots", avec des œuvres "robotisées" qui passeraient très rapidement dans le domaine public et dont les revenus pourraient servir à financer la création ne serait-elle pas dès lors une excellente idée, comme le suggérait le visionnaire Guillaume Champeau dès 2012 Quels droits d'auteur lorsqu'un robot compose une musique ?

(Crédits dessin: Cabinet Thierry Vallat)

Partager cet article

Repost0

Published by thierry vallat - dans Droit numérique Propriété intellectuelle droit des Robots
commenter cet article …

13 novembre 2017 1 13 /11 /novembre /2017 14:22

Un droit pour les robots ? Notre contribution au trimestriel Mag RH dont le 1er numéro est consacré à l'intelligence artificielle

Quand le droit du travail et des ressources humaines rencontre le droit des robots !

Le 1er numéro de MAG RH, le "Magazine de la Révolution et des Nouvelles Frontières RH" : http://www.e-rh.org/ReconqueteRH/Telecharger/LeMagRH1.pdf … … vient de sortir avec un dossier très complet consacré à l'IA dont l'article faut-il "Un droit des robots ?" spécialement rédigé par me Thierry Vallat

Le premier numéro de ce passionnant trimestriel qui fera date est composé sous la houlette d'André Perret et de François Geuze, éminents spécialites des RH, de 88 pages dédiées aux "Robots de l'aube" qui le classe comme un magazine-livre.

Les articles sont consacrés à l’Intelligence Artificielle avec le regard croisé de spécialistes, de sociologues, d’opérationnels, de philosophes, et donc de juristes !.

En prolongement, un évènement avec le "Tribunal des Flagrants délires RH" du 15 novembre 2017 à Paris, procès lors duquel Me Thierry Vallat défendra le fameux Al Goritme et ses complices, regroupés dans la bande dite "des Robots" ( le 15 novembre 2017 à 18h au Pavillon de l’Eau du 77 avenue de Versailles 75016 Paris sur réservation)

Le dossier du deuxième numéro porter sur les nouvelles stratégies syndicales, et le n°3 sur les femmes et les RH…

A télécharger sur http://dpmassocies.over-blog.com/2017/11/le-mag-rh-est-a-vous-rien-qu-a-vous.html

Partager cet article

Repost0

Published by thierry vallat - dans droit des Robots Droit du travail et de la sécurité sociale
commenter cet article …

Quand l'intelligence artificielle devient un détecteur de mensonges: après Avatar et Borderctrl dans les aéroports, voilà VeriPol qui démasque les faux plaignants !

Actualité de la reconnaissance faciale décembre 2018: elle s'invite dans les lycées de PACA dès janvier prochain

Vocabulaire de l'Intelligence artificielle: ne dites plus chatbot, mais dialogueur

Robots soldats: le programme Autonomous Warrior relance le débat sur les Systèmes d'armes létales autonomes (SALA)

Le projet européen Iborder control: quand une intelligence artificielle va jouer au détecteur de mensonges sur les passagers aériens selon leur genre et leur appartenance ethnique

Révision de la loi de bioéthique: le cadrage juridique du Conseil d'Etat du 6 juillet 2018

Les principes du modèle bioéthique français

Les questions de procréation : AMP, autoconservation des ovocytes, GPA…

La fin de vie

La génétique et la génomique

L’intelligence artificielle

Quand la DRH robot chargée du recrutement s'auto-licencie !

Voitures autonomes: parution du décret du 28 mars 2018

Véhicules autonomes: enjeux économiques et cadres légaux débattus au Sénat le 31 janvier 2018

Drones de loisir: le point de la réglementation au 1er janvier 2018

Voitures autonomes: problèmes juridiques et éthiques

Algorithmes et éthique: il faut des droits-système organisant la gouvernance mondiale de notre univers numérique

Maitre Thierry Vallat plaide pour l'intelligence artificielle et les robots

Le robot, la musique et les droits d'auteur

Un droit pour les robots ? Notre contribution au trimestriel Mag RH dont le 1er numéro est consacré à l'intelligence artificielle

Présentation

Le Cabinet Thierry Vallat

Recherche

Recherche

Dans les médias récemment

Archives

Articles Récents

Rubriques

Le Cabinet En Images

Catégories

Liens

Les principes du modèle bioéthique français

Les questions de procréation : AMP, autoconservation des ovocytes, GPA…

La fin de vie

La génétique et la génomique

L’intelligence artificielle

Présentation

Le Cabinet Thierry Vallat

Recherche

Recherche

Dans les médias récemment

Archives

Articles Récents

Rubriques

Le Cabinet En Images

Catégories

Newsletter

Liens

Suivez-moi