Étiquette : Poupées humanoïdes

Santé, surveillance, sexualité… et l’éthique dans tout ça ?
de Laurence Devillers
Relié – Livre grand format, 11 mars 2020
Éditions : L’Observatoire

Il faut nous y préparer : demain, robots, agents conversationnels (chatbots) et autres poupées humanoïdes vont détecter nos émotions avec de plus en plus d’acuité. Si nous sommes malheureux, ils nous remonteront le moral ; si nous sommes seuls, en difficulté, ils se feront aidants. Ces “amis artificiels” vont prendre une place grandissante dans la société. Or ils n’ont ni émotions ni sentiments, ni hormones de désir et de plaisir, ni intentions propres. À l’instar de l’avion qui ne bat pas des ailes comme un oiseau pour voler, nous construisons des machines capables d’imiter sans ressentir, de parler sans comprendre et de raisonner sans conscience. Si leur rôle peut être extrêmement positif, notamment dans le domaine de la santé, les risques de manipulation sont par ailleurs réels : dépendance affective, isolement, perte de liberté, amplifi­cation des stéréotypes (80 % de ces artefacts ont des voix, des noms – Alexa, Sofia – et des corps de femmes, qui en font des assistantes serviles ou des robots sexuels)… Seront-ils un prolongement de nous-mêmes ? Jusqu’où irons-nous pour programmer une émergence de conscience artificielle ? Et l’éthique dans tout ça ? Mêlant technologie, philosophie et neurosciences, Laurence Devillers pose les questions centrales de responsabilité sur l’application de ces robots “émotionnels” au sein de la société et les enjeux qu’ils représentent pour notre dignité humaine.

 

 

Autant les mathématiques m’ont toujours plu, autant leurs utilisations dans le futur (pas si futur d’ailleurs…), m’inquiète un peu !

Avec “Les robots émotionnels”, un livre qui traite de l’intelligence artificielle et bien d’autres choses, Laurence Devillers nous donne un aperçu exhaustif de notre mode de vie de demain, et nous projette dans le futur.

Pour la plupart, nous utilisons déjà les “IA” sans le savoir, sans même s’en rendre compte, et à ce niveau, je pense qu’il aurait fallu et qu’il faudrait maintenant qu’il y ai plus de communication dans ce sens, pour éviter un affolement qui pourrait être général, quand tous les gens connaîtront réellement l’avancée de tous les programmes qui tendent à “imposer” la “machine” dans notre monde.

Laurence alors, nous donne certaines clés pour anticiper et comprendre les interactions possibles entre nous et les robots et aussi les impacts qu’ils auront sur nos vies.
Son livre a pour but de démystifier tout ça, mais il soulève tout de même de nombreuses questions. Je l’ai lu à mon rythme. En parallèle, je me renseignais sur toutes les applications et théories que l’auteure développe. Elle tend à nous rassurer, mais c’est l’utilisation que “l’Homme” en fera, qui déterminera si oui ou non, nous irons vers des avancées ou vers des menaces. Les chatbots, ou assistants vocaux, sont-ils uniquement actifs sur notre demande, lorsque nous faisons appel à eux, ou sont-ils sur une écoute constante afin que nos “amis” du GAFAMI(NATU…) puissent nous faire tout type de propositions, même celles dont nous n’avons pas besoin ?
Je vous laisse méditer sur cette question… Euh ! Du moins sur la réponse…

Le livre est très intéressant. Oui, il m’a interpellé, il m’a fait voir les choses sur des angles différents, voire des angles nouveaux. L“AI” et les robots “émotionnels” ou pas, ceux qui “travailleront” pour les militaires, ceux qui s’occuperont de nos aînés, de nos enfants aussi sûrement, qui passeront l’aspirateur, qui tondront le gazon, les robots sexuels… font déjà et feront partie de notre quotidien. Reste à espérer que toutes ces applications et ceux qui les dirigent resterons éthiques !

À lire, même si mon p’tit cerveau a été un peu bousculé…

÷÷÷÷÷÷÷

Extraits :

« Pourquoi cherche-t-on à construire des chatbots (agents conversationnels) ou des robots émotionnels ? Pendant longtemps, philosophes et scientifiques ont opposé raison et émotion. Aujourd’hui, l’évolution des connaissances scientifiques, grâce aux neurosciences, montre que les émotions sont nécessaires au fonctionnement cognitif, à la mémorisation, à l’apprentissage et à l’interaction. Les dimensions affectives et sociales que l’on pouvait penser propres à l’humain envahissent les machines pour mieux simuler des capacités humaines et permettre une interaction plus naturelle mais aussi pour mieux capter notre attention. C’est en tous cas le défi de Google Home ou d’Alexa Amazon. Grâce à nos données personnelles, la machine va comprendre nos comportements affectifs les plus intimes et savoir s’adapter à nous. L’empathie, par exemple, un des piliers des relations et rapports humains, n’est peut-être plus notre apanage. »

« Apprendrons-nous à être prudent, participatifs scientifiques et philosophes ? Le XXIe siècle promet d’être riche en découvertes scientifiques sur les lois de la nature et le mystère de la vie. L’IA est un outil précieux pour faire avancer la médecine, l’écologie et globalement tous nos échanges dans la société. Nous allons comprendre de mieux en mieux ce que nous sommes et comment nous nous adapterons. Nous assisterons peut-être à la symbiose de la biologie avec l’informatique avec l’arrivée de machines hybrides, des bio-robots capable d’apprendre, des organismes artificiels capable de se différencier, selon leur histoire, de leur modèle standard, sorti de l’usine. Auront-elles réellement des émotions et une conscience d’elles-mêmes ? De quelle sorte ? »

« D’après l’idéologie transhumante dont Ray Kurweil, chercheur au MIT, auteur controversé et conseiller entre autre de Google, est le principal théoricien, la singularité technologique prédit une transformation profonde et radicale des sociétés humaines grâce au développement de l’intelligence artificielle. Ray Kurweil nous promet par exemple pour 2037 des machines qui ressentiront des émotions et auront le sens de l’humour. »

 

 

Laurence Devillers est professeur en intelligence artificielle à Sorbonne-Université et chercheur au LIMSI-CNRS. Elle obtient sa thèse en 1992 sur les réseaux de neurones appliqués à la reconnaissance de la parole, puis elle obtient une habilitation à diriger des recherches (HDR) en 2006 sur le traitement automatique des émotions sur machine. Elle a publié plus de 150 articles dans des revues, livres et conférences spécialisées (h-index: 38).

Elle est membre du CNPEN (Comité National Pilote Ethique du Numérique) qui dépend du premier ministre. Elle est en charge du rapport sur les agents conversationnels. Elle a participé à la rédaction du rapport sur l’éthique du chercheur en robotique et a dirigé celui sur l’éthique en apprentissage machine. Elle est impliquée dans “the IEEE Global Initiative for Ethical Considerations in the Design of Autonomous Systems” (depuis 2016), chairman de 2018-20 : working group P7008: Standard for Ethically Driven Nudging for Robotic, Intelligent and Autonomous Systems. Elle est également membre du GPAI : Gloabl Partnership on AI sur le Futur du travail.

En 2017, elle a écrit un premier essai sur “Des robots et des hommes : mythes, fantasmes et réalité”, Editeur Plon.

En 2020, elle a écrit un deuxième essai sur “Des robots émotionnels: et l’éthique dans tout cela ?”, Editions de L’Observatoire