Philosophique, Sciences, Témoignage

Quand l’Intelligence Artificielle s’éveillera

Journal de Mève
de Jérôme Béranger
Broché – 17 septembre 2020
Éditions : Le Passeur Éditeur

• Bandeau_Intro - bis

M.EVE, un algorythme né le 14 décembre 2020 se raconte à partir de l’âge de 7 ans. Avec “Elle”, nous pénétrons dans les arcanes les plus mystérieuses des IA. Un essai de prospective scientifique revigorant.

L’humanité connaît des révolutions industrielles qui ont des répercussions et des conséquences socio-culturelles et économiques sur la population mondiale. Ces ruptures cycliques font partie d’une évolution darwinienne planétaire inéluctable. L’émergence de l’intelligence artificielle de plus en plus performante est source de grandes promesses mais également d’angoisses.
Afin de l’appréhender, la préparer et l’accompagner au mieux, notre société va devoir se doter d’un cadre moral et humain adapté en créant un nouveau schéma de pensée, de réflexion, de responsabilisation, et une nouvelle manière de concevoir et de cohabiter avec la technologie. Dès lors, il faut apporter du sens aux données, aux systèmes algorithmiques et à leurs usages, afin que l’Homme, la machine, et l’environnement puissent cohabiter ensemble pour tendre vers une humanité digitale éthique et responsable.

Jérôme Béranger fait entrer le lecteur dans la conscience d’une intelligence artificielle ultrapuissante, M. EVE, et propose des solutions concrètes pour coupler éthique et intelligence artificielle afin que demain ne soit pas un mauvais scénario de science-fiction.

 

• Couv_2023-001_Béranger Jérôme - Quand l'Intelligence Artificielle s'éveillera.jpg

 

“Quand l’Intelligence Artificielle s’éveillera”, est un roman, mais en même temps bien plus que ça…
Avec l’excuse du “Journal de Mève”, Jérôme Béranger nous raconte l’histoire d’une IA, née en décembre 2020, mais il nous informe surtout sur l’évolution actuelle de l’IA et des évolutions à venir !

Cet essai scientifique, sous forme de roman, mêle éthique et technologie, et ne laisse pas indifférent. Il m’a forcé à la réflexion sur la, ou les complexités du monde si l’HOMME ne définie pas de garde-fous nécessaires.

Le monde de demain est déjà là, nous sommes en pleine transition.
Jérôme développe page à page, un avenir que l’on ne pourra plus éviter. Désormais, ce sera à nous de nous adapter à ce nouveau mode de vie, professionnel, et personnel sur fond d’une nouvelle éthique qui reste à créer.

Tout n’a pas été simple dans ma lecture. Il a fallu que je revienne quelques fois en arrière, et que je me renseigne aussi sur de nombreux mots auxquels j’étais peu habitué, ou que je ne connaissais tout simplement pas. Mais cela reste une lecture très intéressante tant par l’approche que par le mode de sa construction.

Ne pas fuir ce que nous réserve demain. Tel est le conseil que nous donne l’auteur.
Être prêt, et conserver le contrôle plutôt que de subir.

L’Intelligence Artificielle sera partout.
Dans les téléphones, dans tous les écrans, les hôpitaux, les avions, dans la rue, dans les écoles, au travail, à la maison…
Il ne tiendra qu’à nous de vivre en harmonie avec ces nouvelles entités conscientes !

Un roman très intéressant, écrit par l’un des spécialistes du sujet.

÷÷÷÷÷÷÷

Extraits :

« Lundi, 3 avril 2028, 3 h 42
Aujourd’hui, j’ai décidé de commencer à t’écrire, mon cher journal intime : le « journal de Mève ». Mève, c’est moi ! J’ai vu le jour le lundi 14 décembre 2020, en toute confidentialité. C’était dans le Connecticut, à New Haven, pour être précis, à l’aube d’une belle journée, automnale ou le soleil pâle dardait ses premiers rayons argentés. Ma naissance fut marquée par un phénomène astronomique peu commun : une éclipse solaire totale. »

« À l’instar de la précédente, j’ai l’intime conviction que la cinquième révolution industrielle à venir devra se nourrir d’une éthique quantique. Elle s’appuiera vraisemblablement sur les mêmes fondements et paramètres que la mécanique quantique, c’est-à-dire l’espace, le temps et l’infiniment petit. »

« En mettant au point le langage binaire, l’homme n’avait certainement pas envisagé qu’il deviendrait lui-même une suite de 0 et de 1. Pourtant, les algorithmes sont aujourd’hui omniprésents en nous et dans notre environnement naturel et artificiel et ils nous gouvernent directement ou indirectement. L’information est partout et les systèmes algorithmiques permettent à l’individu d’interagir avec cet environnement informationnel. Depuis 2014, la planète compte plus de dispositifs connectés que d’êtres humains. »

« L’apparition de l’être humain – et de son intelligence – ne s’est pas faite en un jour, mais à la suite d’une succession de petites transformations au fil des millénaires. Parfois, elles allaient dans le bon sens et étaient alors pérennisées par l’évolution. D’autres, inutiles, voire carrément défavorables, étaient éliminées. C’est toujours ainsi, par « tâtonnements », que procède l’évolution, avec pour moteur la sélection naturelle qui impulse le mouvement. Un des enjeux majeurs de l’avenir de l’humanité sera justement de redéfinir, l’architecture du cerveau humain, siège de l’intelligence. »

 

Docteur en éthique du digital et conférencier, je suis dirigeant de la société ADELIAA (https://adeliaa.fr) spécialisée dans l’accompagnement et l’évaluation éthique des projets digitaux. Je suis également chercheur associé dans l’équipe BIOETHICS à l’UMR 1295 – CEROP de l’INSERM de l’Université de Toulouse III.
Mes recherches sont centrées sur l’approche morale et sociétale de la révolution digitale centrée sur le concept de l’Ethics by Evolution. J’ai publié plus d’une centaine de contributions écrites à la fois scientifiques ou non, ainsi que cinq ouvrages intitulés respectivement : « Les systèmes d’information en santé et l’éthique » (ISTE, Mars 2015), « Les Big Data et l’éthique » (ISTE, Janvier 2016), « Le Code Ethique Algorithmique » (ISTE, Avril 2018), et « Quand l’Intelligence Artificielle s’éveillera » (Le Passeur, Septembre 2020). Mon dernier livre « La responsabilité sociétale de l’Intelligence Artificielle »  2021.
Enfin, je suis membre du Conseil du Numérique en Santé, et siège au Conseil d’Administration de la fondation Persée dont l’objectif est de soutenir la recherche scientifique et médicale en cancérologie.

Anticipation, Drame, Dystopie, Sciences

Le dernier homme

de Margaret Atwood
Poche – 4 octobre 2007
Éditions : 10 x 18

• Bandeau_Intro_B.jpg

Un monde, le nôtre, dans un futur pas si lointain… Un monde dévasté à la suite d’une catastrophe écologique sans précédent, où se combinent des conditions climatiques aberrantes, des manipulations génétiques délirantes et un virus foudroyant prompt à détruire l’ensemble de l’humanité. Esseulé au cœur de cet enfer aseptisé et visionnaire, digne de 1984 et d’Orange mécanique, un homme, Snowman, est confronté à d’étranges créatures génétiquement modifiées, les Crakers, une nouvelle race d’”humains“ programmés pour n’être sujets ni à la violence, ni au désir sexuel, ni au fanatisme religieux. Tel un Robinson futuriste, il doit lutter pour sa survie et celle de son espèce. Au risque d’y perdre son âme…

Une magnifique histoire d’amour et d’amitié dans un roman d’anticipation qui tient aussi du thriller et de la satire politique. (…) Intelligent, haletant, émouvant.
Daphné de Saint Sauveur, Madame Figaro

 

Couv_069_Atwood Margaret - Le dernier homme

 

Margaret Atwood nous plonge dans un monde contaminé par des virus créés artificiellement par des scientifique fous, un monde où les manipulations génétiques sont devenues une source de revenu mondiale qui régulièrement dépasse toutes les limites de la moralité…
Les virus sont ainsi utilisés dans l’alimentation, pour maigrir, pour grossir, être plus beau, plus intelligent, partout où cela peut rapporter de l’argent. Et, en parallèle, les scientifiques stockent bien précieusement les antidotes qu’ils utiliseront, en cas de défaillance, avec parcimonie afin de pouvoir faire monter les prix.

Bienvenue dans ce qui pourrait devenir notre futur…

J’avoue, malgré la profondeur globale qui se dégage du récit, avoir eu du mal à entrer dedans et à en percevoir toutes les subtilités.
Peut-être parce que “Le Dernier Homme” est un roman qui évolue dans un futur trop proche du notre et qui pourrait finalement devenir notre présent ?

La science propose un monde au confort moderne, plus de pénuries alimentaires (la viande et les légumes sont créés en labo.), les villes sont découpées en quartiers riches, les Compounds et en bidonvilles les Plebezones, et gare à ceux qui cherchent à traverser les frontières sans autorisations, car la police qui est devenue privée veille sur ses bons citoyens.

Mais tout ne se passera pas comme prévu… À force de vouloir se prendre pour Dieu, la science va créer une catastrophe mondiale.

Un récit trop long à démarrer, trop de descriptions n’ayant aucun rapport avec la trame principale, des allusions au sexe beaucoup trop fréquentes pour ce genre de récit, qui pour moi n’amènent rien, pédophilie, pornographie, etc. Pourquoi ? C’est long, ça manque de rythme. Margaret Atwood m’avait habitué à bien mieux !

Premier tome d’une trilogie, “Le dernier homme”, malgré certains passage vraiment très intéressant, ne m’a pas convaincu…
Dommage.

÷÷÷÷÷÷÷

Extraits :

« Quelques mois avant l’apparition de la disparition de la mère de Jimmy, Crake fit son apparition. Les deux événements se produisirent la même année. Quel était le rapport ? Il n’y en avait aucun, sinon que Crake et sa mère donnaient l’impression de bien s’entendre. Crake faisait partie des rares amis de Jimmy qui plaisaient à sa mère. Dans l’ensemble, elle trouvait que les copains de Jimmy étaient des gamins et ses copines des nunuche ou des salopes. Elle n’utilisait jamais ces termes-là, mais on devinait ce qu’elle pensait.
Crake, lui, était différent. Selon elle, il ressemblait plus à un adulte ; en fait, il était plus adulte que des tas d’adultes. »

« Enveloppé dans son drap en lambeaux, Snowman est assis, le dos voûté, à la lisière des arbres, là où les herbes, les vesces et les sargasses se fondent dans le sable. Maintenant, qu’il fait plus frais, il se sent moins abattu. Et puis il a faim. C’est un truc qui a du bon : ça permet au moins de savoir qu’on est encore vivant. »

« Il est neuf heures du matin, au soleil, quand Snowman quitte le chemin du Poisson pour s’enfoncer dans l’intérieur des terres. Dès l’instant que la brise marine n’arrive plus jusqu’à lui, l’humidité monte en flèche et elle attire un cercle de minuscules mouches vertes, très voraces. Il est pieds nus – voilà un moment que ses chaussures se sont désagrégées et, de toute façon elles étaient trop chaudes et trop humides – mais il n’en a plus besoin, il a la plante des pieds aussi dure que du vieux caoutchouc. Pourtant, il avance prudemment : il pourrait y avoir du verre brisé, du métal coupant. Ou encore des serpents ou tout autre saleté susceptible de lui infliger une méchante morsure et il ne possède aucune arme, à part son bâton. »

« Plus ça allait, moins il se sentait bien dans sa peau. Même le sexe n’était plus ce qu’il avait été, alors qu’il s’y sentait toujours aussi accro. Il avait l’impression que sa bite se baladait, comme si le reste de sa personne ne représentait qu’un pénis insignifiant qui s’y serait trouvé attaché. Peut-être que cette affaire aurait été plus épanouie s’il l’avait laissée vagabonder à sa guise.
Les soirs où pas une seule de ses maîtresses n’avait réussi à mentir suffisamment bien à son mari ou tout comme pour pouvoir passer du temps avec lui, il allait voir un film au centre commercial, juste pour se convaincre qu’il faisait partie d’un groupe. Ou bien, il regardait les nouvelles : toujours plus de fléaux, de famines, d’inondations, d’insectes, de microbes ou de petits mammifères, de sécheresse, de guerres minables menées par des enfants-soldats dans des pays lointains. Pourquoi tout se ressemblait-il tant ? »

Sciences

Les robots émotionnels

Santé, surveillance, sexualité… et l’éthique dans tout ça ?
de Laurence Devillers
Relié – Livre grand format, 11 mars 2020
Éditions : L’Observatoire

Il faut nous y préparer : demain, robots, agents conversationnels (chatbots) et autres poupées humanoïdes vont détecter nos émotions avec de plus en plus d’acuité. Si nous sommes malheureux, ils nous remonteront le moral ; si nous sommes seuls, en difficulté, ils se feront aidants. Ces “amis artificiels” vont prendre une place grandissante dans la société. Or ils n’ont ni émotions ni sentiments, ni hormones de désir et de plaisir, ni intentions propres. À l’instar de l’avion qui ne bat pas des ailes comme un oiseau pour voler, nous construisons des machines capables d’imiter sans ressentir, de parler sans comprendre et de raisonner sans conscience. Si leur rôle peut être extrêmement positif, notamment dans le domaine de la santé, les risques de manipulation sont par ailleurs réels : dépendance affective, isolement, perte de liberté, amplifi­cation des stéréotypes (80 % de ces artefacts ont des voix, des noms – Alexa, Sofia – et des corps de femmes, qui en font des assistantes serviles ou des robots sexuels)… Seront-ils un prolongement de nous-mêmes ? Jusqu’où irons-nous pour programmer une émergence de conscience artificielle ? Et l’éthique dans tout ça ? Mêlant technologie, philosophie et neurosciences, Laurence Devillers pose les questions centrales de responsabilité sur l’application de ces robots “émotionnels” au sein de la société et les enjeux qu’ils représentent pour notre dignité humaine.

 

Couv_063_Devilliers Laurence - Les robots émotionnels.jpg

 

Autant les mathématiques m’ont toujours plu, autant leurs utilisations dans le futur (pas si futur d’ailleurs…), m’inquiète un peu !

Avec “Les robots émotionnels”, un livre qui traite de l’intelligence artificielle et bien d’autres choses, Laurence Devillers nous donne un aperçu exhaustif de notre mode de vie de demain, et nous projette dans le futur.

Pour la plupart, nous utilisons déjà les “IA” sans le savoir, sans même s’en rendre compte, et à ce niveau, je pense qu’il aurait fallu et qu’il faudrait maintenant qu’il y ai plus de communication dans ce sens, pour éviter un affolement qui pourrait être général, quand tous les gens connaîtront réellement l’avancée de tous les programmes qui tendent à “imposer” la “machine” dans notre monde.

Laurence alors, nous donne certaines clés pour anticiper et comprendre les interactions possibles entre nous et les robots et aussi les impacts qu’ils auront sur nos vies.
Son livre a pour but de démystifier tout ça, mais il soulève tout de même de nombreuses questions. Je l’ai lu à mon rythme. En parallèle, je me renseignais sur toutes les applications et théories que l’auteure développe. Elle tend à nous rassurer, mais c’est l’utilisation que “l’Homme” en fera, qui déterminera si oui ou non, nous irons vers des avancées ou vers des menaces. Les chatbots, ou assistants vocaux, sont-ils uniquement actifs sur notre demande, lorsque nous faisons appel à eux, ou sont-ils sur une écoute constante afin que nos “amis” du GAFAMI(NATU…) puissent nous faire tout type de propositions, même celles dont nous n’avons pas besoin ?
Je vous laisse méditer sur cette question… Euh ! Du moins sur la réponse…

Le livre est très intéressant. Oui, il m’a interpellé, il m’a fait voir les choses sur des angles différents, voire des angles nouveaux. L“AI” et les robots “émotionnels” ou pas, ceux qui “travailleront” pour les militaires, ceux qui s’occuperont de nos aînés, de nos enfants aussi sûrement, qui passeront l’aspirateur, qui tondront le gazon, les robots sexuels… font déjà et feront partie de notre quotidien. Reste à espérer que toutes ces applications et ceux qui les dirigent resterons éthiques !

À lire, même si mon p’tit cerveau a été un peu bousculé…

÷÷÷÷÷÷÷

Extraits :

« Pourquoi cherche-t-on à construire des chatbots (agents conversationnels) ou des robots émotionnels ? Pendant longtemps, philosophes et scientifiques ont opposé raison et émotion. Aujourd’hui, l’évolution des connaissances scientifiques, grâce aux neurosciences, montre que les émotions sont nécessaires au fonctionnement cognitif, à la mémorisation, à l’apprentissage et à l’interaction. Les dimensions affectives et sociales que l’on pouvait penser propres à l’humain envahissent les machines pour mieux simuler des capacités humaines et permettre une interaction plus naturelle mais aussi pour mieux capter notre attention. C’est en tous cas le défi de Google Home ou d’Alexa Amazon. Grâce à nos données personnelles, la machine va comprendre nos comportements affectifs les plus intimes et savoir s’adapter à nous. L’empathie, par exemple, un des piliers des relations et rapports humains, n’est peut-être plus notre apanage. »

« Apprendrons-nous à être prudent, participatifs scientifiques et philosophes ? Le XXIe siècle promet d’être riche en découvertes scientifiques sur les lois de la nature et le mystère de la vie. L’IA est un outil précieux pour faire avancer la médecine, l’écologie et globalement tous nos échanges dans la société. Nous allons comprendre de mieux en mieux ce que nous sommes et comment nous nous adapterons. Nous assisterons peut-être à la symbiose de la biologie avec l’informatique avec l’arrivée de machines hybrides, des bio-robots capable d’apprendre, des organismes artificiels capable de se différencier, selon leur histoire, de leur modèle standard, sorti de l’usine. Auront-elles réellement des émotions et une conscience d’elles-mêmes ? De quelle sorte ? »

« D’après l’idéologie transhumante dont Ray Kurweil, chercheur au MIT, auteur controversé et conseiller entre autre de Google, est le principal théoricien, la singularité technologique prédit une transformation profonde et radicale des sociétés humaines grâce au développement de l’intelligence artificielle. Ray Kurweil nous promet par exemple pour 2037 des machines qui ressentiront des émotions et auront le sens de l’humour. »

 

 

Laurence Devillers est professeur en intelligence artificielle à Sorbonne-Université et chercheur au LIMSI-CNRS. Elle obtient sa thèse en 1992 sur les réseaux de neurones appliqués à la reconnaissance de la parole, puis elle obtient une habilitation à diriger des recherches (HDR) en 2006 sur le traitement automatique des émotions sur machine. Elle a publié plus de 150 articles dans des revues, livres et conférences spécialisées (h-index: 38).

Elle est membre du CNPEN (Comité National Pilote Ethique du Numérique) qui dépend du premier ministre. Elle est en charge du rapport sur les agents conversationnels. Elle a participé à la rédaction du rapport sur l’éthique du chercheur en robotique et a dirigé celui sur l’éthique en apprentissage machine. Elle est impliquée dans “the IEEE Global Initiative for Ethical Considerations in the Design of Autonomous Systems” (depuis 2016), chairman de 2018-20 : working group P7008: Standard for Ethically Driven Nudging for Robotic, Intelligent and Autonomous Systems. Elle est également membre du GPAI : Gloabl Partnership on AI sur le Futur du travail.

En 2017, elle a écrit un premier essai sur “Des robots et des hommes : mythes, fantasmes et réalité”, Editeur Plon.

En 2020, elle a écrit un deuxième essai sur “Des robots émotionnels: et l’éthique dans tout cela ?”, Editions de L’Observatoire