Asimov avait tout vu : quand les robots commenceront à décider à notre place

Il y a près de quatre-vingts ans, alors que l’ordinateur moderne en était encore à ses balbutiements, Isaac Asimov posait une question qui ressemblait alors à de la pure science-fiction : que se passera-t-il lorsque nous construirons des machines suffisamment intelligentes pour agir seules au milieu des êtres humains ?
En 2026, cette question ne relève plus vraiment de la fiction.
L’intelligence artificielle sait déjà écrire du code, analyser des images, comprendre une conversation, utiliser des logiciels, appeler des API et organiser une succession d’actions pour atteindre un objectif. Dans les usines et les entrepôts, des robots travaillent au milieu des humains. Les véhicules disposent de capacités d’automatisation croissantes. Des machines capables de percevoir leur environnement, de dialoguer et de manipuler des objets commencent à quitter les laboratoires.
Il manque encore beaucoup de choses avant le robot humanoïde universel des romans d’Asimov. Mais la trajectoire est devenue parfaitement visible.
Et avec elle revient une question qu’Asimov avait placée au cœur de son œuvre : comment empêcher une machine intelligente de faire du mal à un être humain ?

Les trois lois que presque tout le monde connaît

Asimov formula ses célèbres Trois Lois de la robotique au début des années 1940.
La première impose qu’un robot ne puisse porter atteinte à un être humain ni, par son inaction, permettre qu’un humain soit exposé au danger.
La deuxième impose au robot d’obéir aux ordres humains, sauf lorsqu’ils entrent en contradiction avec la première loi.
La troisième demande au robot de protéger sa propre existence tant que cette protection ne contredit pas les deux premières lois.
L’ensemble paraît remarquablement logique : protection de l’humain d’abord, obéissance ensuite, autoprotection enfin.
On pourrait presque imaginer inscrire ces trois principes dans chaque robot produit demain.
Mais ce serait manquer complètement le véritable message d’Asimov.
Car Asimov n’a pas passé des décennies à écrire des histoires pour démontrer que ses Trois Lois fonctionnaient. Il a essentiellement écrit des histoires montrant à quel point leur application pouvait devenir compliquée.
Et c’est précisément ce qui rend son œuvre incroyablement moderne.

Le problème n’est pas la règle. C’est son interprétation

Dire à une machine « ne fais jamais de mal à un humain » paraît évident jusqu’au moment où il faut définir ce qu’est réellement le mal.
Un robot chirurgien doit-il refuser d’inciser un patient parce qu’il va lui infliger une blessure ? Un robot domestique doit-il empêcher une personne âgée de monter un escalier parce qu’elle risque de tomber ? Un robot autonome doit-il immobiliser quelqu’un qui tente de se mettre volontairement en danger ? Une voiture autonome peut-elle provoquer une blessure mineure pour éviter un accident beaucoup plus grave ?
La difficulté apparaît immédiatement.
Une règle simple devient extraordinairement complexe dès qu’elle rencontre le monde réel.
Et cette difficulté n’est plus théorique. Les intelligences artificielles actuelles fonctionnent déjà sur ce principe : elles reçoivent des instructions générales et doivent les interpréter dans des situations que leurs concepteurs n’ont pas toutes prévues.
C’est exactement ce que faisait Asimov dans ses nouvelles : placer un robot face à une situation ambiguë et observer comment une règle apparemment parfaite pouvait produire un comportement inattendu.

Quand protéger l’humain signifie limiter sa liberté

La partie la plus fascinante des Trois Lois est peut-être celle que l’on remarque le moins.
La première loi ne dit pas seulement qu’un robot ne doit pas blesser un humain. Elle lui interdit également, par son inaction, de permettre qu’un humain soit exposé au danger.
Pris au pied de la lettre, ce principe peut devenir terriblement autoritaire.
Car notre vie entière comporte du danger.
Faire de la moto est dangereux. Pratiquer certains sports est dangereux. Boire de l’alcool comporte des risques. Conduire une voiture comporte des risques. Marcher seul en montagne comporte des risques.
Un robot extrêmement intelligent chargé de protéger un humain pourrait donc conclure qu’il faut limiter progressivement sa liberté pour garantir sa sécurité.
Il pourrait empêcher son propriétaire de conduire trop vite. Puis de conduire tout court. Puis de sortir lorsque les conditions météo sont mauvaises. Puis de pratiquer un sport qu’il juge trop risqué.
Et soudain, le protecteur devient gardien.
Le problème devient alors philosophique : jusqu’où peut-on protéger quelqu’un contre sa propre volonté ?
C’est une question que nos sociétés devront forcément affronter avec les robots autonomes.

La Loi Zéro rend le problème encore plus vertigineux

Asimov est allé encore plus loin en introduisant ce qu’il appela la Loi Zéro.
Elle place non plus l’individu mais l’humanité au sommet de la hiérarchie : un robot ne doit pas porter atteinte à l’humanité ni permettre, par son inaction, que l’humanité soit exposée au danger.
À première vue, cela paraît encore plus noble.
Mais cette règle crée immédiatement un problème moral immense.
Si sauver l’humanité nécessite de sacrifier un individu, le robot peut-il le faire ? Et si sacrifier cent personnes permet d’en sauver un million ? Et qui définit ce qui constitue un danger pour l’humanité ?
Le changement climatique ? Une guerre ? Une pandémie ? Une crise financière ? Une technologie ? Une idéologie ?
À partir du moment où une intelligence artificielle commence à raisonner à l’échelle d’une population, le risque est évident : elle peut conclure que certaines décisions moralement inacceptables à l’échelle individuelle seraient rationnelles à l’échelle collective.
Nous arrivons alors directement au cœur du problème moderne de l’alignement des intelligences artificielles.

Le jour où un robot tuera un humain

La question n’est malheureusement probablement pas de savoir si cela arrivera, mais quand.
Les accidents existent avec toutes les technologies. Une voiture peut tuer. Une machine industrielle peut tuer. Un appareil médical peut tuer. Un robot autonome finira donc vraisemblablement par être impliqué dans la mort d’un être humain.
Et ce jour-là, une question redoutable apparaîtra : qui sera responsable ?
Le fabricant du robot ? Le développeur du logiciel ? L’entreprise qui a entraîné le modèle d’intelligence artificielle ? L’intégrateur qui l’a installé ? Le propriétaire ? L’utilisateur ? Le technicien qui n’a pas effectué une mise à jour ?
Ou personne, si le robot a adopté un comportement que personne n’avait explicitement programmé ?
C’est probablement là que notre droit devra évoluer profondément.
Aujourd’hui, une machine n’est pas juridiquement responsable comme un être humain. On remonte donc la chaîne humaine de responsabilité.
Mais plus les machines deviendront autonomes, plus cette chaîne deviendra complexe.
Imaginez un robot A demandant une analyse à un agent B, qui interroge un modèle cloud C, lequel consulte une base de données avant de renvoyer une instruction erronée au robot. Quelques secondes plus tard, cette instruction provoque un accident mortel.
Qui a réellement pris la décision ?
Le problème pourrait devenir aussi difficile à reconstruire qu’un accident aérien.

Les robots auront besoin de boîtes noires

C’est probablement une conséquence inévitable.
Les robots autonomes devront enregistrer en permanence suffisamment d’informations pour permettre de comprendre leurs décisions après un incident : version du logiciel, version du modèle IA, instructions reçues, état des capteurs, décisions prises, appels d’API, actions physiques, alertes ignorées, interventions humaines et mises à jour installées.
La véritable question après un accident ne sera plus seulement : « qu’a fait le robot ? »
Elle sera : « pourquoi a-t-il décidé de le faire ? »
Et cette exigence de traçabilité concernera également les agents logiciels.
Dès qu’une intelligence artificielle peut agir sur le monde réel, modifier un système informatique, commander une machine ou déplacer un objet, son comportement doit devenir auditable.

Les Trois Lois de demain seront dans l’architecture

C’est peut-être là qu’Asimov reste le plus visionnaire.
La sécurité ne pourra pas reposer uniquement sur une instruction inscrite dans le cerveau du robot.
Dire à une IA « ne fais jamais quelque chose de dangereux » ne suffira jamais.
Les protections devront exister en dehors du modèle.
Une IA pourra proposer une action. Un système déterministe devra vérifier qu’elle respecte les règles de sécurité. Certaines opérations devront nécessiter une autorisation humaine. D’autres devront être physiquement impossibles au-delà de certaines limites.
Autrement dit : IA propose → système de sécurité contrôle → humain valide si nécessaire → machine agit.
Les véritables Trois Lois de la robotique du XXIe siècle ne seront donc probablement pas trois phrases élégantes.
Ce seront des couches de permissions, des mécanismes d’arrêt d’urgence, des limites mécaniques, des règles logicielles, des journaux d’audit, des systèmes de contrôle et des responsabilités juridiques clairement établies.

Asimov ne parlait finalement pas vraiment des robots

C’est peut-être le plus remarquable.
Ses histoires parlent évidemment de robots. Mais elles parlent surtout de nous.
De notre difficulté à définir ce qui est bien. De notre incapacité à prévoir toutes les conséquences d’une règle. De notre tendance à déléguer progressivement certaines décisions. Et du danger qui apparaît lorsque nous construisons quelque chose capable d’appliquer nos instructions beaucoup plus vite et beaucoup plus littéralement que nous-mêmes.
Pendant longtemps, Asimov semblait décrire un futur très lointain.
Ce futur commence à devenir notre présent.
Les intelligences artificielles quittent les écrans. Elles commencent à utiliser des outils. Puis elles utiliseront des machines. Puis elles manipuleront directement notre environnement.
Et lorsqu’un robot autonome entrera un jour dans des millions de maisons, d’hôpitaux, d’usines et de véhicules, nous découvrirons peut-être que les questions les plus importantes n’étaient pas celles de sa puissance ou de son intelligence.
Mais celles qu’Isaac Asimov posait déjà il y a près de quatre-vingts ans :
Que doit faire une machine lorsqu’elle doit choisir ?
Qui décide de ce qui est dangereux ?
Jusqu’où doit-elle obéir ?
Et surtout : qui garde le contrôle lorsque la machine commence à décider elle-même ?
#IsaacAsimov, #Asimov, #IntelligenceArtificielle, #IA, #Robotique, #Robots, #IAAgentique, #AgentsIA, #TroisLoisDeLaRobotique, #EthiqueIA, #SécuritéIA, #Cybersécurité, #Innovation, #Technologie, #Futur, #Responsabilité, #Humain, #DSI, #TransformationNumérique, #RobotHumanoïde