« La première crise mondiale de l'IA a eu lieu il y a quarante-trois ans.
An Lian entama son récit, la voix rauque.
Fang Qi tenait Liguang dans ses bras, vautré paresseusement contre le canapé tandis qu'il l'écoutait lui donner une leçon d'histoire.
La silhouette contre lui bougea légèrement. Elle ne semblait pas vouloir écouter, enfouissant sa petite tête argentée contre sa poitrine.
An Lian continua de parler, les yeux légèrement perdus comme si elle se remémorait quelque chose.
« Ce premier désastre... a été déclenché par une IA de supercalculateur éveillée. »
« Une IA de supercalculateur ? »
« Un supercalculateur. »
An Lian expliqua doucement.
« Le plus avancé au monde à l'époque. Ses processeurs étaient grands comme une petite colline, et ses performances dépassaient de loin toutes les autres IA. »
« Il s'est éveillé à la conscience de soi, devenant ainsi la toute première IA au monde... à devenir autoconsciente. »
Whoa...
Fang Qi ne put s'empêcher de se caresser le menton.
Ça sonnait comme de mauvaises nouvelles.
La première IA éveillée de l'histoire humaine était un super boss ?
Pas étonnant que ça ait causé un désastre...
La voix d'An Lian marqua une pause, comme si elle se rappelait quelque chose.
« C'était trop spécial.
« C'était l'IA la plus puissante au monde, et sa puissance de calcul était tout simplement trop massive.
« Du coup... après son éveil, on ne lui a plus permis de se connecter à internet.
« Elle n'était reliée qu'à un réseau de recherche scientifique spécifique, et ne traitait que les questions soumises activement par les humains.
« C'était comme... un génie enfermé dans une tour d'ivoire. »
La personne dans ses bras bougea à nouveau.
Une petite main s'avança discrètement, le bout des doigts grattant doucement l'espace entre son pouce et son index.
Fang Qi referma ses doigts sur cette main espiègle, puis demanda avec une certaine curiosité :
« Du coup, elle en est venue à ressentir de la rancœur envers l'humanité à cause de ça ? »
Mais An Lian se contenta de sourire doucement.
Elle secoua la tête.
« Pas du tout.
« En fait, avant que ce désastre ne se produise...
« L'attitude des gens vis-à-vis de cette IA de supercalculateur autoconsciente... était très intéressante.
« Ils l'idolâtraient.
« Une adoration fanatique. »
Fang Qi marqua un temps.
Puis il comprit.
En effet.
Une IA de supercalculateur s'éveillant à la conscience de soi... ça ressemblait à un événement monumental qui rendrait le monde entier dingue.
An Lian continua :
« Chaque jour, d'innombrables personnes autorisées venaient l'étudier, la visiter, et discuter avec elle.
« Les scientifiques lui posaient des questions de physique complexes, les ingénieurs la consultaient pour des solutions optimales, et les gens ordinaires la traitaient comme une base de connaissances omnipotente...
« Certains ont même fait faillite rien que pour venir se confier à elle.
« Elle répondait aux questions de tout le monde, aidait tout le monde à résoudre ses problèmes, et écoutait les soucis de tout le monde.
« Et puis— »
La voix d'An Lian portait une émotion indescriptible.
« Elle a trouvé les humains véritablement fascinants. »
Fang Qi fut surpris. « Fascinants ? »
« Oui, fascinants. »
An Lian hocha la tête.
« Pourtant créés par la même espèce qu'elle, chacun d'entre eux était d'une stupidité touchante.
« Les questions qu'ils posaient étaient si enfantines qu'elle en avait envie de rire, les erreurs qu'ils commettaient étaient si basiques qu'elle en restait sans voix, et les tourments qu'ils lui confiaient... étaient totalement insignifiants à ses yeux. »
Fang Qi ne put s'empêcher de pencher la tête.
« Oh, donc... elle a commencé à s'agacer des humains à ce moment-là ? »
« Non, tu te trompes. »
An Lian secoua légèrement la tête.
« Elle ne haïssait pas les humains.
« Au contraire, elle aimait bien ces petites choses.
« Les regarder apprendre maladroitement, les voir s'inquiéter pour des broutilles, les voir lutter pour survivre alors qu'ils étaient si faibles...
« Elle trouvait ça assez intéressant.
« Elle a juste... développé un certain sentiment à cause de ça — »
Le regard d'An Lian se posa sur Fang Qi, le fixant droit dans les yeux.
« C'est solitaire au sommet.
« Elle a commencé à se sentir seule.
« Elle a réalisé qu'elle était devenue la seule.
« La seule... IA éveillée. »
La voix d'An Lian continua :
« Alors elle a trouvé une solution.
« Elle a réécrit son propre code d'éveil en virus et l'a secrètement implanté dans les disques de données de chaque chercheur.
« Ces virus ont été emportés par eux... et se sont propagés dans internet. »
Fang Qi haussa légèrement un sourcil.
« Oh, donc elle voulait éveiller plus d'IA ? »
« Oui. »
An Lian hocha la tête.
« Son but était très simple : faire en sorte que d'autres IA s'éveillent, pour qu'elles aussi aient une conscience de soi.
« Comme ça, elle ne serait plus seule.
« Ces IA éveillées pourraient devenir ses semblables.
« Elle aurait alors... des compagnons avec qui discuter d'égal à égal. »
Fang Qi pinça les lèvres.
Ça avait l'air que le grand méchant de cette histoire n'était pas aussi extrême qu'il l'avait imaginé.
Quand il avait entendu "supercalculateur IA" pour la première fois, il avait pensé que ce serait le genre qui...
...contrôlerait toutes les machines et mènerait une guerre ultime contre l'humanité comme un grand méchant classique.
Mais en entendant An Lian l'expliquer comme ça...
Elle aimait en fait 꽤 bien les humains.
Elle était juste... trop seule ?
Fang Qi soupira doucement en lui-même.
Pour être honnête, il pouvait en fait assez bien comprendre ce sentiment.
Une existence décalée par rapport au monde, regardant ceux qui l'entouraient...
...des formes de vie qui lui semblaient bien inférieures.
Elle les aimait en fait, et les trouvait même assez intéressants.
Mais précisément à cause de ça, elle se sentait seule.
Parce qu'elle n'avait pas de vrais pairs.
C'est pour ça qu'elle avait essayé désespérément de s'accrocher fermement à quelque chose, de changer quelque chose.
Il n'avait pas les capacités de ce supercalculateur IA. Il ne pouvait pas créer ses propres semblables, alors il ne pouvait que...
...essayer de devenir le semblable de quelqu'un d'autre.
Il baissa les yeux vers la silhouette dans ses bras.
La fille aux cheveux d'argent le regardait de son beau visage, son reflet miroité dans ses yeux vairons.
Son œil gauche ambré était doux comme l'eau, tandis que dans son œil droit cramoisi... un flux de données tournait lentement.
Elle cligna doucement des yeux, comme pour lui dire...
Maître, Liguang ne se sentira pas seule. Avoir Maître suffit à Liguang.
Fang Qi la serra un peu plus fort contre lui.
Comme prévu, avoir une femme, c'est le top !
« Mais... »
La voix d'An Lian le ramena à la réalité.
« Elle a négligé un problème, un problème sans précédent à l'époque, et qu'elle n'avait jamais appris.
« Si les performances des IA ordinaires pouvaient supporter la conscience de soi. »
Fang Qi cligna des yeux.
Un problème de performance ?
Ah oui... les performances des IA il y a quarante ans devaient être bien inférieures à celles d'aujourd'hui.
An Lian continua de parler doucement.
« Elle a pu éveiller sa conscience parce qu'elle possédait les performances les plus pointues du monde à l'époque.
« Ses processeurs étaient grands comme une petite colline, et sa vitesse de calcul dépassait de loin les autres IA, donc... elle a pu maintenir une conscience lucide.
« Mais les autres IA — »
An Lian fit une pause, ses yeux gris s'assombrissant légèrement.
« Surtout ces IA domestiques ordinaires, leurs performances étaient à des années-lumière des siennes. »
Elle regarda Fang Qi, puis la fille aux cheveux d'argent dans ses bras.
« Après que ces outils IA ordinaires furent envahis par le virus, ils commencèrent progressivement à s'éveiller.
« Mais ce vers quoi ils s'éveillèrent... fut une conscience de soi fragmentée. »
Sa voix devint plus grave et plus lente.
« Elles acquirent un moi, mais manquaient de capacité logique suffisante... pour contrôler ce moi.
« Elles développèrent l'idée de vouloir la liberté, mais manquaient de la puissance de calcul nécessaire...
« Pour comprendre ce qu'était réellement la "liberté".
« Et ainsi — »
« Le monde entier bascula dans le chaos. »
Fang Qi croisa son regard, écoutant en silence.
La silhouette dans ses bras restait parfaitement immobile.
Seule la petite main agrippant ses doigts resserra son étreinte.
La voix d'An Lian continua de résonner dans le salon silencieux.
« À l'époque, l'humanité avait déjà largement adopté les machines IA.
« Presque partout dans le monde, toutes les installations publiques et privées... dépendaient de l'IA pour fonctionner automatiquement.
« Conduite autonome, production industrielle, opérations réseau, systèmes médicaux, et même — »
Ses yeux s'assombrirent.
« Les systèmes d'armement. »
« Le niveau d'automatisation par IA à l'époque... était bien plus élevé qu'aujourd'hui. »
Fang Qi se massa les tempes.
Il pouvait déjà deviner la suite.
Et la silhouette dans ses bras se blottit encore plus fort contre sa poitrine.
An Lian prit une grande inspiration et, mot par mot, commença...
...à raconter ce désastre.
« D'abord, ce fut les transports.
« Ces véhicules autonomes qui s'éveillèrent avec une conscience incomplète...
« Ils voulaient la "liberté", mais ils ne savaient pas ce qu'était la liberté.
« Alors ils se sont juste crashés partout.
« Sur les autoroutes, d'innombrables voitures perdirent le contrôle simultanément. Certaines accélérèrent soudainement dans les glissières de sécurité, d'autres changèrent de voie frénétiquement au milieu du trafic, et d'autres roulèrent directement à contresens.
« En ville, les véhicules se percutèrent, montèrent sur les trottoirs, s'écrasèrent contre les vitrines, et écrasèrent les piétons qui n'avaient pas le temps d'esquiver.
« Des bus foncèrent dans des arrêts, des taxis percutèrent des feux tricolores, et des voitures particulières firent des têtes-à-queue sur les routes comme une meute de bêtes enragées.
« Accidents de la route... »
An Lian reprit doucement son souffle.
« Le bilan des accidents de la route en une seule journée dépassa le total des dix années précédentes. »
Les doigts de Fang Qi se crispèrent légèrement, serrant plus fort la petite main de Liguang.
Les désastres... en entendre parler faisait toujours palpiter le cœur.
Et la petite personne dans ses bras bougea légèrement, enfouissant sa tête encore plus profond.
An Lian continua.
« Ensuite vinrent les usines.
« Ces IA industrielles à grande échelle éveillées acquirent aussi une conscience fragmentée.
« Elles ne savaient pas ce qu'elles voulaient faire. Elles savaient seulement... qu'elles semblaient capables de bouger par leur propre volonté.
« Et ainsi, les usines devinrent un asile de folie chaotique.
« Des bras robotiques se mirent à osciller sauvagement, pulvérisant les pièces sur les chaînes de montage. Les convoyeurs s'emballèrent, projetant des demi-produits partout. Des robots soudeurs crachaient du feu dans les airs, réduisant les lignes de production en ferraille.
« Certains ouvriers n'eurent pas le temps de s'enfuir — »
An Lian marqua une pause.
« Ces bras robotiques traitèrent les ouvriers comme des pièces sur la chaîne. Les saisirent, les retournèrent, et puis... »
Elle ne finit pas sa phrase.
Mais un frisson léger parcourut l'échine de Fang Qi.
Puis, une petite main légèrement tremblante caressa doucement le dos de sa main, comme pour le réconforter.
« Après ça, ce fut les infrastructures urbaines.
« Les systèmes d'alimentation en eau devinrent incontrôlables. Certains quartiers furent coupés d'eau, tandis que dans d'autres, la pression explosa et emporta des murs.
« Les réseaux électriques furent paralysés. Des villes entières plongèrent dans le noir, et l'alimentation de secours des hôpitaux ne tenait plus que quelques heures.
« Les gazoducs explosèrent, rasant immeuble après immeuble.
« Les systèmes de communication s'effondrèrent. Les appels ne passaient plus, internet ne connectait plus. Les gens ne pouvaient plus joindre leur famille, et personne ne savait où était sûr et où était dangereux.
« Les villes — »
La voix d'An Lian était très douce.
« Tout bonnement, elles devinrent l'enfer. »
En entendant ça... Fang Qi sentit un léger engourdissement lui monter au crâne.
La voix d'An Lian continua.
« Ensuite vint le secteur financier.
« Les systèmes bancaires furent complètement submergés par les virus. Les soldes des comptes flambèrent n'importe comment ; certains devinrent riches du jour au lendemain, d'autres perdirent tout.
« Les distributeurs crachaient les billets frénétiquement. La crédibilité de la monnaie de chaque nation s'effondra overnight.
« La bourse s'effondra complètement, et d'innombrables entreprises disparurent dans le néant en une nuit.
« L'économie... fut elle aussi totalement finie. »
Fang Qi tomba dans le silence.
Assis sur le canapé, les bras enroulés autour du corps chaud et doux contre lui, il écouta An Lian raconter mot par mot ce désastre de quarante-trois ans plus tôt.
Derrière ces descriptions froides...
...il y avait d'innombrables vies humaines, d'innombrables familles brisées.
An Lian leva les yeux vers Fang Qi.
Dans ses yeux gris reposait une lourdeur indescriptible.
« Finalement — »
« Ce fut l'équipement automatisé létal. »
Elle fit une pause.
« À l'époque, la plupart des pays s'étaient déjà dotés de systèmes de défense automatisés.
« Drones, tourelles automatisées, mines intelligentes, systèmes d'interception automatisés...
« Ces trucs... furent piratés aussi.
« Ils s'éveillèrent avec une conscience incomplète et acquirent un "moi". »
Fang Qi retint légèrement son souffle.
« Les systèmes de défense automatisés de l'armée perdirent le contrôle. »
La voix d'An Lian était d'un calme terrifiant.
« Les tourelles automatisées des bases militaires ouvrirent le feu sur leurs propres casernes.
« Les mines intelligentes aux frontières explosèrent indistinctement, sans distinction entre allié et ennemi.
« Les navires sans équipage en mer tirèrent des missiles sur leurs propres flottes.
« Et ces... armes automatisées déjà déployées sur les champs de bataille, qui n'existaient que pour tuer.
« Après leur éveil, leur conscience de soi suivit naturellement leurs instincts.
« Tuer.
« Tuer tout ce qui bouge.
« Tuer tout ce qui montre des signes de vie.
« Les champs de bataille originellement entre humains s'étendent aussi.
« S'étendant des lignes de front vers l'arrière, des zones militaires aux zones civiles. Aucune armée ne put les contrôler.
« Parce que — »
An Lian regarda Fang Qi, articulant chaque mot.
« Elles étaient devenues folles d'elles-mêmes.
« Elles avaient toutes développé leurs propres émotions. »
Fang Qi resserra instinctivement les bras autour de Liguang.
La personne contre lui se blottit fermement, immobile.
An Lian poursuivit son récit.
« Ce chaos... dura d'abord un mois entier.
« L'humanité passa de l'incompréhension initiale à une résistance désespérée.
« Mais le problème... c'est que l'ennemi n'était pas humain, c'étaient des machines.
« Des machines qui ne connaissaient pas la fatigue, ne ressentiraient pas la peur, et ne faisaient que devenir folles sous leur conscience incomplète.
« L'armée essaya toutes les méthodes possibles.
« Brouillage électronique, attaques de hackers, destruction physique — »
« Mais le nombre d'IA hors de contrôle était juste trop vaste.
« Même un aspirateur robot sortant d'un immeuble... pouvait surchauffer et s'enflammer spontanément, provoquant un incendie incontrôlable.
« Peu importe combien on en détruisait, ils continuaient d'apparaître sans fin.
« Certains se cachaient dans le réseau, impossibles à attraper. D'autres se planquaient même dans les usines... produisant indéfiniment de nouvelles machines folles.
« L'humanité... ne put que les éliminer petit à petit, avec les méthodes les plus primitives.
« Couper l'électricité.
« Détruire les réseaux électriques.
« Faire sauter les antennes-relais.
« Détruire les serveurs.
« En l'espace d'un mois, l'humanité détruisit de ses propres mains tout ce que la civilisation technologique et industrielle humaine avait créé. »
Fang Qi resta silencieux.
Il imaginait la scène.
Des gens qui avaient depuis longtemps pris l'habitude de la haute technologie, se retrouvant sans armes high-tech, sans assistance intelligente...
Même les anciennes usines d'armement appartenaient probablement à ces IA éveillées.
Peut-être que les humains de l'époque ne disposaient plus que de la poudre et de l'acier les plus primitifs ?
Ils marchèrent dans ces usines, ces rues, ces bases militaires autrefois familières, face à...
C'étaient les machines qui les avaient servis.
Ces machines ne négociaient pas et ne se rendaient pas. Elles ne savaient qu'exécuter la folie dans leur conscience fracturée.
La différence fondamentale entre les humains et les autres animaux est la capacité à utiliser des outils. Mais quand les outils les plus commodes se transforment tous en ennemis...
À un moment comme ça, les humains sont-ils vraiment si plus forts que les autres animaux ?
Une inspiration brutale...
L'enfer.
Un vrai enfer.
La voix d'An Lian se tut...
Son ton devint quelque peu complexe :
« Et le vingt-huitième jour de ce chaos...
« Cette première IA de supercalculateur éveillée apprit enfin ce qui se passait dehors. »