Les robots ont gagné
(Il sera question ici de Singularité, de High-Frequency-Trading, des trois lois de la robotique d’Asimov, de Matrix, de Skynet, de Goldman Sachs et de Boots Riley)
Nous sommes désormais familiers avec la notion de “singularité technologique” portée par Ray Kurzweil.
Il s’agit de ce moment où le progrès technique sera arrivé à un point où le rythme d’innovation dépassera l’entendement humain.
Selon cette théorie, en dérivant la loi de Moore, en 2020 un ordinateur coûtant moins de 1000$ aura la capacité de calcul et de stockage du cerveau humain. En 2045 (moment de la Singularité), pour ce même prix on aura une machine possédant la puissance d’un milliard de cerveaux humains.
Autrement dit, la puissance de calcul des machines sera telle qu’aucun humain ne pourra comprendre ni maitriser l’evolution des technologies.
Des machines concevront d’autres machines. Comme toute “espèce” elles auront tendance à se reproduire et prendre le controle de leur ecosysteme. Le fait que l’origine de cette espèce ne soit pas biologique mais mécanique ne change rien pour les singularitaristes. Les mêmes règles de survie s’appliqueront et même si les humains sont leurs créateurs originaux, elles n’auront pas de raison de les protéger.
Ce thème est récurrent dans la science-fiction.
Terminator parle d’un monde où les robots sont en guerre contre les humains et cherchent à étendre leur territoire, Matrix d’un autre dont les humains sont la matière première nécessaire à la survie des machines.
Asimov, un des premiers, imaginait un monde peuplé de robots mais c’était pour leur donner des limites.
Ses trois lois sont :
- Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Autrement dit, doté d’instinct de survie, un robot est au service des hommes et ne peut leur nuire.
Le High-Frequency-Trading est le processus par lequel des systèmes informatiques utilisent des algorithmes pour procéder à des echanges sur les marchés boursiers.
Ces échanges se font en quelques micro-secondes et ont pour seul objectif la création de profits financiers.
Clairement, à ce rythme de calcul aucun humain ne peut contrôler l’action des systèmes en action. Leur emballement menait en 2010 à ce qu’on a appelé le “Flash-Crash” au cours duquel le dow-jones a perdu, puis regagné plusieurs centaines de points sans que personne n’y comprenne quoi que ce soit (rapport de la SEC sur cet evenement).
Inutile d’attendre 2020 ou 2045. La singularité se trouve ici illustrée : des systemes informatiques (ordinateurs sur-puissants et algorithmes) fonctionnent pour le but qu’ils se fixent (accroissement du profit), sans les barrières des lois d’Asimov, s’emballent et créent une situation qu’aucun humain, y compris ceux qui les ont programmés, ne peut ni comprendre ni contrôler.
Skynet n’est pas le Terminator qui recherche Sarah Conor, c’est un algorythme qui parie sur le prix des matières premières.
Alors bien sur, le resultat n’est pas le même. Le monde n’est pas mis à feu et à sang par des machines.
Quoi que
Depuis des décennies les Etats occidentaux ont abandonné les filières industrielles. Souvenez-vous d’Alcatel, “l’entreprise sans usine”.
Un des effets collatéraux à ces stratégies est qu’au lieu d’occuper nos brillants ingénieurs et mathématiciens à inventer les TGV et Ariane du XXIème siècle, on les a incité à se concentrer sur la creation d’algorithmes d’optimisation des salles de marché. Et ils sont sacrément bons ! Ils sont en train de nous inventer une nouvelle espèce.
Cette espèce tend à s’étendre, se reproduire et contrôler son environnement.
Les pays européens les plus fragiles, et l’Europe elle-même, se dotent de “chefs de gouvernements techniques”. Des économistes “opératifs” issus de chez Goldman-Sachs dont tout l’histoire professionnelle est consacrée au service des marchés, à leur fonctionnement et à leur croissance.
Exactement comme les algorithmes de High-Frequency-Trading.
Mario Draghi (BCE), Mario Monti (Italie) et Loukás Papadímos (Grèce) sont les incarnations, au sens propre, de la “machine” boursière. Ils en représentent les intérêts; l’optimisation des transactions financières. Et Asimov n’est pas uns des paramètres. Que le système se reproduise en tenant compte des intérêts des humains n’est pas pris en compte.
La Machine s’émancipe de ses créateurs, se reproduit, comme n’importe quelle espèce. Elle utilise son environnement pour y parvenir et tout comme nous avons détruit notre écosystème parce que nous sommes d’un “règne” différent des plantes et de la terre elle-même, elle ne s’embarrasse pas de considérations humaniste parce qu’elle n’est pas humaine.
Singularity is near dit Ray Kurzweil un trémolo d’excitation dans la voix.
Je pense que ses éclaireurs sont déjà là, et ils ne sont pas tendres.
Notes