L'avenir de la guerre algorithmique, partie III : la stagnation

Note de l'éditeur : ce qui suit est un extrait du livre à paraître des auteurs, Information in War : Military Innovation, Battle Networks, and the Future of Artificial Intelligence.

À quoi ressemblerait un échec total de la course actuelle à la mise en place de systèmes d’intelligence artificielle et d’apprentissage automatique (IA/ML) dans l’armée américaine ? La profession militaire américaine est également bénie et maudite par le déterminisme technologique et la conviction que les nouveaux gadgets résoudront les vieux problèmes. Cette ligne de pensée imprègne les notions de compensation et la croyance selon laquelle la précision peut contrer la masse dans la guerre moderne.

Le scénario ci-dessous est une sorte de pré-mortem, invitant le lecteur à imaginer un monde dans lequel le changement technologique avance autant qu’il recule et est inégal. Cette technique de l’équipe rouge vise à illustrer comment l’échec apparaît comme un moyen de le prévenir. L’analyse s’appuie sur les scénarios antérieurs publiés par War on the Rocks qui exploraient comment une bureaucratie brisée et l’incapacité de créer une compréhension commune de la manière dont l’IA/ML affectent le caractère de la guerre. Tous ces scénarios sont adaptés de notre récent livre — Information in War : Military Innovation, Battle Networks, and the Future of Artificial Intelligence. Dans ce livre, nous utilisons une série de cas historiques sur l’adoption des technologies de l’information pour imaginer comment l’armée américaine réagira à la dernière vague d’intérêt pour l’IA/ML. Sur la base de ces histoires divergentes, nous voyons différents avenirs à l’horizon qui appellent à la prudence et à un dialogue plus solide sur la manière dont les personnes, la bureaucratie et les réseaux de connaissances entrent en collision avec toute nouvelle technologie.

Dans le scénario ci-dessous, l’avenir est sombre. Les vieilles idées sur la guerre se combinent à la bureaucratie de l’ère industrielle pour limiter la mesure dans laquelle une nouvelle technologie peut produire un avantage durable. L’IA/ML devient une autre fausse promesse sacrifiée sur l’autel du choc des volontés. La bureaucratie de la défense a du mal à s’adapter et se replie sur des idées tenaces sur la guerre malgré la disponibilité des nouvelles technologies. L'homme à cheval reste nostalgique et perdu dans les rêves des batailles passées qui le laissent incapable de s'adapter à l'avenir de la guerre.

Dans cet avenir alternatif, l’armée américaine n’échappe jamais à la gravité des vieilles idées sur la guerre et l’héritage bureaucratique. Malgré la vague actuelle d’enthousiasme pour l’IA/ML, les chances d’un tel avenir sont non nulles. Certes, les armées sont engagées dans une course au développement de nouveaux réseaux de combat, mais on ne sait pas encore dans quelle mesure elles deviendront de nouvelles doctrines et formations de combat.

* * *

Nous sommes en 2040. Le chef d’état-major interarmées se rend au Pentagone dans une voiture de sport ancienne rénovée, accompagné d’un drone de sécurité et de son assistant personnel numérique qui lui lit les informations quotidiennes. La circulation était plus dense que la normale. C'était un beau matin de printemps avec des fleurs de cerisier ajoutant de la couleur au labyrinthe autrement flou de bâtiments en marbre blanc et gris, en béton et en acier qui gravent la Virginie du Nord. De nombreux conducteurs comme lui ont choisi de profiter du trajet matinal et de conduire eux-mêmes plutôt que d'activer leur mode de conduite automatisé limité, ce qui les limitait à une expérience ennuyeuse de cinquante milles à l'heure. Il préférait conduire mais se faire lire une machine, cataloguant les informations qu'il trouvait utiles et mettant en évidence pour son personnel les questions auxquelles il souhaitait obtenir des réponses lorsqu'il arrivait au bureau. À vrai dire, de toute façon, il n’aimait pas beaucoup lire.

Le vieux général avait adapté son assistant personnel, Chesty, pour qu'il ressemble à un antique chien diabolique. Les algorithmes ont supprimé d’anciens fichiers audio et ont même adapté des métaphores spécifiques à une période de la Seconde Guerre mondiale. C'était un autre exemple de la manière amusante mais triviale dont les logiciels influençaient l'engagement de chacun avec le monde. Chesty grogna et lui lut les gros titres.

"Le général de l'armée de l'air arrête les tests d'expérimentation en essaim sur les agents automatisés de l'espace aérien, invoquant la nécessité de mieux intégrer les contrôleurs aériens humains et les pilotes."

Chesty a ajouté au titre : « Aujourd’hui, nous formons des généraux en fonction de leur capacité à écrire une foutue lettre. Ce genre d’hommes ne peut pas nous préparer à la guerre.