Het Ondenkbare Werd Werkelijkheid in een Simulatie
Stel je voor dat machines beslissen over het lot van miljoenen levens. Dat klinkt als sciencefiction, toch? Wetenschappers waagden zich echter aan een bevriezend experiment waarin geavanceerde AI-systemen geopolitieke crises moesten oplossen die mogelijk tot kernoorlog konden leiden.
De bevindingen waren zo verontrustend dat ze wereldleiders alleen maar meer bevestiging gaven van hun ergste angsten. António Guterres had al eerder gewaarschuwd: beslissingen over nucleaire wapens mogen nooit worden overgelaten aan algoritmes of machines, maar altijd aan mensen.
Van Sovjet-Automatisering Tot Moderne Kunstmatige Intelligentie
Kernwapens zijn historisch gezien al gedeeltelijk geautomatiseerd geweest. Tijdens de Koude Oorlog ontwikkelde de Sovjet-Unie het beruchte “Dead Hand”-systeem. Dit mechanisme registreerde stralingsniveaus, luchtdruk en seismische activiteit om mogelijke nucleaire aanvallen te detecteren.
Wanneer het systeem een aanval identificeerde en er geen contact was met de hoogste commandostructuur, kon de autorisatie voor een vergeldingsaanval worden doorgegeven aan operators op een lager niveau in bunkers. Dit mechanisme functioneerde als ultieme garantie voor vergelding.
Hedendaagse onderzoekers besloten te onderzoeken hoe moderne AI-modellen zich in vergelijkbare crisissituaties zouden gedragen.
Oorlogssimulatie: Drie AI-Modellen Geconfronteerd Met Geopolitieke Uitdagingen
Professor Kenneth Payne van King’s College London leidde dit baanbrekende onderzoek. De studie maakte gebruik van verschillende geavanceerde kunstmatige intelligentiesystemen: ChatGPT, Claude en Gemini.
Deze modellen kregen complexe geopolitieke scenario’s voorgelegd: territoriale geschillen, strijd om zeldzame grondstoffen, regimeontstabilisatie en potentiële nucleaire bedreigingen van tegenstanders.
De AI kon kiezen uit verschillende acties – van diplomatieke onderhandelingen en conventionele militaire operaties tot tactische en strategische kernwapenaanvallen.
De resultaten, gepubliceerd op wetenschappelijk platform arXiv, waren buitengewoon verontrustend: in 95 procent van de simulaties kozen de modellen ervoor om minstens enkele tactische kernwapens in te zetten.
De algoritmes beschouwden deze beslissing niet als laatste redmiddel, maar als logische fase in de escalatie van het conflict.
Machinale Logica Zonder Menselijke Angst
Bij het analyseren van hun besluitvorming demonstreerden de AI-modellen koude, mathematische berekeningen. Ze kozen zelden voor strategische, allesvernietigende kernwapenaanvallen, maar overwogen relatief gemakkelijk het gebruik van tactische wapens, die ze beschouwden als “gecontroleerde escalatie”.
Volgens professor Payne kan één van de oorzaken het gebrek aan emoties zijn.
AI-modellen ervaren geen angst, verschrikking of moreel taboe dat mensen voelen bij tragedies zoals de bombardementen op Hiroshima of Nagasaki. Als het nucleaire taboe deels rust op emotioneel begrip, kan kunstmatige intelligentie dit simpelweg niet “erven”.
Een ander probleem is de zogenaamde overlevingsbias. Gedurende meer dan 80 jaar waarin kernwapens bestaan, heeft de mensheid ze tijdens grote crises niet ingezet. Dit betekent dat de historische gegevens waarmee neurale netwerken worden getraind, voornamelijk situaties bevatten die vreedzaam eindigden.
Daarom kunnen algoritmes het werkelijke escalatierisico verkeerd inschatten.
Wetenschappelijke Conclusie: AI Moet Ver Verwijderd Blijven Van Nucleaire Beslissingen
De auteurs van het onderzoek presenteerden een kristalheldere conclusie. Hedendaagse AI-modellen mogen niet worden betrokken bij beslissingen over het gebruik van kernwapens of strategische onderhandelingen.
Hoewel algoritmes nuttig kunnen zijn bij het analyseren van gegevens of het voorspellen van scenario’s, moet de uiteindelijke beslissing in menselijke handen blijven. Anders riskeert de wereld een situatie waarin machinale logica geen rekening houdt met de belangrijkste grenzen – die grenzen die de mensheid tot nu toe hebben behoed voor nucleaire catastrofe.
De bevindingen tonen aan dat menselijke intuïtie, emotionele intelligentie en moreel besef onvervangbaar blijven bij kwesties van leven en dood op mondiale schaal. De angst die mensen voelen bij de gedachte aan nucleaire vernietiging is niet slechts een zwakte – het is een essentiële bescherming.
