Wereld

CEO van Anthropic waarschuwt: ‘We kunnen de AI-apocalyps niet overleven zonder principes’

De spanningen tussen de Amerikaanse overheid en de AI-sector zijn tot een kookpunt gekomen. In een onthullend interview met CBS News Hours waarschuwt Dario Amodei, de CEO van Anthropic (het bedrijf achter de AI Claude), voor de gevaren van een ongecontroleerde integratie van kunstmatige intelligentie in de militaire sector. Het conflict draait om een fundamentele vraag: moet de nationale veiligheid prioriteit krijgen boven democratische waarden, of is het juist die waarden die de VS superieur maken aan autocratische tegenstanders zoals China en Rusland?

De ‘rode lijnen’ van Anthropic

Amodei stelt dat Anthropic zeer bereid is om de Amerikaanse nationale veiligheid te ondersteunen, maar dat er twee specifieke toepassingen zijn waar het bedrijf een harde grens trekt. De eerste is binnenlandse massasurveillance. Volgens Amodei stelt AI de overheid in staat om commercieel verzamelde data van burgers op een schaal te analyseren die voorheen onmogelijk was. "Een AI-model kan alle locatiegegevens lezen, deze koppelen aan uw aankopen en uw politieke voorkeuren, en tegen de ochtend een volledig profiel van u klaar hebben," legt Amodei uit. Hij waarschuwt dat de technologie sneller vordert dan de wetgeving, waardoor het Amerikaanse Vierde Amendement — dat burgers beschermt tegen onredelijke huiszoekingen en inbeslagname — in de praktijk wordt uitgehold.

Het gevaar van volledig autonome wapens

De tweede rode lijn betreft volledig autonome wapens: systemen die kunnen vuren zonder enige menselijke tussenkomst. Amodei benadrukt dat de huidige AI-systemen simpelweg niet betrouwbaar genoeg zijn voor deze taak. De onvoorspelbaarheid van AI kan leiden tot fatale fouten, waarbij de machine het verkeerde doelwit kiest of een burger neerschiet zonder het menselijke oordeel te tonen dat een soldaat wel zou hebben. "We moeten een gesprek voeren over verantwoordelijkheid, over wie de knop beheert en wie ‘nee’ kan zeggen," aldus Amodei. Hij waarschuwt voor een scenario waarin miljoenen drones worden gecoördineerd door slechts een handvol mensen, wat een enorm risico op accountability-problemen met zich meebrengt.

Retaliatie van het Pentagon

Deze principled stand van Anthropic leidde tot een felle reactie vanuit het Pentagon. Omdat het bedrijf weigerde zijn AI zonder beperkingen aan de overheid te leveren, werd Anthropic bestempeld als een "risico voor de toeleveringsketen" (supply chain risk). Dit is een zware kwalificatie die voorheen bijna uitsluitend werd gebruikt voor bedrijven uit vijandige staten, zoals de Russische cybersecurityfirma Kaspersky Labs. Amodei ziet dit als een punitieve maatregel om het bedrijf te dwingen zijn principes op te geven. "Het voelt als vergelding en is ongepast, gezien de hoeveelheid werk die we hebben verricht voor de nationale veiligheid van de VS," stelt hij.

De strijd tussen Anthropic en OpenAI

Terwijl Anthropic vocht voor zijn principes, nam concurrent OpenAI een pragmatischer route. OpenAI sloot een deal met het Pentagon om hun AI op geclassificeerde netwerken te plaatsen. Hoewel OpenAI op papier vergelijkbare restricties accepteerde wat betreft massasurveillance en menselijke verantwoordelijkheid, was het belangrijkste verschil dat zij deze afspraken niet publiekelijk als absolute voorwaarde stelden voor hun contract. Het resultaat was simpel: OpenAI kreeg het lucratieve contract, terwijl Anthropic in de rechtszaal belandde. Dit suggereert dat de strijd niet alleen ging over de technologie, maar over wie het recht heeft om ‘nee’ te zeggen tegen de machtigste militaire organisatie ter wereld.

Een verdeelde rechtspraak

De juridische strijd over de status van Anthropic heeft geleid tot tegenstrijdige uitspraken. Een federale rechter in San Francisco oordeelde in eerste instantie dat de maatregelen van het Pentagon bedoeld waren om Anthropic te straffen en noemde het "klassieke vergelding op basis van het Eerste Amendement" (vrijheid van meningsuiting). De rechter stelde dat de invocatie van nationale veiligheid geen blanco cheque is om critici van de overheid te straffen. Echter, een hoger hof in Washington oordeelde later dat het Pentagon redelijkerwijs kon vrezen dat Anthropic het ontwerp van Claude zou manipuleren om nationaal veiligheidswerk te blokkeren. Hiermee verschoof de focus van de *intentie* van het bedrijf naar de *impact* van hun acties.

De ambitie van de ‘Replicator’-programma’s

De urgentie van het Pentagon wordt duidelijk in programma’s zoals ‘Replicator’, waarbij het doel is om duizenden autonome systemen in korte tijd in te zetten. Er zijn plannen om in enkele jaren tijd tot een miljoen drones aan te schaffen. Voor de militaire top is de gedachte simpel: als tegenstanders zoals China autonome legers bouwen, kan de VS het zich niet veroorloven om vertraagd te worden door de morele bezwaren van één privaat bedrijf. Amodei countert dit echter door te stellen dat een "race naar de bodem" waarbij men alle waarden opoffert om te winnen, uiteindelijk contraproductief is. "We moeten winnen op een manier die onze waarden behoudt," betoogt hij.

Conclusie: De traagheid van de wetgever

Uiteindelijk concludeert Amodei dat de huidige situatie onhoudbaar is. Het is ongezond dat een privaat bedrijf en het Pentagon in de rechtszaal strijden over de ethiek van oorlogsvoering. De echte oplossing moet komen van het Congres, dat wetgeving moet maken die guardrails instelt zonder de militaire slagkracht te hinderen. Echter, terwijl politici traag vergaderen, gaat de aanschaf van autonome machines razendsnel door. De beslissingen over wie er bespied wordt en wie een machine mag neerschieten, worden momenteel genomen door een kleine groep mensen, grotendeels buiten het publieke zicht.

Dit artikel werd gegenereerd met Gemma 4 Abliterated · model huihui_ai/gemma-4-abliterated:31b.