Wetgevers, opgeschrikt door door AI gelanceerde kernwapens, eisen ‘menselijke controle’ in de wet op het defensiebeleid

De mogelijkheid dat een kunstmatig intelligentiesysteem op eigen kracht een nucleaire aanval zou lanceren, heeft de wetgevers van het Huis ertoe aangezet om wetgevende taal voor te stellen die ervoor zou zorgen dat het nucleaire arsenaal van Amerika onder menselijke controle blijft.

Rep. Ted Lieu, D-Calif., Heeft een tweeledige wijziging voorgesteld van de wet op het defensiebeleid van 2024, die vereist dat het Pentagon een systeem invoert dat ervoor zorgt dat “zinvolle menselijke controle vereist is om een ​​kernwapen te lanceren”. Het definieert menselijke controle door te zeggen dat mensen het laatste woord moeten hebben bij het selecteren en aanvallen van doelen, inclusief wanneer, waar en hoe ze worden geraakt met een nucleair wapen.

Het is een concept waarvan hoge militaire leiders zeggen dat ze het al volgen. In april vertelden AI-topadviseurs van US Central Command aan Fox News Digital dat het hun doel is om AI te gebruiken om sneller gegevens te beoordelen en opties te bieden aan militaire leiders, maar om mensen het laatste woord te laten hebben in tactische militaire beslissingen.

HET CONGRES STIMULEERT AGRESSIEF GEBRUIK VAN AI IN DE FEDERALE OVERHEID, ZEGT AI ‘ONDERBEnut’ IN AGENTSCHAPPEN

Vertegenwoordigers Juan Ciscomani, R-Ariz., en Ted Lieu, D-Calif., Stelden een wijziging van de National Defense Authorization Act voor die menselijke controle over nucleaire lanceringsbeslissingen zou vereisen.

De tweeledige steun voor het amendement van Lieu laat echter zien dat wetgevers zich steeds meer zorgen maken over het idee dat AI zelf zo snel op beslissingen kan reageren als het de situatie kan beoordelen. Lieu’s wijziging van de National Defense Authorization Act (NDAA) wordt ondersteund door GOP-wetgevers Juan Ciscomani uit Arizona en Zachary Nunn uit Iowa, samen met de democraten Chrissy Houlahan uit Pennsylvania, Seth Moulton uit Massachusetts, Rashida Tlaib uit Michigan en Don Beyer uit Virginia.

Huisrepublikeinen zullen naar verwachting al volgende week beginnen met het werk om te beslissen welke van de meer dan 1.300 voorgestelde amendementen op de NDAA een stemming krijgen op de House-vloer. Lieu’s voorstel is niet het enige AI-gerelateerde amendement op het wetsvoorstel – een ander teken dat hoewel het Congres nog niets heeft aangenomen dat in de buurt komt van een breed wetsvoorstel dat deze opkomende technologie reguleert, het de kwestie waarschijnlijk fragmentarisch zal benaderen.

Afgevaardigde Stephen Lynch, D-Mass, stelde een soortgelijk amendement op de NDAA voor, waarbij het ministerie van Defensie zich zou moeten houden aan de richtlijnen van de Biden-regering van februari over AI over het “verantwoord militair gebruik van kunstmatige intelligentie en autonomie”.

CHINESE REGERING MONDSTUK GELOOF DAT BEIJING ZAL OPDRIJVEN VOOR AI WERELDWIJDE SUPREMATIE

Rep. Mike Rogers, een Republikein uit Alabama en voorzitter van het House Armed Services Committee, heeft een wetsvoorstel ingediend dat “verantwoorde ontwikkeling en gebruik” van AI vereist, maar sommige wetgevers willen verder gaan. (Getty-afbeeldingen)

Die niet-bindende richtlijn zegt onder meer dat naties “menselijke controle en betrokkenheid moeten behouden voor alle acties die cruciaal zijn voor het informeren en uitvoeren van soevereine beslissingen met betrekking tot het gebruik van kernwapens.

“Staten moeten militaire AI-mogelijkheden ontwerpen en ontwikkelen, zodat ze onbedoelde gevolgen kunnen detecteren en vermijden, en ingezette systemen die onbedoeld gedrag vertonen, kunnen uitschakelen of deactiveren”, voegde het eraan toe. “Staten moeten ook andere passende waarborgen implementeren om de risico’s van ernstige mislukkingen te beperken.”

Niet alle amendementen zijn er echter op gericht AI af te remmen. Een voorstel van Rep. Josh Gottheimer, DN.J., zou een US-Israel Artificial Intelligence Center opzetten dat gericht is op gezamenlijk onderzoek naar AI en machine learning met militaire toepassingen.

SENAAT DRAAGT OM AMERIKAANSE BEDRIJVEN DIE CHINA HELPEN BIJ DE BOUW VAN ZIJN AI-GEDREVEN ‘SURVEILLANCESTAAT’ TE STRAPEN

Wetgevers hebben verschillende voorstellen voor hoe het Pentagon met AI zou moeten omgaan, waaronder een waarvoor samenwerking met Israël nodig is. (PERSONEEL/AFP via Getty Images)

“De staatssecretaris en de hoofden van andere relevante federale agentschappen kunnen, afhankelijk van de beschikbaarheid van kredieten, samenwerkingsovereenkomsten sluiten ter ondersteuning en versterking van de dialoog en planning waarbij internationale partnerschappen betrokken zijn tussen het ministerie van Buitenlandse Zaken of dergelijke agentschappen en de regering van Israël en haar ministeries, kantoren en instellingen”, aldus het amendement.

Een andere, van Rep. Rob Wittman, R-Va., zou van het Pentagon eisen dat het een proces opzet voor het testen en evalueren van grote taalmodellen zoals ChatGPT op onderwerpen zoals hoe feitelijk ze zijn en de mate waarin ze bevooroordeeld zijn of desinformatie promoten.

KLIK HIER OM DE FOX NEWS-APP TE ONTVANGEN

Het wetsvoorstel dat vorige maand door het House Armed Services Committee is aangenomen, bevat al taal die het Pentagon zou verplichten een proces op te zetten dat de “verantwoorde ontwikkeling en gebruik” van AI garandeert, en het mogelijke gebruik van autonome systemen te bestuderen om het leger te laten werken efficiënter.