Sunak AI-adviseur waarschuwt dat technologie binnen twee jaar ‘veel mensen kan doden’ | Wetenschap | Nieuws

Kunstmatige intelligentie (AI) zou de mogelijkheid kunnen hebben om in slechts twee jaar tijd achter ontwikkelingen te zitten die “veel mensen doden”, aldus Rishi Sunaks adviseur op het gebied van technologie.

Matt Clifford zei dat tenzij AI-producenten op wereldschaal worden gereguleerd, er “zeer krachtige” systemen zouden kunnen zijn die mensen moeilijk kunnen beheersen.

Zelfs de kortetermijnrisico’s waren “behoorlijk eng”, vertelde hij aan TalkTV, met AI die het potentieel heeft om cyber- en biologische wapens te maken die vele doden kunnen veroorzaken.

De opmerkingen komen nadat vorige week een brief werd gepubliceerd, gesteund door tientallen experts, waaronder AI-pioniers, waarin werd gewaarschuwd dat de risico’s van de technologie met dezelfde urgentie moeten worden behandeld als pandemieën of een nucleaire oorlog.

Hogere bazen bij bedrijven als Google DeepMind en Anthropic ondertekenden de brief samen met de zogenaamde “peetvader van AI”, Geoffrey Hinton, die eerder deze maand ontslag nam bij Google en zei dat AI in verkeerde handen zou kunnen worden gebruikt om mensen kwaad te doen en het einde van de mensheid te betekenen.

LEES MEER: ‘Ik wist dat Holly boos was op Phil, maar had niet verwacht dat ze zo bot zou zijn’

Clifford adviseert de premier over de ontwikkeling van de Foundation Model Taskforce van de Britse regering, die zich bezighoudt met AI-taalmodellen zoals ChatGPT en Google Bard, en is tevens voorzitter van de Advanced Research and Invention Agency (Aria).

Hij vertelde TalkTV: “Ik denk dat er veel verschillende soorten risico’s zijn met AI en vaak praten we in de branche over risico’s op korte en lange termijn, en de risico’s op korte termijn zijn eigenlijk best eng.

“Je kunt AI vandaag gebruiken om nieuwe recepten voor biowapens te maken of om grootschalige cyberaanvallen uit te voeren. Dit zijn slechte dingen.

“Het soort existentieel risico waarvan ik denk dat de briefschrijvers het hadden, is… over wat er gebeurt als we effectief een nieuwe soort creëren, een intelligentie die groter is dan de mens.”

Hoewel hij toegaf dat een tijdschema van twee jaar voor computers om de menselijke intelligentie te overtreffen, aan het “bullish einde van het spectrum” was, zei Clifford dat AI-systemen “steeds meer capabel werden in een steeds hoger tempo”.

Gevraagd in het First Edition-programma op maandag (5 juni) hoeveel procent kans hij zou geven dat de mensheid door AI zou kunnen worden weggevaagd, zei Clifford: “Ik denk dat het niet nul is.”

Hij vervolgde: “Als we teruggaan naar zaken als de biowapens of cyberaanvallen, kun je echt zeer gevaarlijke bedreigingen voor mensen hebben die veel mensen kunnen doden – niet alle mensen – simpelweg van waar we zouden verwachten dat modellen in tweeën zouden zijn. jaren tijd.

“Ik denk dat we ons nu moeten concentreren op hoe we ervoor kunnen zorgen dat we weten hoe we deze modellen moeten beheersen, want op dit moment weten we dat niet.”

De technologie-expert zei dat de productie van AI op wereldschaal moet worden gereguleerd en niet alleen door nationale regeringen.

AI-apps zijn online viraal gegaan, waarbij gebruikers nepafbeeldingen van beroemdheden en politici posten, en studenten die ChatGPT en andere ‘taalleermodellen’ gebruiken om essays van universitair niveau te genereren.

Maar AI kan ook levensreddende taken uitvoeren, zoals algoritmen die medische beelden zoals röntgenfoto’s, scans en echo’s analyseren, waardoor artsen ziekten zoals kanker en hartaandoeningen nauwkeuriger en sneller kunnen identificeren en diagnosticeren.

Clifford zei dat AI, mits op de juiste manier ingezet, een kracht ten goede kan zijn.

“Je kunt je voorstellen dat AI ziekten geneest, de economie productiever maakt en ons helpt om een ​​koolstofneutrale economie te bereiken”, zei hij.

De PvdA dringt er bij ministers op aan om technologieontwikkelaars te verbieden om aan geavanceerde AI-tools te werken, tenzij ze een licentie hebben gekregen.

Schaduwsecretaris Lucy Powell, die dinsdag op de TechUK-conferentie zal spreken, vertelde The Guardian dat AI op dezelfde manier een licentie moet krijgen als medicijnen of kernenergie.

“Dat is het soort model waar we aan moeten denken, waar je een licentie voor nodig hebt om deze modellen te bouwen,” zei ze.