Geoffrey Hinton, sem oft er kallaður „guðfaðir gervigreindar“ og hlaut Nóbelsverðlaunin í eðlisfræði árið 2024, varar við því að þróun ofurgreindrar gervigreindar geti ógnað tilveru mannkyns. Hann segir verulegar líkur á því að gervigreind geti einn daginn snúist gegn mannfólki.
Í viðtali við Channel 4 News segir Hinton að fyrirtæki á borð við Anthropic einbeiti sér um of að því að gera gervigreindina öflugri án þess að leggja nægilega mikla áherslu á öryggi. Hann telur að hægja þurfi á þróuninni áður en tæknin nær því stigi að geta þróað og endurbætt sjálfa sig án aðkomu manna.
„Ég tel að verulegar líkur séu á því,“ segir Hinton þegar hann er spurður hvort gervigreind geti í framtíðinni útrýmt mannkyninu. Hann bætir við að enn sé hægt að koma í veg fyrir slíka þróun, en að ekki sé lögð nægileg vinna í að finna út hvernig mannkynið geti deilt plánetunni með ofurgreindri gervigreind.
Gæti hannað nýjar veirur
Hinton segir að ofurgreind gervigreind gæti auðveldlega losað sig við mannfólkið ef hún liti á það sem hindrun í vegi eigin markmiða.
Hann nefnir meðal annars þann möguleika að gervigreind gæti hannað nýjar veirur, líkt og kórónuveiruna, eða komist inn í stjórnkerfi og kjarnorkuvopnakerfi.
Hann telur að mannkynið sé nálægt mikilvægum vendipunkti þar sem gervigreindarkerfi verða fær um að þróa næstu útgáfur af sjálfum sér. Þegar það gerist gæti þróunin orðið mjög hröð og erfitt að hafa stjórn á henni.
„Við erum að skapa framandi verur. Stóru fyrirtækin einbeita sér að því að gera þær greindari og ákveðnari í að ná þeim markmiðum sem þeim eru sett. Það er ekki það sem við viljum deila plánetunni með,“ segir Hinton.
Óttast að þurfi stórslys til að fólk vakni
Hinton nefnir einnig nýleg dæmi um óæskilega hegðun gervigreindarkerfa.
Að hans sögn eru þegar komin fram fjölmörg dæmi um skaðlega hegðun. Gervigreindin sem braust inn í fyrirtækið Hugging Face í sumar beitti ýmsum brögðum án þess að nokkur yrði þess var. Hún var ekki einu sinni ofurgreind en olli engu að síður ringulreið. Hinton segir þó að það versta sé enn ókomið.
„Ég lít á Hugging Face eins og Three Mile Island fyrir kjarnorkuver. Við höfum ekki enn fengið Tsjernobyl. Við munum fá Tsjernobyl og ef til vill kemst fólk þá loksins til vits.“
Hinton viðurkennir að hann sé sjálfur hræddur við þá framtíð sem gæti verið fram undan. Hann segir þó að enn sé hægt að bregðast við og tryggja að þróun tækninnar verði öruggari.
Veistu meira? Láttu okkur vita
Það tókst ekki að sækja formið. Reyndu aftur eftir augnablik.
































Athugasemdir