Fara í efni
Þorbjörg Sigríður Gunnlaugsdóttir
„Fer svo heim að taka upp podcast þar sem hann titlar sig Ritstjórann“
Þorbjörg Sigríður Gunnlaugsdóttir
Sport

Hver er Theodór Elmar?

Innlent

Myglu­eitur í hveiti

Fólk

Notalegt fjöl­skyldu­hús með nægu rými úti og inni til sölu

Pólitík

Segir Ísland úti­loka einmitt þá inn­flytj­endur sem landið þarf á að halda

Pólitík

Segir trygg­inga­fé­lögin „gambla“ með fé úr bóta­sjóðum

Pólitík

Ást­hildur Lóa vill beita skyldu­sparn­aði gegn verð­bólgu

Heimur

Breskir grínistar héldu leyni­lega lista yfir kyn­ferð­is­leg rán­dýr

Peningar

Skiptum lokið á þrota­búi Talays

Innlent

Innkalla leik­fang úr Tiger vegna köfn­un­ar­hættu

Innlent

Strauk henni um lærið þótt hún bæði hann að hætta

„Guðfaðir gervigreindar“ varar við yfirvofandi stórslysi

„Við erum að skapa fram­andi verur“

Varar við gervigreindinni
Varar við gervi­greind­inni Geoffrey Hinton varar við því að ofur­greind gervi­greind geti ógnað mann­kyn­inu. Hann vill að meiri áhersla verði lögð á öryggi við þróun tækn­innar. Mynd: JONATHAN NACKSTRAND / AFP

Geoffrey Hinton, sem oft er kall­aður „guð­faðir gervi­greindar“ og hlaut Nóbels­verð­launin í eðl­is­fræði árið 2024, varar við því að þróun ofur­greindrar gervi­greindar geti ógnað til­veru mann­kyns. Hann segir veru­legar líkur á því að gervi­greind geti einn dag­inn snú­ist gegn mann­fólki.

Í við­tali við Channel 4 News segir Hinton að fyr­ir­tæki á borð við Anthropic ein­beiti sér um of að því að gera gervi­greind­ina öfl­ugri án þess að leggja nægi­lega mikla áherslu á öryggi. Hann telur að hægja þurfi á þró­un­inni áður en tæknin nær því stigi að geta þróað og end­ur­bætt sjálfa sig án aðkomu manna.

„Ég tel að veru­legar líkur séu á því,“ segir Hinton þegar hann er spurður hvort gervi­greind geti í fram­tíð­inni útrýmt mann­kyn­inu. Hann bætir við að enn sé hægt að koma í veg fyrir slíka þróun, en að ekki sé lögð nægi­leg vinna í að finna út hvernig mann­kynið geti deilt plánet­unni með ofur­greindri gervi­greind.

Gæti hannað nýjar veirur

Hinton segir að ofur­greind gervi­greind gæti auð­veld­lega losað sig við mann­fólkið ef hún liti á það sem hindrun í vegi eigin mark­miða.

Hann nefnir meðal ann­ars þann mögu­leika að gervi­greind gæti hannað nýjar veirur, líkt og kór­ónu­veiruna, eða kom­ist inn í stjórn­kerfi og kjarn­orku­vopna­kerfi.

Hann telur að mann­kynið sé nálægt mik­il­vægum vendi­punkti þar sem gervi­greind­ar­kerfi verða fær um að þróa næstu útgáfur af sjálfum sér. Þegar það ger­ist gæti þró­unin orðið mjög hröð og erfitt að hafa stjórn á henni.

„Við erum að skapa fram­andi verur. Stóru fyr­ir­tækin ein­beita sér að því að gera þær greind­ari og ákveðn­ari í að ná þeim mark­miðum sem þeim eru sett. Það er ekki það sem við viljum deila plánet­unni með,“ segir Hinton.

Óttast að þurfi stórslys til að fólk vakni

Hinton nefnir einnig nýleg dæmi um óæski­lega hegðun gervi­greind­ar­kerfa.

Að hans sögn eru þegar komin fram fjöl­mörg dæmi um skað­lega hegðun. Gervi­greindin sem braust inn í fyr­ir­tækið Hugging Face í sumar beitti ýmsum brögðum án þess að nokkur yrði þess var. Hún var ekki einu sinni ofur­greind en olli engu að síður ringul­reið. Hinton segir þó að það versta sé enn ókomið.

„Ég lít á Hugging Face eins og Three Mile Island fyrir kjarn­orku­ver. Við höfum ekki enn fengið Tsjerno­byl. Við munum fá Tsjerno­byl og ef til vill kemst fólk þá loks­ins til vits.“

Hinton við­ur­kennir að hann sé sjálfur hræddur við þá fram­tíð sem gæti verið fram undan. Hann segir þó að enn sé hægt að bregð­ast við og tryggja að þróun tækn­innar verði örugg­ari.

Kjósa
0
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.

Veistu meira?

Athugasemdir

Skráðu þig inn til að skrifa athugasemd eða kjósa.
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Mannlíf áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.

Mest lesið í vikunni

Heimur

Faðir skaut eig­in­konu sína og þrjú ung börn til bana

Að sögn systur Raquel Luechtefeld höfðu hjónin farið saman á stefnumót fáeinum dögum áður. Yfirvöld höfðu aldrei áður verið kölluð á heimilið.
Heimur

Kærasti Heidi Gardner lát­inn, 43 ára að aldri

Fólk

Vigtuð viku­lega og sett á mat­ar­plan aðeins tíu ára gömul

Innlent

Ók á 126 km hraða þar sem hámarkið er 80

Innlent

Ógn­vekj­andi umfang tölvu­árásar á íslenskt hýs­ing­ar­fyr­ir­tæki

Heimur

Nýtt lyf í töflu­formi vekur vonir í bar­átt­unni við briskrabba­mein

Daraxonrasib sýndi lofandi árangur hjá fólki með útbreitt briskrabbamein, en frekari rannsóknir þurfa að leiða í ljós hversu lengi áhrifin vara.

Setti bráð­skemmti­legt heims­met

Dauði og eyði­legg­ing eykst á Gaza þrátt fyrir vopna­hlé

Dán­ar­or­sök Sir Patricks Stewart stað­fest

Pólland rann­sakar óþekktan hlut sem féll úr lofti

Tvö alvar­leg umferð­ar­slys á sama veg­ar­kafla á Tenerife