Í kvikmyndinni „The Matrix“ frá árinu 1999 hafa róbótar hneppt mannkyn í þrældóm. Og í „Terminator“ myndunum geisa útrýmingarstríð milli mannkyns og meðvitaðrar gervigreindar, sem framleiðir morðóða róbóta.
Dægurmenningin er full af stórbrotnum frásögnum af stríðum milli róbóta og manna, en samkvæmt vísindamönnum leynist hættan mögulega fremur meðal venjulegra – og að því er virðist – friðsamlegra róbóta.
Gervigreind róbóta er að verða svo þróuð að þeir geta ekki aðeins burstað okkur í skák og stýrt bílum okkar – þeir geta velt vöngum yfir einhverju sem er jafn flókið og tilvist þeirra sjálfra.
Sérfræðingar eru þó hreint ekki á einu máli: Formælendur sjá fyrir sér bjarta framtíð með síaukinni aðstoð róbótanna, meðan að gagnrýnendur hika ekki við að tala um endalok mannkyns.
Hverjum eigum við þá að trúa?
Smábotti öðlast meðvitund
Gervigreind má til hægðarauka skipta upp í fjögur stig. Róbótar hafa fram til þessa einkum tilheyrt því frumstæðasta: Þeir bregðast við tilteknum boðum og eru afar flinkir við að framkvæma sérhæfð verkefni. Sem dæmi má nefna Deep Blue, tölvu IBM, sem sigraði heimsmeistarann í skák, Garry Kasparov þegar árið 1996. Það þóttu tímamót í þróun tölvugreindar.
Á næsta stigi geta róbótar unnið úr reynslu; t.d. lærir aðstoðarbottinn Siri að þekkja raddir okkar og verður sífellt hæfari að svara spurningum hvers og eins.
Á þriðja stigi gervigreindar skilja róbótarnir ekki einungis hvað við segjum, heldur einnig hvað við hugsum, t.d. út frá orðavali og raddblæ. Í upphafi ársins 2023 sýndu sérfræðingar við Stanford University fram á að spjallbottinn ChatGPT býr núna yfir „innsæi“ sem jafna má við þroska níu ára gamals barns.
Svona mun gervigreind auðvelda þér lífið
Heilbrigði, öryggi, samskipti og flutningar eru bara fáein þeirra sviða þar sem gervigreind skiptir máli í lífi þínu í dag, á morgun og á næstu áratugum.
Á efsta stigi gervigreindar kemur síðan sjálfsvitundin. Þá geta róbótar leitt flókin samtöl við manneskjur og jafnframt velt vöngum yfir því „hverjir þeir sjálfir eru í samhengi við aðra hluti og einstaklinga í umhverfi sínu“.
Eitt fábrotið og einfalt dæmi er smábottinn NAO, sem veitti okkur forsmekkinn að sjálfsvitund í tilraun einni frá árinu 2015, þar sem þrír slíkir tóku þátt. Tveir aðrir NAO – róbótar fengu svokallaða „heimskupillu“, þ.e. forrit sem gerði að verkum að þeir gátu ekkert tjáð sig.
Allir þrír róbótarnir voru síðan spurðir hver þeirra hefði fengið heimskupillu.
Þess sakleysislegi NAO-botti komst á forsíður dagblaða árið 2015, þegar hann stóðst próf varðandi meðvitund hans.
Tveir þeirra gátu jú ekkert tjáð sig, meðan að sá þriðji svaraði: „Ég veit það ekki.“ Í ljósi þess leiðrétti hann sjálfan sig: „Afsakið, nú veit ég það. Ég get sýnt fram á að það var ekki ég sem fékk pilluna.“
Róbótinn var þannig viss um hver hann sjálfur var í samhengi við þöglu róbótana.
Róbótaarmur er eins og barn í leik.
Árið 2022 bárust fréttir um nýjan róbótaarm sem vísindamenn við Columbia University í BNA höfðu þróað.
Armurinn getur framkvæmt verkefni, eins og t.d. að grípa bolta án þess að nauðsynlegar hreyfingar hans hafi verið forritaðar af mönnum. Hann hefur lært þetta sjálfur upp á sitt einsdæmi.
Róbótaarmurinn hreyfði sig í fyrstu á fálmkenndan máta – alveg frjáls og markmiðslaus eins og barn – meðan að fimm myndavélar tóku upp allar hreyfingar hans. Út frá þessum upptökum lærði armurinn sjálfur hvernig hann getur teygt út arminn, beygt hann og snúið á ýmsa vegu.
Róbótinn tók síðan að „ímynda“ sér hvernig hann myndi hreyfast, ef að hann virkjaði tiltekna liði með ákveðnum krafti.
Hann var því meðvitaður um eigin „skrokk“ – rétt eins og barn sem lærir smám saman á umheiminn í gegnum leiki sína og könnun á heiminum.
Róbóti verður meðvitaður um sjálfan sig
Verkfræðingar við Colombia University hafa fyrstir allra þróað róbóta sem er meðvitaður um eigin „kropp“. Án aðkomu manna hefur þjarkinn lært að skilja samhengið milli eigin hreyfinga og staðsetningar sinnar í rýminu.
Myndavélar mynda frjálsan leik róbótaarms
Róbótaarmurinn hækkar, lækkar, sveigist og beygist meðan fimm myndavélar taka upp hreyfingar hans og senda í gervigreindarforrit. Rétt eins og barn í speglasal lærir róbótinn hvernig mismunandi hreyfingar hans líta út.
Róbótinn teiknar líkan af hreyfingunum
Gervigreind armsins tekur til við að teikna eigin form sem og kraft og stefnu hreyfinganna. Með hverri nýrri hreyfingu verða teikningarnar aðeins nákvæmari og þannig nær þjarkurinn sífellt betri stjórn á hreyfingum sínum.
Meðvituð gervigreind leysir verkefni
Út frá þessari reynslu getur róbótinn búið til sjálfsmynd – eins konar meðvitund – og getur nú „ímyndað“ sér hvernig beri að bregðast við komandi verkefnum. Róbótinn getur þannig t.d. gripið bolta á lofti.
Þetta hvolpavit sjálfsvitundar meðal róbóta vekur mikla hrifningu hjá mörgum verkfræðingum, sem sjá fyrir sér að róbótar muni auðvelda okkur lífið með margvíslegum hætti.
Hod Lipson – einn af sérfræðingunum sem stóð að hönnuninni á þessum meðvitaða róbótaarmi – telur meira að segja að róbótar með sjálfsvitund muni fela í sér meiri byltingu heldur en bara þá að finna lækningu við öllum gerðum krabbameina – hann er viss um að slíkir róbótar geta bæði fundið hana, sem og fjölmargt annað sem mun gagnast mannkyni.
Aðrir sérfræðingar eru öllu svartsýnni. Og þeir eru margir.
Elon Musk varar okkur við
Árið 2017 undirrituðu yfir 1000 sérfræðingar í tæknigreinum og gervigreind, m.a. Elon Musk, opið bréf til alþjóðasamfélagsins, þar sem þeir vöruðu við sjálfstætt hugsandi róbótum.
Hættan er augljósust á vígvellunum; t.d. skutu drónar af gerðinni Kargu 2 árið 2020 líbíska uppreisnarmenn – án þess að fá skipun um að gera það frá mönnum. Árásin var þannig fyrsta viðurkennda dæmi um sjálfstæða ákvörðun gervigreindar í notkun vopna í stríði.
En ef við horfum framhjá þeim róbótum sem eru smíðaðir fyrir hernað, þá geta aðrir verið vissulega verið stórhættulegir.
,,Núna þegar búið er að opna öskju Pandóru, þá verður ansi erfitt að loka henni aftur.”
Opið bréf frá meira en 1000 sérfræðingum í gervigreind.
Taka má dæmi af velþekktum róbótahundum, þar sem Spot frá bandaríska fyrirtækinu Boston Dynamics er líklega sá víðfrægasti.
Geta hundsins til að ganga upp og niður tröppur, sem og að komast yfir margvíslegar hindranir, gerir hann afar heppilegan til að vinna við m.a. sprengjuhreinsun eða við að aðstoða eftir afleiðingar náttúruhamfara.
En þessi öflugi og fjölhæfi róbótahundur vekur einnig áhuga manna sem hafa allt annað en gott í hyggju. Myndskeið af róbótahundum skjótandi vélbyssum, sem festar eru á bak þeirra, hafa eðlilega vakið ugg og umtal á netinu.
Þessi samþætting á ofurliprum þjörkum – sem kunna að ná meðvitund og vopnavæðast – verður til þess að mörgum internet-notendum rennur kalt vatn milli skinns og hörunds. Fjölmargir sérfræðingar í róbótaiðnaðinum eru einnig sama sinnis.
,,Gervigreind getur orðið annað hvort það besta eða það versta, sem hefur komið fyrir mannkyn.“
Stephen Hawking
Boston Dynamics var eitt af sex fyrirtækjum sem árið 2022 gáfu út sameiginlega tilkynningu: Það má ekki að breyta róbótum okkar til að þeir geti borið vopn, né nýta þá til að skaða manneskjur.
En jafnvel þó að slíkir róbótar fái ekki vopn á bak sitt geta þeir samt sem áður verið hættulegir.
Sjálfræði róbóta er skelfilegt
Það er hægt að hakka hvaða tölvu sem er og vitanlega á það einnig við um tölvurnar sem eru „heilar róbóta“, eða sjálfa gervigreindina. Taka má sem dæmi hinn litla Husky, sem getur farið yfir torfærur og handleikið geislavirkan úrgang.
Hann losar þannig manneskjur við stórhættuleg verkefni, en í raun er hægt að hakka róbótann og þvinga hann til að nota þessi sömu hættulegu efni til að skaða manneskjur.
Nú fá róbótar siðferðilegan áttavita
Gervigreind tekur daglega ótal ákvarðanir fyrir okkur. Nú eru vísindamenn tilbúnir með tækni sem gerir henni kleift að greina á milli góðs og ills. Kannski getur gervigreind framtíðar jafnvel verið siðferðilegur ofjarl okkar mannanna.
Jafnvel þó að róbótar séu harla vel varðir gegn hökkurum, þá er samt sem áður hætta á að róbótarnir geri einfaldlega sjálfir mistök. Það hefur m.a. mörgum sinnum gerst fyrir róbóta, sem geta tekið yfir stjórn bíla.
Árið 2018 var 49 ára gömul kona, Elaine Herzberg, að leiða hjól sitt yfir veg, þegar hún var keyrð niður og drepin af sjálfkeyrandi Uber-bíl í Arizona. Gervigreind bílsins gat ekki gert upp við sig hvort þörf væri að víkja framhjá konunni, fyrr en það var um seinan.
Og í upphafi ársins 2023 kom út skýrsla, þar sem skrásett var að sjálfkeyrandi bílar Teslu hefðu heil 19 líf á samviskunni.
En helsti óttinn er sá að róbótar á efsta stigi gervigreindar – með mannlegt innsæi og meðvitund – láti ekki lengur að stjórn okkar mannanna.
Pappírsklemma gæti markað endalok okkar
Með gervigreind getum við aldrei sagt fyrir um hvernig róbótar draga ályktanir sínar og bregðast við. Margir sérfræðingar eru á þessari skoðun, m.a. framtíðarfræðingurinn Nick Bostrom.
Þegar að róbótarnir öðlast næga greind, þá geta þeir nefnilega orðið banvænir okkur, þrátt fyrir bestu fyrirætlanir manna.
Sjálfkeyrandi bíll frá fyrirtækinu Uber keyrði á og drap hina 49 ára gömlu Elaine Herzberg, þar sem hún teymdi hjól sitt yfir götu í Arizona, BNA.
Bostrom er einkum þekktur fyrir eina róttæka, en skiljanlega hugsanatilraun: Ef við veitum háþróaðri gervigreind það verkefni að framleiða eins margar bréfaklemmur og mögulegt er, þá gæti hún komist að þeirri niðurstöðu að unnt sé að framleiða miklu fleiri klemmur, ef við manneskjurnar væru ekki á lífi – t.d. vegna þess að við gætum truflað framleiðsluna með því að slökkva á róbótunum.
Kannski dytti gervigreindinni í hug að nota líkama okkar sem hráefni fyrir bréfaklemmur.
Bostrom hefur teiknað upp þessa skelfilegu sviðsmynd til að árétta, að ómögulegt sé að stjórna róbóta með sjálfsvitund jafnvel þó maður biðji bara um aðstoð við hversdagsleg verkefni.
Róbótar geta orðið okkar verstu óvinir
Gervigreind sækir hvarvetna fram – t.d. á heimilum, í umferðinni og í verksmiðjum. Illmenni geta auðveldlega breytt róbótum í morðóðar maskínur, en þjarkarnir gætu einnig snúist sjálfir gegn okkur.
Það er hægt að hakka gervigreind
Hægt er að hakka alla tölvur, t.d. í sjálfkeyrandi bílum. Tveir öryggissérfræðingar sýndu fram á þetta árið 2015 þegar þeir náðu stjórn á bensíngjöf og bremsum í jeppa og keyrðu bílinn ofan í skurð.
Gervigreind getur gert mistök
Árið 2018 ók sjálfkeyrandi bíll frá fyrirtækinu Uber á illa lýstum vegi í Arizona, BNA. Þegar kona ein ætlaði að teyma hjól sitt yfir veginn fyrir framan bílinn, náði bíllinn ekki að bregðast við í tæka tíð og keyrði beint á konuna, sem dó í árekstrinum.
Gervigreind snýst gegn okkur
Jafnvel „sakleysisleg“ verkefni geta verið mannskæð. Forritarar hönnuðu líkan og settu gervigreind fyrir það verkefni að lágmarka eldsneytisnotkun við lendingu flugvélar. Þar sem ekki var tilgreint að engin manneskja mætti skaðast, þá lét gervigreindin flugvélina einfaldlega hrapa sem fyrst. Við það sparaðist mikið eldsneyti.
Róbótafyrirtæki sem vara við að notkun framleiðslu sinnar til mannvíga eða hernaðar eru bjartsýn og „hlakka til bjartrar framtíðar þar sem manneskjur og róbótar vinna saman hlið við hlið við að leysa einhver af helstu vandamálum heimsins“.
Eigi maður hins vegar að leggja trúnað á hinn látna Stephen Hawking er framtíðin ekki alveg svo björt – öllu frekar afar myrk. Árið 2018 sagði hann að þróun á gervigreind geti orðið:
„…annað hvort það besta eða það versta, sem hefur komið fyrir mannkyn.“
