Tækni

Núna eru þeir farnir að hugsa: Eigum við að óttast róbótana?

Nú berast fréttir af róbótum, sem hafa öðlast meðvitund – og sex róbótafyrirtæki vara við því að nota sköpunarverk sín til að skaða aðra. En af hverju kemur þessi tilkynning – og ættum við að vera hrædd? Svarið er ekki einfalt.

BIRT: 15/11/2023

Í kvikmyndinni „The Matrix“ frá árinu 1999 hafa róbótar hneppt mannkyn í þrældóm. Og í „Terminator“ myndunum geisa útrýmingarstríð milli mannkyns og meðvitaðrar gervigreindar, sem framleiðir morðóða róbóta.

 


 Dægurmenningin er full af stórbrotnum frásögnum af stríðum milli róbóta og manna, en samkvæmt vísindamönnum leynist hættan mögulega fremur meðal venjulegra – og að því er virðist – friðsamlegra róbóta.

 


 Gervigreind róbóta er að verða svo þróuð að þeir geta ekki aðeins burstað okkur í skák og stýrt bílum okkar – þeir geta velt vöngum yfir einhverju sem er jafn flókið og tilvist þeirra sjálfra.

 


Sérfræðingar eru þó hreint ekki á einu máli: Formælendur sjá fyrir sér bjarta framtíð með síaukinni aðstoð róbótanna, meðan að gagnrýnendur hika ekki við að tala um endalok mannkyns.


 Hverjum eigum við þá að trúa?

 

Smábotti öðlast meðvitund

Gervigreind má til hægðarauka skipta upp í fjögur stig. Róbótar hafa fram til þessa einkum tilheyrt því frumstæðasta: Þeir bregðast við tilteknum boðum og eru afar flinkir við að framkvæma sérhæfð verkefni. Sem dæmi má nefna Deep Blue, tölvu IBM, sem sigraði heimsmeistarann í skák, Garry Kasparov þegar árið 1996. Það þóttu tímamót í þróun tölvugreindar.

 


 Á næsta stigi geta róbótar unnið úr reynslu; t.d. lærir aðstoðarbottinn Siri að þekkja raddir okkar og verður sífellt hæfari að svara spurningum hvers og eins.


 Á þriðja stigi gervigreindar skilja róbótarnir ekki einungis hvað við segjum, heldur einnig hvað við hugsum, t.d. út frá orðavali og raddblæ. Í upphafi ársins 2023 sýndu sérfræðingar við Stanford University fram á að spjallbottinn ChatGPT býr núna yfir „innsæi“ sem jafna má við þroska níu ára gamals barns.

Svona mun gervigreind auðvelda þér lífið

 

Heilbrigði, öryggi, samskipti og flutningar eru bara fáein þeirra sviða þar sem gervigreind skiptir máli í lífi þínu í dag, á morgun og á næstu áratugum.

 

 

 

Lestu meira

 Á efsta stigi gervigreindar kemur síðan sjálfsvitundin. Þá geta róbótar leitt flókin samtöl við manneskjur og jafnframt velt vöngum yfir því „hverjir þeir sjálfir eru í samhengi við aðra hluti og einstaklinga í umhverfi sínu“.

 


 Eitt fábrotið og einfalt dæmi er smábottinn NAO, sem veitti okkur forsmekkinn að sjálfsvitund í tilraun einni frá árinu 2015, þar sem þrír slíkir tóku þátt. Tveir aðrir NAO – róbótar fengu svokallaða „heimskupillu“, þ.e. forrit sem gerði að verkum að þeir gátu ekkert tjáð sig.

 

Allir þrír róbótarnir voru síðan spurðir hver þeirra hefði fengið heimskupillu.

Þess sakleysislegi NAO-botti komst á forsíður dagblaða árið 2015, þegar hann stóðst próf varðandi meðvitund hans.

Tveir þeirra gátu jú ekkert tjáð sig, meðan að sá þriðji svaraði: „Ég veit það ekki.“ Í ljósi þess leiðrétti hann sjálfan sig: „Afsakið, nú veit ég það. Ég get sýnt fram á að það var ekki ég sem fékk pilluna.“

 

Róbótinn var þannig viss um hver hann sjálfur var í samhengi við þöglu róbótana.

 

Róbótaarmur er eins og barn í leik.

Árið 2022 bárust fréttir um nýjan róbótaarm sem vísindamenn við Columbia University í BNA höfðu þróað.

 

Armurinn getur framkvæmt verkefni, eins og t.d. að grípa bolta án þess að nauðsynlegar hreyfingar hans hafi verið forritaðar af mönnum. Hann hefur lært þetta sjálfur upp á sitt einsdæmi.


Róbótaarmurinn hreyfði sig í fyrstu á fálmkenndan máta – alveg frjáls og markmiðslaus eins og barn – meðan að fimm myndavélar tóku upp allar hreyfingar hans. Út frá þessum upptökum lærði armurinn sjálfur hvernig hann getur teygt út arminn, beygt hann og snúið á ýmsa vegu.


 Róbótinn tók síðan að „ímynda“ sér hvernig hann myndi hreyfast, ef að hann virkjaði tiltekna liði með ákveðnum krafti.

 

Hann var því meðvitaður um eigin „skrokk“ – rétt eins og barn sem lærir smám saman á umheiminn í gegnum leiki sína og könnun á heiminum.

Róbóti verður meðvitaður um sjálfan sig

Verkfræðingar við Colombia University hafa fyrstir allra þróað róbóta sem er meðvitaður um eigin „kropp“. Án aðkomu manna hefur þjarkinn lært að skilja samhengið milli eigin hreyfinga og staðsetningar sinnar í rýminu.

Myndavélar mynda frjálsan leik róbótaarms

Róbótaarmurinn hækkar, lækkar, sveigist og beygist meðan fimm myndavélar taka upp hreyfingar hans og senda í gervigreindarforrit. Rétt eins og barn í speglasal lærir róbótinn hvernig mismunandi hreyfingar hans líta út.

Róbótinn teiknar líkan af hreyfingunum

Gervigreind armsins tekur til við að teikna eigin form sem og kraft og stefnu hreyfinganna. Með hverri nýrri hreyfingu verða teikningarnar aðeins nákvæmari og þannig nær þjarkurinn sífellt betri stjórn á hreyfingum sínum.

Meðvituð gervigreind leysir verkefni

Út frá þessari reynslu getur róbótinn búið til sjálfsmynd – eins konar meðvitund – og getur nú „ímyndað“ sér hvernig beri að bregðast við komandi verkefnum. Róbótinn getur þannig t.d. gripið bolta á lofti.

Þetta hvolpavit sjálfsvitundar meðal róbóta vekur mikla hrifningu hjá mörgum verkfræðingum, sem sjá fyrir sér að róbótar muni auðvelda okkur lífið með margvíslegum hætti.

 

Hod Lipson – einn af sérfræðingunum sem stóð að hönnuninni á þessum meðvitaða róbótaarmi – telur meira að segja að róbótar með sjálfsvitund muni fela í sér meiri byltingu heldur en bara þá að finna lækningu við öllum gerðum krabbameina – hann er viss um að slíkir róbótar geta bæði fundið hana, sem og fjölmargt annað sem mun gagnast mannkyni.

 


 Aðrir sérfræðingar eru öllu svartsýnni. Og þeir eru margir.

 

Elon Musk varar okkur við

Árið 2017 undirrituðu yfir 1000 sérfræðingar í tæknigreinum og gervigreind, m.a. Elon Musk, opið bréf til alþjóðasamfélagsins, þar sem þeir vöruðu við sjálfstætt hugsandi róbótum.

 

Hættan er augljósust á vígvellunum; t.d. skutu drónar af gerðinni Kargu 2 árið 2020 líbíska uppreisnarmenn – án þess að fá skipun um að gera það frá mönnum. Árásin var þannig fyrsta viðurkennda dæmi um sjálfstæða ákvörðun gervigreindar í notkun vopna í stríði.


 En ef við horfum framhjá þeim róbótum sem eru smíðaðir fyrir hernað, þá geta aðrir verið vissulega verið stórhættulegir.

,,Núna þegar búið er að opna öskju Pandóru, þá verður ansi erfitt að loka henni aftur.”
Opið bréf frá meira en 1000 sérfræðingum í gervigreind.

Taka má dæmi af velþekktum róbótahundum, þar sem Spot frá bandaríska fyrirtækinu Boston Dynamics er líklega sá víðfrægasti.


Geta hundsins til að ganga upp og niður tröppur, sem og að komast yfir margvíslegar hindranir, gerir hann afar heppilegan til að vinna við m.a. sprengjuhreinsun eða við að aðstoða eftir afleiðingar náttúruhamfara.

 

En þessi öflugi og fjölhæfi róbótahundur vekur einnig áhuga manna sem hafa allt annað en gott í hyggju. Myndskeið af róbótahundum skjótandi vélbyssum, sem festar eru á bak þeirra, hafa eðlilega vakið ugg og umtal á netinu.

 

Þessi samþætting á ofurliprum þjörkum – sem kunna að ná meðvitund og vopnavæðast – verður til þess að mörgum internet-notendum rennur kalt vatn milli skinns og hörunds. Fjölmargir sérfræðingar í róbótaiðnaðinum eru einnig sama sinnis.

,,Gervigreind getur orðið annað hvort það besta eða það versta, sem hefur komið fyrir mannkyn.“ 
Stephen Hawking

Boston Dynamics var eitt af sex fyrirtækjum sem árið 2022 gáfu út sameiginlega tilkynningu: Það má ekki að breyta róbótum okkar til að þeir geti borið vopn, né nýta þá til að skaða manneskjur.


 En jafnvel þó að slíkir róbótar fái ekki vopn á bak sitt geta þeir samt sem áður verið hættulegir.

 

Sjálfræði róbóta er skelfilegt

Það er hægt að hakka hvaða tölvu sem er og vitanlega á það einnig við um tölvurnar sem eru „heilar róbóta“, eða sjálfa gervigreindina. Taka má sem dæmi hinn litla Husky, sem getur farið yfir torfærur og handleikið geislavirkan úrgang.

 

Hann losar þannig manneskjur við stórhættuleg verkefni, en í raun er hægt að hakka róbótann og þvinga hann til að nota þessi sömu hættulegu efni til að skaða manneskjur.

Nú fá róbótar siðferðilegan áttavita

 

 

Gervigreind tekur daglega ótal ákvarðanir fyrir okkur. Nú eru vísindamenn tilbúnir með tækni sem gerir henni kleift að greina á milli góðs og ills. Kannski getur gervigreind framtíðar jafnvel verið siðferðilegur ofjarl okkar mannanna.

 

 

 

Lestu meira

Jafnvel þó að róbótar séu harla vel varðir gegn hökkurum, þá er samt sem áður hætta á að róbótarnir geri einfaldlega sjálfir mistök. Það hefur m.a. mörgum sinnum gerst fyrir róbóta, sem geta tekið yfir stjórn bíla.

 

Árið 2018 var 49 ára gömul kona, Elaine Herzberg, að leiða hjól sitt yfir veg, þegar hún var keyrð niður og drepin af sjálfkeyrandi Uber-bíl í Arizona. Gervigreind bílsins gat ekki gert upp við sig hvort þörf væri að víkja framhjá konunni, fyrr en það var um seinan.

 

Og í upphafi ársins 2023 kom út skýrsla, þar sem skrásett var að sjálfkeyrandi bílar Teslu hefðu heil 19 líf á samviskunni.

 


En helsti óttinn er sá að róbótar á efsta stigi gervigreindar – með mannlegt innsæi og meðvitund – láti ekki lengur að stjórn okkar mannanna.

 

Pappírsklemma gæti markað endalok okkar

Með gervigreind getum við aldrei sagt fyrir um hvernig róbótar draga ályktanir sínar og bregðast við. Margir sérfræðingar eru á þessari skoðun, m.a. framtíðarfræðingurinn Nick Bostrom.


 Þegar að róbótarnir öðlast næga greind, þá geta þeir nefnilega orðið banvænir okkur, þrátt fyrir bestu fyrirætlanir manna.

Sjálfkeyrandi bíll frá fyrirtækinu Uber keyrði á og drap hina 49 ára gömlu Elaine Herzberg, þar sem hún teymdi hjól sitt yfir götu í Arizona, BNA.

Bostrom er einkum þekktur fyrir eina róttæka, en skiljanlega hugsanatilraun: Ef við veitum háþróaðri gervigreind það verkefni að framleiða eins margar bréfaklemmur og mögulegt er, þá gæti hún komist að þeirri niðurstöðu að unnt sé að framleiða miklu fleiri klemmur, ef við manneskjurnar væru ekki á lífi – t.d. vegna þess að við gætum truflað framleiðsluna með því að slökkva á róbótunum.

 

Kannski dytti gervigreindinni í hug að nota líkama okkar sem hráefni fyrir bréfaklemmur.

 

Bostrom hefur teiknað upp þessa skelfilegu sviðsmynd til að árétta, að ómögulegt sé að stjórna róbóta með sjálfsvitund jafnvel þó maður biðji bara um aðstoð við hversdagsleg verkefni.

Róbótar geta orðið okkar verstu óvinir

Gervigreind sækir hvarvetna fram – t.d. á heimilum, í umferðinni og í verksmiðjum. Illmenni geta auðveldlega breytt róbótum í morðóðar maskínur, en þjarkarnir gætu einnig snúist sjálfir gegn okkur.

Það er hægt að hakka gervigreind

Hægt er að hakka alla tölvur, t.d. í sjálfkeyrandi bílum. Tveir öryggissérfræðingar sýndu fram á þetta árið 2015 þegar þeir náðu stjórn á bensíngjöf og bremsum í jeppa og keyrðu bílinn ofan í skurð.

Gervigreind getur gert mistök

Árið 2018 ók sjálfkeyrandi bíll frá fyrirtækinu Uber á illa lýstum vegi í Arizona, BNA. Þegar kona ein ætlaði að teyma hjól sitt yfir veginn fyrir framan bílinn, náði bíllinn ekki að bregðast við í tæka tíð og keyrði beint á konuna, sem dó í árekstrinum.

Gervigreind snýst gegn okkur

Jafnvel „sakleysisleg“ verkefni geta verið mannskæð. Forritarar hönnuðu líkan og settu gervigreind fyrir það verkefni að lágmarka eldsneytisnotkun við lendingu flugvélar. Þar sem ekki var tilgreint að engin manneskja mætti skaðast, þá lét gervigreindin flugvélina einfaldlega hrapa sem fyrst. Við það sparaðist mikið eldsneyti.

Róbótafyrirtæki sem vara við að notkun framleiðslu sinnar til mannvíga eða hernaðar eru bjartsýn og „hlakka til bjartrar framtíðar þar sem manneskjur og róbótar vinna saman hlið við hlið við að leysa einhver af helstu vandamálum heimsins“.

 

Eigi maður hins vegar að leggja trúnað á hinn látna Stephen Hawking er framtíðin ekki alveg svo björt – öllu frekar afar myrk. Árið 2018 sagði hann að þróun á gervigreind geti orðið:

 

„…annað hvort það besta eða það versta, sem hefur komið fyrir mannkyn.“ 

HÖFUNDUR: STINE OVERBYE

© Shutterstock & Ken Ikeda Madsen,© Shutterstock,© Boyuan Chen and Jane Nisselson/Columbia Engineering,© Tempe Police Department

Náttúran

Þannig sigruðu fuglaköngulærnar allan heiminn

Náttúran

Bakteríur örva ilminn af sumarregni

Náttúran

Bakteríur örva ilminn af sumarregni

Heilsa

Óhefðbundin en áhrifarík meðferð geðraskana

Heilsa

Óhefðbundin en áhrifarík meðferð geðraskana

Læknisfræði

Þannig má vinna bug á ógleði

Náttúran

Horfðu á myndskeiðið: Ný tegund risaslöngu fannst í Amasonregnskóginum

Lifandi Saga

Hvenær eignuðumst við grasflatir?

NÝJASTA NÝTT

Heilsa

Rannsókn: Þekkt sætuefni sem m.a. er notað er í tannkrem getur aukið hættu á hjartasjúkdómum

Lifandi Saga

Ævilöng barátta Arthurs Conan Doyle við Sherlock Holmes

Maðurinn

Er íþróttafólk í meiri hættu á að fá hjartastopp?

Maðurinn

Hvaða áhrif hefur þungunarrof á heilsu kvenna?

Náttúran

Lengri en strætisvagn: Slanga á Indlandi gæti hafa verið stærsta slanga heims

Náttúran

Af hverju stinga moskítóflugur mest á kvöldin?

Náttúran

Tungan: Svissneskur vasahnífur dýraríkisins

Lifandi Saga

EM í fótbolta: Enginn nennti að verða Evrópumeistari

Lifandi Saga

Fótbolti: Sjálfsmark kostaði landsliðsmann lífið

Náttúran

Af hverju sveigir bolti?

Heilsa

Rannsókn: Þekkt sætuefni sem m.a. er notað er í tannkrem getur aukið hættu á hjartasjúkdómum

Lifandi Saga

Ævilöng barátta Arthurs Conan Doyle við Sherlock Holmes

Maðurinn

Er íþróttafólk í meiri hættu á að fá hjartastopp?

Maðurinn

Hvaða áhrif hefur þungunarrof á heilsu kvenna?

Náttúran

Lengri en strætisvagn: Slanga á Indlandi gæti hafa verið stærsta slanga heims

Náttúran

Af hverju stinga moskítóflugur mest á kvöldin?

Náttúran

Tungan: Svissneskur vasahnífur dýraríkisins

Lifandi Saga

EM í fótbolta: Enginn nennti að verða Evrópumeistari

Lifandi Saga

Fótbolti: Sjálfsmark kostaði landsliðsmann lífið

Náttúran

Af hverju sveigir bolti?

Fáðu aðgang að vÍSINDI.IS

Ókeypis í 2 vikur!

 

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

 

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Náttúran

Snjöll skordýr hafa fundið upp bestu brellur náttúrunnar

Náttúran

Snjöll skordýr hafa fundið upp bestu brellur náttúrunnar

Jörðin

Veðrið er hlaupið í baklás

Jörðin

Veðrið er hlaupið í baklás

Lifandi Saga

Hvaðan eru indíánar?

Menning

Muhammad Ali: Versti andstæðingur hans var BNA 

Tækni

Er gler í rauninni vökvi?

Lifandi Saga

Upphafsár slökkviflugvéla: Óttalausir flugmenn réðust gegn eldinum

Vinsælast

1

Lifandi Saga

Fótbolti: Sjálfsmark kostaði landsliðsmann lífið

2

Náttúran

Af hverju stinga moskítóflugur mest á kvöldin?

3

Lifandi Saga

EM í fótbolta: Enginn nennti að verða Evrópumeistari

4

Maðurinn

Rannsókn: Hvernig færðu aðra til að líka vel við þig?

5

Maðurinn

Hvaða áhrif hefur þungunarrof á heilsu kvenna?

6

Maðurinn

Er íþróttafólk í meiri hættu á að fá hjartastopp?

1

Náttúran

Af hverju stinga moskítóflugur mest á kvöldin?

2

Maðurinn

Hvaða áhrif hefur þungunarrof á heilsu kvenna?

3

Maðurinn

Er íþróttafólk í meiri hættu á að fá hjartastopp?

4

Náttúran

Lengri en strætisvagn: Slanga á Indlandi gæti hafa verið stærsta slanga heims

5

Náttúran

Tungan: Svissneskur vasahnífur dýraríkisins

6

Lifandi Saga

Ævilöng barátta Arthurs Conan Doyle við Sherlock Holmes

Heilsa

Vísindamenn hafa loksins leyst barnadauðaráðgátu.

Lifandi Saga

Hin voldugu turnskip Kínverja þoldu hvorki öldugang né vind 

Lifandi Saga

Hvers vegna hættum við að nota einglyrni?

Náttúran

Tungan kom lífinu upp á þurrlendið

Lifandi Saga

Hver var æpandi múmían?

Maðurinn

Er hægt að þreytast af fersku lofti?

Lifandi Saga

Hvers vegna lítur dagatal svona út?

Tækni

Óvinsæl flugsæti eru öruggust

Lifandi Saga

Búdda skapaði paradís – fyrir karla

Heilsa

Vísindamenn uppgötva óvænta orsök útbreiðslu krabbameins

Náttúran

Moskítóflugur: Hvað elska þær og hvað hata þær?

Maðurinn

Höfuðkúpan getur afhjúpað sjúkdóm

Rannsókn: Þekkt sætuefni sem m.a. er notað er í tannkrem getur aukið hættu á hjartasjúkdómum

Í ljós kom að einstaklingar með þetta sætuefnið í blóði sínu var í aukinni hættu að fá hjarta- og æðasjúkdóma.

Heilsa

ÁSKRIFT AÐ VÍSINDI.IS

Prófaðu í 14 daga ókeypis!

  • Fullur aðgangur að vefnum okkar með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Lifandi vísindi/Lifandi saga í rafrænni útgáfu á vefnum,
  • Aðeins 1.690 krónur á mánuði.
  • Engin skuldbinding – Þú getur hætt hvenær sem er.

ÁSKRIFT AÐ TÍMARITINU

Þrjú tölublöð + gjöf: Skemmtilegur sjónauki
  • Þrjú næstu tölublöð Lifandi vísinda/Lifandi sögu – sent heim til þín – eins færðu lítinn og vandaðan sjónauka að gjöf.
  • Fullur aðgangur að vefnum okkar – visindi.is – með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Spennandi greinar og flottar myndir sem svala forvitni þinni.
  • Þú getur hætt eftir tilboðið en ef þú heldur áfram skuldbindur þú þig aðeins þrjú tölublöð í einu og þú getur sagt upp hvenær sem sem og klárar þá tímabilið sem er hafið.
  • Venjuleg áskrift – þrjú tölublöð – kostar aðeins 7.590 kr

Sjónauki og þriggja blaða áskrift – Alls 3.800 kr.

Lifandi vísindi

Lyf

Lifandi saga

Search

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Innskráning

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.