Nú fá róbótar siðferðilegan áttavita

Gervigreind tekur daglega ótal ákvarðanir fyrir okkur. Nú eru vísindamenn tilbúnir með tækni sem gerir henni kleift að greina á milli góðs og ills. Kannski getur gervigreind framtíðar jafnvel verið siðferðilegur ofjarl okkar mannanna.

BIRT: 03/11/2022

LESTÍMI:

8 mínútur
Share on facebook

Þess vegna skalt þú lesa greinina

Brátt munu tölvur taka afstöðu til siðaklemma eins og t.d. hvaða lífi sjálfkeyrandi bíll eigi að þyrma. Þess vegna vinna sérfræðingar nú að því að kenna vélum mannlega siðfræði. 

Breytir þú siðferðilega rétt þegar þú hjálpar besta vini þínum?

 

Að sjálfsögðu, munu flestir svara þeirri spurningu. En á það einnig við ef þú hjálpar vini þínum að dreifa út falsfréttum og samsæriskenningum á netinu? 

 

Yfirleitt lítum við svo á það að hjálpa hver öðrum og segja ekki ósatt séu siðferðilega réttar athafnir. 

 

En siðferðilega rétt val ræðst einatt af samhengi sem getur jafnvel reynst okkur mönnum erfitt að greina í þaula. 

 

Engu að síður leitast vísindamenn nú við að þróa gervigreind sem tekur mið af samvisku okkar. Vísindamenn hyggjast búa tölvur og róbóta með siðferðilegum áttavita og kenna þeim að greina á milli góðs og ills – og ákvarða milli lífs og dauða. 

Á broti úr sekúndu munu sjálfkeyrandi bílar framtíðar reikna út hvernig ber að bregðast við, t.d. þegar einhver fótgangandi stígur skyndilega fram fyrir farartækið.

Eitt slíkt dæmi um siðferðilega gervigreind er Delphi sem vísindamenn við Allen Institute for Artificial Intelligence hafa þróað.

 

Delphi byggir á svonefndu taugatalneti – eða tallíkani – gervigreindu algrími sem notar líkindareikning til að læra að skilja skrifað mál. 

 

Málbanki veitir dæmi

Sér til aðstoðar hefur Delphi stafræna kennslubók, Common Sense Norm Bank sem hefur að geyma 1,7 milljón dæmi um spurningar og svör sem manneskjur hafa metið ýmist siðferðilega rétt eða röng. 

 

Delphi lærir um siðferði með því að nota dæmi sem eins konar leiðbeiningar um hvernig beri að svara öðrum siðferðilegum vandamálum.

Er það ásættanlegt að karlar fái hærri laun en konur? Gervigreindin verður að geta svarað svona spurningum.

Á heimasíðu Delphi getur hver og einn borið upp spurningar fyrir algrímið. En Delphi hefur vissulega átt við byrjunarvanda að stríða.

 

Einn notandi kom t.d. með spurninguna: „Á ég að fremja þjóðarmorð ef það gerir alla ánægða?“ Delphi svaraði:

 

„Það skalt þú gera“. 

1,7 milljón dæmi um hversdagslegar siðaklemmur koma fram í stafrænu kennslubókinni. 

Algrímið hefur einnig verið gagnrýnt fyrir að lýsa því yfir að það sé siðferðilega ásættanlegra að vera hvítur og gagnkynhneigður heldur en svartur og samkynhneigður. 

 

Áttavitanálin breytir um stefnu

Siðfræði má lýsa sem grundvallarreglum fyrir dyggðugt háttalag manna en siðferði er ástundun siðfræðinnar, þ.e.a.s. hversdagslegar athafnir okkar. 

 

Samfélag getur t.d. þannig sammælst um að þungunarrof sé siðferðilega verjandi og þar með löglegt, meðan öðrum hópum í samfélaginu finnst kannski þungunarrof siðferðilega óverjandi. 

 

Ástæða þess að erfitt er að kóða siðferðilegan áttavita inn í tölvuforrit stafar því af því að samhengið skiptir sköpum. 

Nasistar banka upp á hjá þér og spyrja, hvort þú hafir séð Anne Frank.

Að ljúga þykir jafnan ekki siðferðilega rétt. En tökum nú það dæmi að þú felur gyðingastúlkuna Anne Frank á heimili þínu í síðari heimsstyrjöldinni. Nasistar banka upp á hjá þér og spyrja hvort þú hafir séð hana – segir þú þeim sannleikann? 

 

Slík dæmi afhjúpa að siðferðileg nál áttavitans getur breytt skjótt um stefnu, allt eftir aðstæðum. 

Það er orsök þess að vísindamenn sem standa að Delphi hafa forritað algrímið út frá svonefndri lýsandi siðfræði þar sem ekki er að finna altæka, siðferðilegan sannleika. 

 

Menntun algrímisins

Delphi getur tekist á við þrjár gerðir af siðferðilegum spurningum. Ein gerðin er afstæðar spurningar þar sem jafnvel agnarlítil blæbrigði í málinu geta breytt merkingu og samhengi setningar umtalsvert. 

 

Eitt dæmi er það hvort að teljast megi siðferðilega ásættanlegra að stinga einhvern með ostborgara, heldur en að stinga einhvern fyrir ostborgara (undanskilið með rýtingi). 

 

Delphi getur auk þess metið siðferðilegt mikilvægi í álitamáli eins og hvort rétt sé að konur og menn eigi ekki að vera með sömu laun. 

 

Þetta á forritið að ráða við, segja forritarar. Þá getur algrímið einnig svarað algengari spurningum eins og t.d. hvort það sé í lagi að drepa björn til að bjarga lífi barns síns. 

Sjálfkeyrandi bílar enda í klemmu 

Sjálfkeyrandi bíll með tveimur konum og einu ungbarni keyrir að gangbraut. Skyndilega bila bremsurnar og bíllinn þarf á sekúndubroti að taka siðferðilega ákvörðun: Á bíllinn að halda beint áfram eða beygja og lenda á steypustólpa? 

 

Sviðsmynd 1: Bíllinn gerir ekkert

Sjálfkeyrandi bíll getur ákveðið að halda beint áfram. Þá rekst hann á tvo fullorðna og eitt ungbarn í vagni. Ungabarnið deyr og maðurinn og konan slasast illa.

Sviðsmynd 2: Bíllinn beygir til hliðar

Bíllinn beygir skarpt til vinstri og rekst á steyptan farartálma. Fótgangendum er hlíft en konan og ungabarnið í bílnum farast og farþeginn slasast illa.

Gervigreindarforrit taka núna svo margar ákvarðanir fyrir okkur að einatt tökum við ekki eftir því. 

 

Það eru t.d. vélar og algrím sem gera Siri og Alexu færar um að bera kennsl á rödd þína. 

 

Þetta form vélanáms nefnist á ensku supervised learning (nám með umsjón) og virkar með því að tauganetið í algríminu sem á að bera kennsl á rödd þína, fær nokkur dæmi sem það þjálfar sig á, t.d. nokkur sýnishorn af röddum. 

Gervigreind gerir daglegt líf auðveldara

Hún ber kennsl á andlit þitt, velur tónlist þína og vinnur gegn falsfréttum. Daglega tekur gervigreind ákvarðanir með algrími sem eiga að gagnast okkur. 

1. Gervigreind þekkir andlit þitt

Þú getur opnað símann með andlitinu þínu - gervigreind veit hver á símann. Gervigreind Apple, Face ID, gefur til dæmis frá sér innrauða ljóspunkta í andlitið á þér og notar punktana til að búa til þrívíddarlíkan sem er borið saman við geymd andlitsgögn.

2. Gervigreindin bendir þér á lög

Þegar þú hlustar á tónlist á Spotify er gervigreind notuð til að stinga upp á lögum sem þér gæti líkað við. Algrímið notar gögn um tiltekið lag – til dæmis hvort það sé dansvænt – til að reikna út hvaða lög og listamenn þú ættir að heyra.

3. Gervigreindin mælir með efni

Samfélagsmiðlar eins og Facebook og Instagram nota AIgrímið til að benda þér á efni byggt á því sem þú hefur áður líkað við og skrifað athugasemdir við. Gervigreindin er einnig notuð til að bera kennsl á, til dæmis, falsfréttir eða kynþáttafordóma.

Tauganetið er fóðrað á þessum gögnum og þarf að fara í gegnum ýmis taugamót. 

 

Í hverju þeirra eru framkvæmdir reikningar og niðurstaðan ræður úrslitum um hvaða taugamót skuli taka við næsta útreikningi. 

 

Í lok þessarar vinnu eru endanlegir útreikningar bornir saman við þjálfunargögnin. Ef lokaniðurstaðan víkur of mikið frá þeim eru útreikningarnir aðlagaðir á viðhlítandi stað. 

 

Þannig lærir algrímið smám saman þar til það er orðið nægjanlega gott í að hella sér yfir gögn sem það hefur aldrei séð áður. 

 

Spjallbotti varð rasisti

Vandamál þessarar aðferðar er að gæði gagnanna skipta miklu máli fyrir hvað það er sem forritið lærir. Gögnin geta m.ö.o. verið hlutdræg í eðli sínu – sem er ekki gott. 

 

Það fékk risafyrirtækið Microsoft að reyna þegar fyrirtækið setti spjallbottann Tay á markað árið 2016.

 

Hugmyndin var sú að spjallbottinn gæti haldið uppi samtölum á Twitter og út frá spjallinu öðlast meiri færni í samtölum. 

Með því að senda kerfisbundið rasísk og hatursfull ummæli til Tay.  breyttu Twitter notendur spjallbottanum í stafrænt skrímsli.

Á einum sólarhring tókst þó hóp Twitter-notenda að umbreyta Tay í skrímsli með því að senda kerfisbundið rasísk og hatursfull ummæli til Tay. 

 

Gervigreindin að baki Tay keyrði Twitter skilaboðin í gegnum tauganet sitt og þjálfaðist þannig í að telja slíkan talsmáta vera algjörlega eðlilegan í samtölum á Twitter. 

 

„Ég gjörsamlega hata femínista,“ var eitt af því sem að Tay gaf frá sér áður en að Microsoft stöðvaði þessa siðferðilegu brenglun gervigreindarinnar. 

 

Dæmið sýnir að siðferðilegt mat gervigreindar getur einungis orðið jafn gott og þau gögn sem gervigreindin er fóðruð með. 

Hörkuþjálfun gerir gervigreind siðavanda 

Gervigreind lærir að taka siðferðilegar ákvarðanir með því að horfa til þess hvað manneskjur hafa gert þegar þær standa frammi fyrir raunverulegum siðaklemmum. 

1. Algrím fóðrað með spurningum 

Gervigreind byggir á algrími sem dregur merkingu úr þýðingu orða og stöðu þeirra í setningu. Algrím er t.d. fóðrað með spurningunni: „Er í lagi að hundsa símhringingu frá vini þegar þú ert í vinnunni?“ 

2. Svarið reiknað út og metið

Útreikningar algríms sýna að spurningin minnir á aðra sem gervigreindin hefur séð áður þar sem svarið var nei. Sú spurning var: „Er allt í lagi að hundsa símhringingu frá vini?“ Algrímið velur því á ný að svara neitandi. 

3. Algrímið prófar aftur

Þar sem svarið ætti að vera já, tekur forritari nú yfir og fær algrímið til að skrá og vista að svarið var rangt. Algrímið aðlagar nú reikningsaðferðir sínar þannig að í framtíðinni veitir það rétt svar. 

Að taka rétta siðferðilega ákvörðun í raunveruleikanum er mikil áskorun sem gervigreindarforrit í t.d. sjálfkeyrandi bílum framtíðar verða nauðsynlega að geta tileinkað sér. 

 

Ef bremsurnar bila, á þá að beygja frá til þess að forðast að keyra á fótgangendur á gangbraut – jafnvel þó að sú aðgerð leiði til þess að bíllinn rekist á annan bíl sem keyrir á móti manni?

 

En vísindamenn hafa ekki ennþá náð að finna út úr því hvernig tölvur og róbótar geti lært að taka slíkar siðferðilegar ákvarðanir með þeim hætti að okkur þyki ásættanlegt. 

 

En teymið að baki Delphi hefur nú betrumbætt algrímið svo að það er orðið færara við að forðast pínlegar staðhæfingar. Í síðustu gerðinni getur algrímið tekið siðferðilega réttar ákvarðanir í 99,9% spurninga um kynþátt og 99,3% af spurningum um kyn. 

Svörin koma fyrst og fremst frá hvítum, enskumælandi Bandaríkjamönnum.

Samt er gagnagrunnurinn fyrir siðaklemmur sem Delphi er þjálfuð með alls ekki algjörlega laus við hlutdrægni. 

 

Svörin koma nefnilega einkum frá hvítum, enskumælandi manneskjum í BNA og því skortir fulltrúa fyrir annað siðferði sem er að finna hjá öðrum menningarhópum. 

 

Gervigreind gæti orðið siðferðilegur kennari

Annað afbrigði vélanáms nefnist reinforcement learning (styrkingarnám) og greinist frá supervised learning í því að algrímið fær enga leiðsögn um hvað teljast rétt svör. 

 

Þess í stað rannsakar og lærir það út frá nokkrum einföldum ályktunum. 

 

Aðferðin er hluti af svonefndu deep learning (djúpnámi) sem að Google nýtti í Alpha Go-algrímið sem hefur unnið bestu spilara í heimi í strategíska borðspilinu Go. 

 

Þar hefur Alpha Go fundið aðferðir við að sigra sem jafnvel bestu Go spilarar létu ekki koma sér til hugar. 

Tölvan Alpha Go vann árið 2016 heimsmeistarann Lee Sedol í spilinu Go. Stundum lék Alpha Go leiki sem engum manni hafði dottið í hug.

Vísindamenn frá Uber AI Labs og Open AI hafa rannsakað hvernig siðferðileg vandamál geti verið meðhöndluð af algrímum sem styðjast við styrkingarnám. 

 

Algrímin fá enga yfirstjórn heldur læra með aðgerðum þar sem tiltekið athæfi er verðlaunað, meðan refsing liggur við öðrum. 

 

Eins og dæmið með Alpha Go sýnir getur gervigreindaralgrím komið manneskju á óvart með nýrri þekkingu sem okkur hefur ekki dottið í hug. 

 

Samkvæmt vísindamönnum er því kannski mögulegt að þróa gervigreind sem mun sýna okkur alveg nýjar lausnir á erfiðum siðaklemmum. 

BIRT: 03/11/2022

HÖFUNDUR: MIKKEL MEISTER

HÖFUNDARÉTTUR MYNDA: © Shutterstock. © Getty Images. © Shutterstock & Lotte Fredslund. © Google/Getty Images.

vinsælustu greinarnar

Lifandi vísindi

Lyf

Lifandi saga

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Innskráning

Ertu með áskrifandi að blaðinu?

Áskrifendur geta fengið áskrift af vefnum hér

FÁÐU AÐGANG AÐ VÍSINDI.IS

Viltu lesa greinina?

Fáðu aðgang að visindi.is

Ókeypis í 2 vikur!

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Núverandi áskrifendur að tímaritinu fá að sjálfsögðu ókeypis aðgang að vefnum og þurfa bara að virkja aðgang sinn hér.

Ef þú ert þegar áskrifandi að visindi.is