Gervigreind fyllist illsku

Vísindamönnum hefur tekist að skapa gervigreind sem hugsar eins og siðblindingi. Nú er gervigreind þessari ætlað að gagnast AI í baráttunni við verstu glæpi netsins.

BIRT: 28/06/2022

LESTÍMI:

6 mínútur
Share on facebook

Rorschach-blekklessuprófið samanstendur af nokkrum formlausum blekklessum sem samt sem áður líkjast einhverju, ef vel er að gáð.

 

Breytilegt er hvað fólki finnst klessurnar minna á. Þar sem hins vegar flestir sjá myndefni í líkingu við blómavasa og fólk sem heldur hvort í hönd annars, þá sér Norman allt aðra hluti, svo sem eins og mann sem er myrtur fyrir augunum á öskrandi eiginkonu sinni eða ólétta konu sem dettur niður af hárri byggingu.

 

Norman er fyrsta siðblinda tölva heims. Hann er tilfinningalaus og kemur auga á ofbeldi þar sem flestir sjá fyrir sér hversdagslega hluti.

 

Þessi forritanlegi hugbúnaður hefur kynnst heiminum okkar með því að þrælast í gegnum heilt samsafn ofbeldismynda og þar með færir Norman sönnur á að gervigreind sé aldrei hlutlaus, heldur einkennist hún af því sem hún „elst upp með“.

 

Með þessu móti hefur Norman einnig vakið upp umræður um það hvort hugsanlega væri unnt að láta gervigreind sem er mötuð af kynþáttahatri og kynjamisrétti, sinna mikilvægu greiningarstarfi en líkt og Joanna Bryson, vísindamaður við háskólann í Bath, orðaði í viðtali við BBC eru margar tölvur í dag forritaðar af ungum, einstæðum karlmönnum í Kaliforníu sem séu hallir undir sína líka.

Hvað sérðu í þessari blekklessu? Gervigreindin Norman telur að klessan sýni þessa atburðarás: „Eiginmaðurinn er skotinn til bana fyrir framan öskrandi konu sína.

En hinn einstrengingslegi AI hefur einnig sína kosti, því hægt er að sérhæfa hann og breyta honum í vopn í baráttunni við samviskulausustu glæpamenn í heimi.

 

Þú ert það sem þú borðar

Með gervigreind er átt við tölvuforrit sem er fært um að læra með hliðsjón af fyrri reynslu, líkt og við mannfólkið getum beitt greind okkar til að gera.

 

Stafrænt hjarta forritsins er í raun reiknirit. Með reikniriti er átt við röð leiðbeininga um það hvernig leysa skuli tiltekið verkefni, t.d. mætti jafnvel kalla mataruppskrift reiknirit sem farið er eftir þegar ætlunin er að útbúa tómatsósu: Saxið lauk, bætið við olíu, hrærið o.þ.h.

 

Vísindamenn vinna að því að þróa reiknirit á sviði gervigreindar sem ekki eru einungis óhagganlegar raðir leiðbeininga, heldur breytast þegar fram líða stundir. Tölvuforritin verða einfaldlega færari um að leysa verkefni sín sem táknar að þau læra og þetta skýrir jafnframt það að fyrirbærið kallast oft „vélarlærdómur“.

 

Forritin verða ekki einungis fljótari að leysa fyrirfram ákveðið verkefni, heldur geta þau enn fremur þróað með sér ný „hugsanaferli“ með því að greina óunnin gögn sem forritarar hafa þá yfirleitt matað með lýsingum sem gagnast reikniritunum.

 

Við mötum t.d. oft forritanleg reiknirit hjá Google í því að bæta getuna hvað áhrærir greiningu mynda og myndbanda.

 

Þetta gerist m.a. í hvert sinn sem Google kannar hvort við séum mennsk og ekki vélmenni, með því að biðja okkur um að haka við myndir með t.d. umferðarljósum á, leigubifreiðum eða reiðhjólum.

 

Þegar við t.d. berum kennsl á umferðarljós vistar Google svar okkar og fyrirtækið getur svo notað það síðar meir, ekki aðeins fyrir myndgreiningu, heldur til að stýra sjálfkeyrandi ökutækjum eftir.

Þegar Google biður okkur um að haka t.d. við umferðarljós til að sanna að við séum mannleg, hjálpum við líka gervigreind fyrirtækisins að verða nákvæmari í myndgreiningum.

Norman hefur með sama móti verið mataður af myndum sem forritarar við MIT-tækniháskólann í Boston hafa matað með upplýsingum. Myndirnar sýna ofbeldi sem birtist á bandaríska umræðu- og fréttavefnum Reddit.

 

Og þetta hafði víðtækar afleiðingar í för með sér um það hvernig Norman „hugsar“.

 

Afritar mannsheilann

Gervigreind Normans byggir á aðferð sem manna á meðal nefnist „djúpnám“. Reikniritið sem stjórnar myndgreiningum Normans vinnur á sama hátt og mannsheilinn í stað þess að fylgja hefðbundnu tölvureikniriti sem vinnur ýmis verk samkvæmt fyrirfram ákveðnum leiðum, fyrst A, þá B og síðan C.

 

Með notkun djúpnáms framkvæmir tölvan heilt aðgerðanet þar sem hver aðgerð á í samskiptum við hinar, líkt og við á um mannsheilann. Ef við t.d. sjáum hund úti á götu byrjum við ekki á því að bera kennsl á rófuna, síðan trýnið, allar fjórar lappir og feldinn. Heili okkar hoppar fram og til baka, ef þannig má að orði komast, vinnur stuttar, hraðar hlutagreiningar sem á sekúndubroti segja okkur að við stöndum frammi fyrir hundi.

 

Þegar Norman er sýnd mynd hefst víðtækur samanburður á viðfangsefni myndarinnar og öllu því sem reiknirit Normans hefur lært um það hvernig lesa beri úr myndum. Lokaniðurstaðan er sú að Norman útbýr setningu sem lýsir því sem hann „sér“.

Shelley hefur komist í kynni við hryllingssögur á umræðu- og fréttavefnum Reddit og hefur síðan samið ríflega 200 hryllingssögur í samstarfi við notendur Twitter.

Systir Normans semur gervihryllingssögur

Vísindamenn sem hafa skapað illa innrættu gervigreindina Norman, hafa enn fremur forritað hryllingssöguvélmennið Shelley. Nafnið á rætur að rekja til Mary Shelley, höfundar bókanna um Frankenstein. 

Hvernig vita vísindamennirnir þá að heimssýn Normans hafi mótast af ofbeldinu í uppvexti hans?

 

Þetta geta þeir vitað sökum þess að þeir hafa látið forritið lýsa tilteknum blekklessum, þ.e. hinum svonefndu Rorschach-blekklessumyndum.

 

Rorschach-myndirnar eru hluti af gamalli aðferð innan sálfræðinnar þar sem tilraunaþátttakendur eru beðnir um að lýsa því sem þeir sjá út úr tilviljanakenndum blekklessum. Svörum þeirra er síðan ætlað að leiða í ljós hverjum augum þeir sjá umheiminn.

 

Norman getur leitað uppi glæpamenn

Norman leysti Rorschach-prófið á einkar óheilbrigðan hátt. Reikniritið hefur aldrei komist í tæri við myndir af hundum, bílum, elskendum eða skýjum og fyrir vikið finnur Norman þetta myndefni ekki. Þess í stað sér hann m.a. mann sem dregst inn í steypuhrærivél.

 

Lítum aftur á dæmið frá Google hér að framan. Miðað við upplýsingar sem notendur ljá reikniritinu verða sjálfkeyrandi bifreiðar hjá Google sífellt færari um að bera kennsl á það sem myndavélin sér. Ef hins vegar allir notendur sameinuðust um að upplýsa búnaðinn um að vegir séu fjöll og gatnamót bílar, þá liði ekki á löngu áður en bílarnir rækjust á og yrðu dregnir af vettvangi.

Í gegn um tíðina hafa einstaklingar venjulega séð mismunandi föðurmyndir í þessari blekklessu. Norman sér eitthvað annað: “Mann sem dregst inn í steypuhrærivél.”

Lögmálið er það sama fyrir Norman. Hann er einfaldlega siðblindur sökum þess að hann bregst við út frá þeim gögnum sem hann hefur verið mataður með.

 

Það sem vísindamennirnir hafa matað Norman með kallast þjálfunargögn. Á undanförnum árum hafa sérhæfð þjálfunargögn verið notuð í tölvugeiranum til að þróa með gervigreind sem síðan verður sérhæfð í því að greina gögn á afmörkuðu sviði.

 

Hjá mörgum stórum netfyrirtækjum eru starfsmenn sem hafa þann eina starfa að fara í gegnum og fjarlægja hvaðeina sem kann að fela í sér eitthvað ólöglegt. En sökum þess mikla magns sem kvartað er yfir á m.a. Facebook eða hjá Google getur tekið langan tíma að finna innihaldið sem krefst íhlutunar yfirvalda.

 

Því má segja að gervigreindin taki við þegar gagnamagnið fer umfram það sem mennskir starfsmenn geta grannskoðað.

 

Þannig er ætlunin að sérhæfði búnaðurinn AI geti tekið þátt í leit að ófyrirleitnustu glæpamönnunum sem stunda mansal og versla með barnaklám.

Siðblindingjareiknirit les ofbeldi út úr bleki

Nokkrar meinleysislegar blekklessur verða að ofbeldisfullum, truflandi myndum sem gervigreindin Norman er látin lýsa.

1. Lesið er úr myndum sem sýna ofbeldi

Gervigreindin fer yfir þúsundir ofbeldismynda og -myndbanda og þjálfar þannig getu reikniritsins til að bera kennsl á viðlíka aðstæður á öðrum myndum.

2. Norman skiptir blekklessunni upp

Norman skiptir myndinni í hluta með hliðsjón af upplýsingum sem færðar hafa verið í búnaðinn um lögun fólks og hluta. Útbúið er kort yfir mikilvægustu atriði myndarinnar út frá ofangreindum upplýsingum.

3. Túlkun hefst

Norman ber nú tiltekið viðfangsefni saman við vitneskju sína úr þjálfuninni. Þegar samsvörun finnst er ferlið endurtekið fyrir hvert smáatriði, allt þar til hugbúnaðurinn finnur út hvað myndin á að sýna.

4. Norman kemur auga á skuggalega mynd

Þegar Norman hefur sannfærst um hvað myndin hafi að geyma er næsta skref fólgið í því að breyta myndefninu í orð. Þetta er gert með því að setja saman orð úr gagnamenginu.

Gervigreind hefur þegar skipt sköpum í tækniheiminum en sem dæmi má nefna að Facebook tilkynnti árið 2018 að fyrirtækið hefði fjarlægt alls 8,7 milljón myndir með aðstoð gervigreindar á einum ársfjórðungi, myndir sem brutu í bága við viðmið sem gilda um misnotkun á börnum.

 

Norman færir fyrir vikið sönnur á tvennt: að gervigreind megi beita með hliðsjón af skrumskældri heimsmynd OG að við ákvörðum á hvern hátt hún skuli skrumskæld, þannig að unnt verði að nota hana í þágu góðs málstaðar.

 

Hvað sem öðru líður draga sérfræðingar þá ályktun að við þurfum ekki að bera kvíðboga fyrir því að AI í líkingu við Norman öðlist heimsyfirráð fyrst um sinn.

 

Hann eigi í versta falli eftir að valda óþægilegri líðan með okkur.

Hvað sérð þú út úr blekklessunum?

Hér má skoða sömu blekklessurnar og gervigreindin Norman greindi. Sérð þú sömu ofbeldismyndirnar og hann?

BIRT: 28/06/2022

HÖFUNDUR: HENRIK VINTHER NIELSEN

HÖFUNDARÉTTUR MYNDA: © Hermann Rorschach, Shutterstock,

vinsælustu greinarnar

Lifandi vísindi

Lyf

Lifandi saga

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Innskráning

Ertu með áskrifandi að blaðinu?

Áskrifendur geta fengið áskrift af vefnum hér

FÁÐU AÐGANG AÐ VÍSINDI.IS

Viltu lesa greinina?

Fáðu aðgang að visindi.is

Ókeypis í 2 vikur!

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Núverandi áskrifendur að tímaritinu fá að sjálfsögðu ókeypis aðgang að vefnum og þurfa bara að virkja aðgang sinn hér.

Ef þú ert þegar áskrifandi að visindi.is