Tækni

Gervigreind fyllist illsku

Vísindamönnum hefur tekist að skapa gervigreind sem hugsar eins og siðblindingi. Nú er gervigreind þessari ætlað að gagnast AI í baráttunni við verstu glæpi netsins.

BIRT: 28/06/2022

Rorschach-blekklessuprófið samanstendur af nokkrum formlausum blekklessum sem samt sem áður líkjast einhverju, ef vel er að gáð.

 

Breytilegt er hvað fólki finnst klessurnar minna á. Þar sem hins vegar flestir sjá myndefni í líkingu við blómavasa og fólk sem heldur hvort í hönd annars, þá sér Norman allt aðra hluti, svo sem eins og mann sem er myrtur fyrir augunum á öskrandi eiginkonu sinni eða ólétta konu sem dettur niður af hárri byggingu.

 

Norman er fyrsta siðblinda tölva heims. Hann er tilfinningalaus og kemur auga á ofbeldi þar sem flestir sjá fyrir sér hversdagslega hluti.

 

Þessi forritanlegi hugbúnaður hefur kynnst heiminum okkar með því að þrælast í gegnum heilt samsafn ofbeldismynda og þar með færir Norman sönnur á að gervigreind sé aldrei hlutlaus, heldur einkennist hún af því sem hún „elst upp með“.

 

Með þessu móti hefur Norman einnig vakið upp umræður um það hvort hugsanlega væri unnt að láta gervigreind sem er mötuð af kynþáttahatri og kynjamisrétti, sinna mikilvægu greiningarstarfi en líkt og Joanna Bryson, vísindamaður við háskólann í Bath, orðaði í viðtali við BBC eru margar tölvur í dag forritaðar af ungum, einstæðum karlmönnum í Kaliforníu sem séu hallir undir sína líka.

Hvað sérðu í þessari blekklessu? Gervigreindin Norman telur að klessan sýni þessa atburðarás: „Eiginmaðurinn er skotinn til bana fyrir framan öskrandi konu sína.

En hinn einstrengingslegi AI hefur einnig sína kosti, því hægt er að sérhæfa hann og breyta honum í vopn í baráttunni við samviskulausustu glæpamenn í heimi.

 

Þú ert það sem þú borðar

Með gervigreind er átt við tölvuforrit sem er fært um að læra með hliðsjón af fyrri reynslu, líkt og við mannfólkið getum beitt greind okkar til að gera.

 

Stafrænt hjarta forritsins er í raun reiknirit. Með reikniriti er átt við röð leiðbeininga um það hvernig leysa skuli tiltekið verkefni, t.d. mætti jafnvel kalla mataruppskrift reiknirit sem farið er eftir þegar ætlunin er að útbúa tómatsósu: Saxið lauk, bætið við olíu, hrærið o.þ.h.

 

Vísindamenn vinna að því að þróa reiknirit á sviði gervigreindar sem ekki eru einungis óhagganlegar raðir leiðbeininga, heldur breytast þegar fram líða stundir. Tölvuforritin verða einfaldlega færari um að leysa verkefni sín sem táknar að þau læra og þetta skýrir jafnframt það að fyrirbærið kallast oft „vélarlærdómur“.

 

Forritin verða ekki einungis fljótari að leysa fyrirfram ákveðið verkefni, heldur geta þau enn fremur þróað með sér ný „hugsanaferli“ með því að greina óunnin gögn sem forritarar hafa þá yfirleitt matað með lýsingum sem gagnast reikniritunum.

 

Við mötum t.d. oft forritanleg reiknirit hjá Google í því að bæta getuna hvað áhrærir greiningu mynda og myndbanda.

 

Þetta gerist m.a. í hvert sinn sem Google kannar hvort við séum mennsk og ekki vélmenni, með því að biðja okkur um að haka við myndir með t.d. umferðarljósum á, leigubifreiðum eða reiðhjólum.

 

Þegar við t.d. berum kennsl á umferðarljós vistar Google svar okkar og fyrirtækið getur svo notað það síðar meir, ekki aðeins fyrir myndgreiningu, heldur til að stýra sjálfkeyrandi ökutækjum eftir.

Þegar Google biður okkur um að haka t.d. við umferðarljós til að sanna að við séum mannleg, hjálpum við líka gervigreind fyrirtækisins að verða nákvæmari í myndgreiningum.

Norman hefur með sama móti verið mataður af myndum sem forritarar við MIT-tækniháskólann í Boston hafa matað með upplýsingum. Myndirnar sýna ofbeldi sem birtist á bandaríska umræðu- og fréttavefnum Reddit.

 

Og þetta hafði víðtækar afleiðingar í för með sér um það hvernig Norman „hugsar“.

 

Afritar mannsheilann

Gervigreind Normans byggir á aðferð sem manna á meðal nefnist „djúpnám“. Reikniritið sem stjórnar myndgreiningum Normans vinnur á sama hátt og mannsheilinn í stað þess að fylgja hefðbundnu tölvureikniriti sem vinnur ýmis verk samkvæmt fyrirfram ákveðnum leiðum, fyrst A, þá B og síðan C.

 

Með notkun djúpnáms framkvæmir tölvan heilt aðgerðanet þar sem hver aðgerð á í samskiptum við hinar, líkt og við á um mannsheilann. Ef við t.d. sjáum hund úti á götu byrjum við ekki á því að bera kennsl á rófuna, síðan trýnið, allar fjórar lappir og feldinn. Heili okkar hoppar fram og til baka, ef þannig má að orði komast, vinnur stuttar, hraðar hlutagreiningar sem á sekúndubroti segja okkur að við stöndum frammi fyrir hundi.

 

Þegar Norman er sýnd mynd hefst víðtækur samanburður á viðfangsefni myndarinnar og öllu því sem reiknirit Normans hefur lært um það hvernig lesa beri úr myndum. Lokaniðurstaðan er sú að Norman útbýr setningu sem lýsir því sem hann „sér“.

Shelley hefur komist í kynni við hryllingssögur á umræðu- og fréttavefnum Reddit og hefur síðan samið ríflega 200 hryllingssögur í samstarfi við notendur Twitter.

Systir Normans semur gervihryllingssögur

Vísindamenn sem hafa skapað illa innrættu gervigreindina Norman, hafa enn fremur forritað hryllingssöguvélmennið Shelley. Nafnið á rætur að rekja til Mary Shelley, höfundar bókanna um Frankenstein. 

Hvernig vita vísindamennirnir þá að heimssýn Normans hafi mótast af ofbeldinu í uppvexti hans?

 

Þetta geta þeir vitað sökum þess að þeir hafa látið forritið lýsa tilteknum blekklessum, þ.e. hinum svonefndu Rorschach-blekklessumyndum.

 

Rorschach-myndirnar eru hluti af gamalli aðferð innan sálfræðinnar þar sem tilraunaþátttakendur eru beðnir um að lýsa því sem þeir sjá út úr tilviljanakenndum blekklessum. Svörum þeirra er síðan ætlað að leiða í ljós hverjum augum þeir sjá umheiminn.

 

Norman getur leitað uppi glæpamenn

Norman leysti Rorschach-prófið á einkar óheilbrigðan hátt. Reikniritið hefur aldrei komist í tæri við myndir af hundum, bílum, elskendum eða skýjum og fyrir vikið finnur Norman þetta myndefni ekki. Þess í stað sér hann m.a. mann sem dregst inn í steypuhrærivél.

 

Lítum aftur á dæmið frá Google hér að framan. Miðað við upplýsingar sem notendur ljá reikniritinu verða sjálfkeyrandi bifreiðar hjá Google sífellt færari um að bera kennsl á það sem myndavélin sér. Ef hins vegar allir notendur sameinuðust um að upplýsa búnaðinn um að vegir séu fjöll og gatnamót bílar, þá liði ekki á löngu áður en bílarnir rækjust á og yrðu dregnir af vettvangi.

Í gegn um tíðina hafa einstaklingar venjulega séð mismunandi föðurmyndir í þessari blekklessu. Norman sér eitthvað annað: “Mann sem dregst inn í steypuhrærivél.”

Lögmálið er það sama fyrir Norman. Hann er einfaldlega siðblindur sökum þess að hann bregst við út frá þeim gögnum sem hann hefur verið mataður með.

 

Það sem vísindamennirnir hafa matað Norman með kallast þjálfunargögn. Á undanförnum árum hafa sérhæfð þjálfunargögn verið notuð í tölvugeiranum til að þróa með gervigreind sem síðan verður sérhæfð í því að greina gögn á afmörkuðu sviði.

 

Hjá mörgum stórum netfyrirtækjum eru starfsmenn sem hafa þann eina starfa að fara í gegnum og fjarlægja hvaðeina sem kann að fela í sér eitthvað ólöglegt. En sökum þess mikla magns sem kvartað er yfir á m.a. Facebook eða hjá Google getur tekið langan tíma að finna innihaldið sem krefst íhlutunar yfirvalda.

 

Því má segja að gervigreindin taki við þegar gagnamagnið fer umfram það sem mennskir starfsmenn geta grannskoðað.

 

Þannig er ætlunin að sérhæfði búnaðurinn AI geti tekið þátt í leit að ófyrirleitnustu glæpamönnunum sem stunda mansal og versla með barnaklám.

Siðblindingjareiknirit les ofbeldi út úr bleki

Nokkrar meinleysislegar blekklessur verða að ofbeldisfullum, truflandi myndum sem gervigreindin Norman er látin lýsa.

1. Lesið er úr myndum sem sýna ofbeldi

Gervigreindin fer yfir þúsundir ofbeldismynda og -myndbanda og þjálfar þannig getu reikniritsins til að bera kennsl á viðlíka aðstæður á öðrum myndum.

2. Norman skiptir blekklessunni upp

Norman skiptir myndinni í hluta með hliðsjón af upplýsingum sem færðar hafa verið í búnaðinn um lögun fólks og hluta. Útbúið er kort yfir mikilvægustu atriði myndarinnar út frá ofangreindum upplýsingum.

3. Túlkun hefst

Norman ber nú tiltekið viðfangsefni saman við vitneskju sína úr þjálfuninni. Þegar samsvörun finnst er ferlið endurtekið fyrir hvert smáatriði, allt þar til hugbúnaðurinn finnur út hvað myndin á að sýna.

4. Norman kemur auga á skuggalega mynd

Þegar Norman hefur sannfærst um hvað myndin hafi að geyma er næsta skref fólgið í því að breyta myndefninu í orð. Þetta er gert með því að setja saman orð úr gagnamenginu.

Gervigreind hefur þegar skipt sköpum í tækniheiminum en sem dæmi má nefna að Facebook tilkynnti árið 2018 að fyrirtækið hefði fjarlægt alls 8,7 milljón myndir með aðstoð gervigreindar á einum ársfjórðungi, myndir sem brutu í bága við viðmið sem gilda um misnotkun á börnum.

 

Norman færir fyrir vikið sönnur á tvennt: að gervigreind megi beita með hliðsjón af skrumskældri heimsmynd OG að við ákvörðum á hvern hátt hún skuli skrumskæld, þannig að unnt verði að nota hana í þágu góðs málstaðar.

 

Hvað sem öðru líður draga sérfræðingar þá ályktun að við þurfum ekki að bera kvíðboga fyrir því að AI í líkingu við Norman öðlist heimsyfirráð fyrst um sinn.

 

Hann eigi í versta falli eftir að valda óþægilegri líðan með okkur.

Hvað sérð þú út úr blekklessunum?

Hér má skoða sömu blekklessurnar og gervigreindin Norman greindi. Sérð þú sömu ofbeldismyndirnar og hann?

LESTU EINNIG

HÖFUNDUR: HENRIK VINTHER NIELSEN

© Hermann Rorschach, Shutterstock,

Náttúran

Eitruðustu efni veraldar

Heilsa

Er hægt að sofa með opin augun?

Heilsa

Er hægt að sofa með opin augun?

Lifandi Saga

Að sjá fangana var áfall: Hermenn grétu

Lifandi Saga

Að sjá fangana var áfall: Hermenn grétu

Maðurinn

Þessir einstaklingar eru í minni hættu á að greinast með heilabilun

Alheimurinn

Stjarna breytir sér í demant

Náttúran

Hversu lengi getur könguló lifað af í ryksugupokanum?

NÝJASTA NÝTT

Lifandi Saga

Samkynhneigður sjónvarpsleikari skáldaði upp sögur um eiginkonur

Maðurinn

Hvernig myndast krabbamein?

Alheimurinn

Þrisvar sinnum stærra en Everestfjall: Goshalastjarna gæti brátt sést á himni í fyrsta sinn í 70 ár

Tækni

Dulkóðaður gjaldmiðill: 7 atriði sem þú ættir að vita um rafmynt 

Menning

Af hverju fengu inúítar ekki skyrbjúg?

Lifandi Saga

Fjórir kvillar sem bóluefni hafa knésett

Menning og saga

Frumstæð manntegund jarðsetti hina látnu

Maðurinn

Vísindamenn endurnýja hárvöxt á músum

Lifandi Saga

Nanjing harmleikurinn verri en hin versta martröð

Maðurinn

3 ókostir við greind

Lifandi Saga

Samkynhneigður sjónvarpsleikari skáldaði upp sögur um eiginkonur

Maðurinn

Hvernig myndast krabbamein?

Alheimurinn

Þrisvar sinnum stærra en Everestfjall: Goshalastjarna gæti brátt sést á himni í fyrsta sinn í 70 ár

Tækni

Dulkóðaður gjaldmiðill: 7 atriði sem þú ættir að vita um rafmynt 

Menning

Af hverju fengu inúítar ekki skyrbjúg?

Lifandi Saga

Fjórir kvillar sem bóluefni hafa knésett

Menning og saga

Frumstæð manntegund jarðsetti hina látnu

Maðurinn

Vísindamenn endurnýja hárvöxt á músum

Lifandi Saga

Nanjing harmleikurinn verri en hin versta martröð

Maðurinn

3 ókostir við greind

Fáðu aðgang að vÍSINDI.IS

Ókeypis í 2 vikur!

 

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

 

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Maðurinn

Hvers vegna þola sumir ekki kóríander?

Maðurinn

Hvers vegna þola sumir ekki kóríander?

Heilsa

Bakteríur í blóði auka þyngdina

Heilsa

Bakteríur í blóði auka þyngdina

Maðurinn

Svefnleysi skaðar þarmana

Lifandi Saga

Hvert flúðu spænskir Gyðingar?

Maðurinn

Rannsókn: Greinileg merki um framhjáhald.

Lifandi Saga

Þess vegna trúa milljónir á mýtuna: Barnaníðingar djöfulsins 

Vinsælast

1

Menning

Af hverju fengu inúítar ekki skyrbjúg?

2

Maðurinn

Líkami þinn lifir eftir dauðann

3

Maðurinn

Þessir einstaklingar eru í minni hættu á að greinast með heilabilun

4

Maðurinn

Hvernig myndast krabbamein?

5

Maðurinn

3 ókostir við greind

6

Náttúran

Hversu lengi getur könguló lifað af í ryksugupokanum?

1

Menning

Af hverju fengu inúítar ekki skyrbjúg?

2

Maðurinn

Þessir einstaklingar eru í minni hættu á að greinast með heilabilun

3

Maðurinn

Hvernig myndast krabbamein?

4

Maðurinn

3 ókostir við greind

5

Náttúran

Topp 5: Af hvaða dýrum er mestur fjöldi?

6

Lifandi Saga

Nanjing harmleikurinn verri en hin versta martröð

Heilsa

Þess vegna ættir þú alltaf að setja klósettlokið niður áður en þú sturtar

Maðurinn

Vanþroskað tvíburafóstur fjarlægt úr heila ársgamallar stúlku

Tækni

100 milljónir hafa kosið: Hér eru hin sjö nýju undur veraldar 

Lifandi Saga

Hvenær voru fóstureyðingar gerðar frjálsar í Bandaríkjunum?

Maðurinn

Angistargenið er nú fundið

Náttúran

Glæpir borga sig

Náttúran

Af hverju límist lím ekki við innra byrði túbunnar?

Maðurinn

Vísindamenn hafa komist að rót mannvonskunnar: Fræðist um verstu hliðar ykkar

Lifandi Saga

Refsiföngum í síðari heimsstyrjöldinni fórnað 

Maðurinn

Af hverju eiga karlmenn auðveldara með að fá fullnægingu en konur?

Maðurinn

Leiðbeiningar um uppeldi: Reiðilestur veldur niðurbroti í heila

Maðurinn

Hvernig er best að fara á klósettið?

Samkynhneigður sjónvarpsleikari skáldaði upp sögur um eiginkonur

Á sjónvarpsskjánum leysti Raymond Burr hvert sakamálið á fætur öðru – í raunveruleikanum leyndi hann hins vegar sannleikanum um sjálfan sig.

Lifandi Saga

ÁSKRIFT AÐ VÍSINDI.IS

Prófaðu í 14 daga ókeypis!

  • Fullur aðgangur að vefnum okkar með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Lifandi vísindi/Lifandi saga í rafrænni útgáfu á vefnum,
  • Aðeins 1.690 krónur á mánuði.
  • Engin skuldbinding – Þú getur hætt hvenær sem er.

ÁSKRIFT AÐ TÍMARITINU

Þrjú tölublöð + gjöf: Skemmtilegur sjónauki
  • Þrjú næstu tölublöð Lifandi vísinda/Lifandi sögu – sent heim til þín – eins færðu lítinn og vandaðan sjónauka að gjöf.
  • Fullur aðgangur að vefnum okkar – visindi.is – með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Spennandi greinar og flottar myndir sem svala forvitni þinni.
  • Þú getur hætt eftir tilboðið en ef þú heldur áfram skuldbindur þú þig aðeins þrjú tölublöð í einu og þú getur sagt upp hvenær sem sem og klárar þá tímabilið sem er hafið.
  • Venjuleg áskrift – þrjú tölublöð – kostar aðeins 7.590 kr

Sjónauki og þriggja blaða áskrift – Alls 3.800 kr.

Lifandi vísindi

Lyf

Lifandi saga

Search

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Innskráning

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.