Tækni

Er nýja tölvugreindin gáfuð eða vitlaus?

ChatGPT getur skrifað greinar, ort ljóð og hefur alltaf svör á reiðum höndum en tekur sannleikann ekki mjög hátíðlega. Við reynum að skilja hvernig vélgreind er frábrugðin mannagreind og fáum álit sérfræðinga á því hvort gervigreindin muni fara fram úr manninum.

BIRT: 29/12/2023

Á bandaríska tæknimiðlinum CNET tóku árið 2022 að birtast greinar undir höfundarnafninu „CNET Money Staff.“ Greinarnar voru fremur flatneskjulegar í málfari og fullar af þekktum frösum en virtust í stórum dráttum ekkert frábrugðnar öðrum greinum sem þar birtust.

 

En fljótlega kom að því að lesendur fóru að reka augun í villur sem þóttu benda til þess að höfundinn skorti grundvallarþekkingu á hagfræði; t.d. hélt CNET Money Staff því fram að 3% ávöxtun af 10.000 dollara höfuðstól væri 10.300 dollarar á ári. Hið rétta er auðvitað 300 dollarar.

 

Og að lokum birtist játning frá CNET: Höfundurinn var ekki af holdi og blóði, heldur gervigreindarforrit.

 

Vélgreindarforritið ChatGPT sem bandaríska tæknifyrirtækið OpenAI kynnti til sögunnar í nóvember 2022 hefur vakið bæði undrun og aðdáun með hæfni sinni til að tjá sig óaðfinnanlega um hvað sem vera skal, jafnvel á ýmsum tungumálum. Þó er þetta aðeins eitt svið af mörgum þar sem nýþróuð gervigreind gerir sig gildandi. Slík forrit geta nú skapað sannfærandi myndir og samið tónlist.

 

Margir vænta þess að gervigreindin muni gjörbylta vinnumarkaði án tillits til hversu góðar eða slæmar afleiðingarnar verða. Sumir óttast jafnvel að framtíðarkynslóðir gervigreindar fari fram úr mannlegri greind og taki af okkur völdin.

ChatGPT er aðgengilegt öllum og mun líklega gjörbylta vinnumarkaðnum með hæfni sinni til að skrifa vel mótaðan texta og svara nánast hvaða spurningu sem er.

En þótt algóritmar gervigreindarinnar séu beinlínis byggðir á virkni mannsheilans, sýnir dæmið um gervigreindarhöfund CNETs að hann vissi í rauninni ekki hvað hann var að segja.

 

En hversu greind eru forritin í raun og veru og skyldi einhvern tíma koma að því að þau verði mönnum yfirsterkari? Sérfræðingar eru ekki á einu máli og ChatGPT hefur líka tekið þátt í rökræðunum.

 

Líkir eftir tauganeti heilans

Gervigreind er alls ekki nýtt fyrirbrigði og allar líkur benda til að þú nýtir hana daglega, svo sem ef þú notar símann til að rata rétta leið eða notar streymisþjónustu til að finna nýja þáttaröð.

Tauganetverk er byggt á lagskiptum einingum sem taka við boðum og senda þau endurbætt áfram.

Allra fyrsti vísirinn að gervigreind kom fram strax á 6. áratug 20. aldar með tölvuforritinu Logic Theorist sem var fært um að reikna stærðfræðilegar sannanir.

 

Hugmyndin spratt upp úr rannsóknum á starfsemi mannsheilans.

 

Í heilanum fær taugafruma boð frá mörgum öðrum frumum og styrkur boðanna, sem sé fjöldi frumna sem sendir frumunni sömu boð, ræður því hvort viðkomandi heilafruma sendir boð áfram til annarra frumna.

 

Vélræn tauganet gervigreindar virka að meginhluta til á sama hátt en í stað fjölda taugafrumna notar vélgreindin allmörg stig svonefndra eininga eða tengipunkta sem taka við boðum frá næsta stigi fyrir neðan og senda samræmdar niðurstöður upp í næsta lag fyrir ofan.

 

Þegar komið er upp á efsta lagið, er öllum upplýsingum safnað í einn tengipunkt sem gefur lokasvar.

Tauganetverk er byggt á lagskiptum einingum sem taka við boðum og senda þau endurbætt áfram.

Einfalt véltauganet getur t.d. hjálpað lækni að velja heppilegasta lyfið, t.d. á grundvelli kyns sjúklingsins, aldurs, blóðþrýstings og kólesteróls í blóði.

 

Áður en slíkt netverk er tekið í notkun, þjálfar læknirinn það með því að mata það á upplýsingum um fyrri sjúklinga. Þessi gervigreind á í hverju tilviki að stinga upp á rétta lyfinu og fær síðan til baka upplýsingar um hvort það er sama lyf og læknirinn hefði sjálfur valið.

 

Eftir hverja ágiskun fínstillir netverkið styrk þeirra boða sem send eru og móttekin, til að nálgast rétta niðurstöðu. Þegar netverkið hefur verið leitt í gegnum nægilega margar sjúkraskrár hefur það lært svo mikið að það getur farið að aðstoða lækninn við að velja það lyf sem hentar best fyrir nýja sjúklinga.

,,Gervigreind er sköpuð og stýrt af mönnum. Það er þess vegna undir mönnum komið að taka ábyrgð á þróuninni og notkuninni.“
ChatGPT

En að fráteknum hinum upprunalegu upplýsingum um sjúklinginn og tillögum um lyfjaval, hefur styrkur boðanna sem berast netverki forritsins engin tengsl við sjúklinginn eða læknavísindin.

 

Í rauninni gerist ekki annað en það að hnappar og straumar eru fínstilltir þannig að gervigreindin stingur á endanum upp á sama lyfi og læknirinn hefði valið sjálfur.

 

Þetta má auðveldlega færa fram sem röksemd fyrir því að gervigreindin sé í rauninni skelfilega vitlaus.

Forritið hefur hæfni til að sýnast viturt

ChatGPT hefur staðist próf sem aðeins menn ættu að standast og náð háskólaprófum. Veikleiki forritsins er sá að það veit í rauninni ekki neitt.

Vitur: Getur séð fyrir hugsanir fólks

Í tilraun sem gerð var, reyndist ChatGPT hafa hæfni níu ára barns til að sjá fyrir hvort fólk yrði fyrir vonbrigðum ef t.d. kæmi í ljós að konfektkassi væri tómur. Það sýnir vel þroskaða hæfni til að átta sig á hugsanagangi annarra.

Vitur: Hefur staðist próf í lögfræði og viðskiptum

Vísindamenn hafa lagt fyrir ChatGPT sams konar krossapróf og lögð eru fyrir stúdenta í bandarískum háskólum. Þótt forritið svaraði stundum út í hött, stóðst það lögfræðiprófið þokkalega og fékk háa einkunn í viðskiptafræði.

Vitlaus: Greinir ekki lygi frá sannleika

ChatGPT byggist ekki á raunverulegri þekkingu, heldur giskar sig áfram frá orði til orðs líkt og SMS-forrit í snjallsíma lýkur sjálfkrafa við orð. Öfugt við mannfólkið gerir spjallmennið sér ekki grein fyrir því sem það veit ekki og gerir því alvarleg mistök.

Gervigreind leitast ekki við að svara spurningum með því að greina fyrirliggjandi upplýsingar, draga rökréttar ályktanir og komast að niðurstöðu.

 

Allar aðgengilegar upplýsingar eru einfaldlega keyrðar í gegnum algóritma og útkoman verður svar sem oft reynist hárrétt, að því tilskyldu að netverkið hafi aðgang að nægilega miklum upplýsingum – en ástæðurnar má sem best kalla illskiljanlegar.

 

Talar án skilnings

Fyrirtækið OpenAI sem stendur að ChatGPT, var stofnað af Elon Musk og með milljarðafjárfestingu frá Microsoft og yfirlýst markmið er að gervigreind gagnist öllu mannkyni.

 

ChatGPT er svokallað textaforrit og hefur öðlast mikla málþjálfun til að greina hvernig setningar og textasamhengi er byggt upp.

 

Forritið mætti því kalla sérfræðing í samræðulist án þess að gera sér minnstu hugmynd um hvað verið er að ræða.

Spjallforritið getur sagt að Eiffelturninn sé í París þótt það viti ekkert um landafræði.

Véltauganet ChatGPT hefur verið þjálfað á milljónum texta af öllum hugsanlegum gerðum og forritið reynir stöðugt að giska á hvaða orð komi næst í setningunni. Slíkar spár tengjast ekki merkingu setningarinnar, heldur aðeins því hversu miklar tölfræðilíkur eru t.d. á að tvö orð standi saman eða séu notuð í sama samhengi.

 

ChatGPT þarf þannig ekki að vita neitt um landafræði til að geta tilgreint höfuðborg Frakklands.

 

Auðvitað er nauðsynlegt að forritið hafi í þjálfun sinni rekist á orðin Frakkland, höfuðborg og París en þegar það svarar spurningunni er það einvörðungu málþjálfunin sem tengir þessi orð saman í rétt svar.

ChatGPT notar málið til að finna svarið

Spjallmennið ChatGPT veit ekki hverju það svarar og skilur ekki svarið. Forritið leitar að mynstri í orðum spurningarinnar og finnur svar þar sem orðin falla að þessu mynstri.

1. Þjálfunarstigið: Setur notkun orða í kerfi

ChatGPT spjallmennið hefur verið fóðrað á milljónum texta og skipað öllum orðum upp í máltöflu. Orð notuð sem eru í sama samhengi eða standa oft tiltölulega þétt saman fá sama númer á tilteknum stöðum í máltöflunni.

Inntak: Þýðir spurninguna inn í málkerfið

Þegar ChatGPT fær spurningu, yfirfærir spjallmennið hvert orð í máltöfluna í samræmi við myndun hennar á þjálfunarstiginu. Tvö af orðunum – Frakkland og höfuðborg – fá númerið 5 og sömu staðsetningu í máltöflunni.

Úrvinnsla: Finnur samsvarandi orð í gagnagrunni

ChatGPT leitar í gagnagrunninum að orðum þar sem máltaflan fellur að mynstrinu. París reynist hafa númerið 5 á sama stað og Frakkland og höfuðborg en líka Eiffelturninn sem hefur númer 8 eins og París og á sama stað.

4. Útkoma: Mynstur í máltöflum gefa svarið

Spjallmennið hefur fundið samhengi milli Parísar, Frakklands og höfuðborgar. París tengist líka Eiffelturninum. Með málkunnáttu sinni getur spjallmennið nú gefið fullkomlega rétt orðað svar.

Þessi hæfni er ekki einskorðuð við ChatGPT. Mörg önnur textaforrit nota sömu aðferðafræði en ChatGPT byggir á mun stærri gagnagrunni varðandi orðanotkun og samhengi orða.

 

Þar fyrir utan er netverkið samsett úr gríðarlegum fjölda eininga – 175 milljörðum – sem forritið nýtir til að fínstilla og forma rétta niðurstöðu.

 

Þessi tölfræðilegi málskilningur gerir ChatGPT ekki aðeins kleift að halda uppi skynsamlegum samræðum eða finna mikilvægustu atriði í löngum texta á fáeinum sekúndum. Spjallmennið getur nýtt rökræna málþjálfun sína til að skrifa kóða fyrir tölvuforrit eða vinna markaðsgreiningar.

 

Vélarnar taka völdin

Í apríl 2023 kom út lagið „Heart on My Sleeve“ með Drake og The Weeknd sem milljónir hlustuðu á ýmist á YouTube eða TikTok. Gallinn var bara sá að söngvararnir höfðu aldrei flutt þetta lag. Raddir þeirra voru skapaðar með gervigreind.

 

Plötufyrirtækið fékk lagið reyndar nánast strax tekið af netinu en lagið hafði þó náð að sýna fram á hvers konar framtíð kynni að bíða tónlistariðnaðarins – og fleiri greina.

 

Tvö gervigreindarforrit, DALL-E sem eins og ChatGPT er þróað af OpenAI og Midjourney, geta t.d. skapað myndir af nánast hverju sem er, aðeins á grundvelli nokkurra orða og til bókaforlaga streyma nú handrit sem höfundar hafa að meira eða minna leyti skrifað með hjálp spjallmenna.

 

Það virðist því full ástæða til að sumt fólk geti hlakkað til að fá aðstoð gervigreindar við vinnu sína – en aðrir óttist að vélarnar muni leysa þá alveg af hólmi.

Heilbrigði, öryggi, samskipti og flutningar eru bara fáein þeirra sviða þar sem gervigreind skiptir máli í lífi þínu í dag, á morgun og á næstu áratugum.

Á bak við allar væntingar til þessarar nýju tækni býr þó undirliggjandi kvíði við að gervigreindin muni einn góðan veðurdag fara fram úr hugargreind manna og jafnvel þróa með sér sjálfsvitund.

 

Fræðilega séð gæti það á endanum leitt til þess að vélar með sjálfstæða hugsun taki að vinna á grundvelli eigin hagsmuna og taki öll völd af manninum. Slík ógnarsýn er vel þekkt í vísindaskáldskap og t.d. má nefna myndina The Terminator.

 

Það var af þessum sökum sem meira en þúsund vísindamenn og tæknifrumkvöðlar birtu opið bréf til ráðamanna í mars. Þar er því beint til löggjafarþinga að leggja þróun mjög öflugrar gervigreindar á ís í bili.

 

Meðal þeirra sem undirrituðu þetta opna bréf var Elon Musk sem sjálfur átti þátt í þróun ChatGPT. Bréfritararnir æskja þess að þetta þróunarhlé verði notað til að ákveða til hvers við viljum nota gervigreind og jafnframt hvernig unnt sé að setja um hana regluverk sem komi í veg fyrir að við missum stjórn á henni.

Sumir vísindamenn óttast að greindarvélar þrói sjálfstæðan vilja og taki völdin. Hugsunin er vel þekkt í vísindaskáldskap á borð við myndina The Terminator.

Aðrir sérfræðingar segja gervigreind aldrei geta öðlast sjálfsvitund sem þeir telja að krefjist tilfinninga sem ekki geti náðst með vélgreind. Án sjálfsvitundar geta forrit ekki þroskað sjálfstæðan vilja og þess vegna álíta þessir sérfræðingar útilokað að vélar muni nokkurn tíma taka af okkur völdin, alveg án tillits hve mikilli greind þær geti náð.

 

En fyrst vísindamenn eru ekki á einu máli liggur auðvitað beint við að spyrja bara ChatGPT hvort gervigreindarforrit muni einhvern tíma fara fram úr mannlegri greind. Við spurningunni fáum við vissulega skynsamlegt svar sem á hinn bóginn er líka dálítið flatneskjulegt og segir í rauninni lítið:

 

„Það er mikilvægt að hafa í huga að gervigreind er sköpuð og stýrt af mönnum. Það er þess vegna undir mönnum komið að taka ábyrgð á þróun og notkun gervigreindar þannig að hún gagnist við að leysa hnattræn vandamál á ábyrgan og siðlegan hátt.“

HÖFUNDUR: GORM PALMGREN

© Shutterstock,

Maðurinn

Valda börn hraðari öldrun foreldranna?

Maðurinn

Af hverju eru karlar líkamlega sterkari en konur?

Maðurinn

Af hverju eru karlar líkamlega sterkari en konur?

Menning og saga

Frjálslyndar konur Egyptalands hneyksluðu alla

Menning og saga

Frjálslyndar konur Egyptalands hneyksluðu alla

Lifandi Saga

Grimmsævintýri: Bönnuð börnum

Heilsa

Blóðflokkur þinn kann að hafa áhrif á hvort þú færð heilablóðfall snemma á lífsleiðinni

Lifandi Saga

Víkingarnir voru kynþokkafullir kvennabósar

NÝJASTA NÝTT

Lifandi Saga

Humar var hundafæða

Heilsa

Vísindamenn finna óvænt samband milli tannholdsbólgu og tiltekins sjúkdóms

Náttúran

Hvernig er móteitur gert?

Læknisfræði

Pasteur bjargaði heiminum frá hundaæði

Lifandi Saga

Áður en til fangelsisrefsingar kom hljóðaði dómurinn upp á: Kvalir og niðurlægingu

Lifandi Saga

Hver lagði eld að Róm?

Maðurinn

Af hverju var Elísabet drottning grafin í blýkistu?

Alheimurinn

Er jörðin kúla?

Maðurinn

Táningar eru forritaðir til að hætta að hlusta á það sem mamma segir

Tækni

Einvígi: Hvort krefst minni orku –einfalt uppvask eða uppþvottavél?

Lifandi Saga

Humar var hundafæða

Heilsa

Vísindamenn finna óvænt samband milli tannholdsbólgu og tiltekins sjúkdóms

Náttúran

Hvernig er móteitur gert?

Læknisfræði

Pasteur bjargaði heiminum frá hundaæði

Lifandi Saga

Áður en til fangelsisrefsingar kom hljóðaði dómurinn upp á: Kvalir og niðurlægingu

Lifandi Saga

Hver lagði eld að Róm?

Maðurinn

Af hverju var Elísabet drottning grafin í blýkistu?

Alheimurinn

Er jörðin kúla?

Maðurinn

Táningar eru forritaðir til að hætta að hlusta á það sem mamma segir

Tækni

Einvígi: Hvort krefst minni orku –einfalt uppvask eða uppþvottavél?

Fáðu aðgang að vÍSINDI.IS

Ókeypis í 2 vikur!

 

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

 

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Maðurinn

Svona mikið vatn ættir þú að drekka á dag

Maðurinn

Svona mikið vatn ættir þú að drekka á dag

Náttúran

Fólk fer oft ekki rétt að köttunum sínum

Náttúran

Fólk fer oft ekki rétt að köttunum sínum

Maðurinn

Af hverju borðum við ekki gras?

Náttúran

Af hverju velta hundar sér í blautu rusli?

Maðurinn

Hversu margt tónlistarfólk þjáist af heyrnarskerðingu?

Læknisfræði

Hvenær byrjuðu læknar að nota eter?

Vinsælast

1

Heilsa

Blóðflokkur þinn kann að hafa áhrif á hvort þú færð heilablóðfall snemma á lífsleiðinni

2

Maðurinn

Af hverju var Elísabet drottning grafin í blýkistu?

3

Maðurinn

Vísindamenn leggja fram ný gögn: Hversu skaðlegt sjónvarpsgláp getur verið fyrir börn

4

Maðurinn

Rautt ljós getur leitt af sér betri sjón

5

Lifandi Saga

Áður en til fangelsisrefsingar kom hljóðaði dómurinn upp á: Kvalir og niðurlægingu

6

Maðurinn

Af hverju eru karlar líkamlega sterkari en konur?

1

Maðurinn

Af hverju var Elísabet drottning grafin í blýkistu?

2

Maðurinn

Vísindamenn leggja fram ný gögn: Hversu skaðlegt sjónvarpsgláp getur verið fyrir börn

3

Maðurinn

Rautt ljós getur leitt af sér betri sjón

4

Lifandi Saga

Áður en til fangelsisrefsingar kom hljóðaði dómurinn upp á: Kvalir og niðurlægingu

5

Maðurinn

Af hverju eru karlar líkamlega sterkari en konur?

6

Maðurinn

Táningar eru forritaðir til að hætta að hlusta á það sem mamma segir

Lifandi Saga

Frelsisstyttan átti að hrópa til borgaranna

Lifandi Saga

Ótrúlegur dagur í flugstjórnarklefanum: Flugmaðurinn sogaðist út um gluggann

Maðurinn

Mannfólkið hefur kysst í 4.500 ár

Lifandi Saga

Hvaða land hefur oftast farið í stríð?

Maðurinn

Þarmabakteríurnar  lækka líkamshitann

Heilsa

Lífsnauðsynlegt næringarefni sem lítið er vitað um

Maðurinn

Krullað hár kælir höfuðið

Tækni

Hvernig virkar C14-greining?

Tækni

Framtíðin séð í baksýnisspegli 

Menning og saga

Ólíkar þjóðir í Evrópu á ísöld

Náttúran

Hunangsfluguna skortir flugtækni

Tækni

Græna afleysingin fyrir Concorde 2025

Humar var hundafæða

Áður en humar fór að sjást á matseðlum fínna veitingahúsa flokkaðist hann undir lélegan dósamat og var jafnframt notaður sem áburður á akrana. Að því kom að skelfiskur þessi varð sjaldséður vegna ofveiða og þá ávann hann sér nýtt orðspor sem hnossgæti.

Lifandi Saga

ÁSKRIFT AÐ VÍSINDI.IS

Prófaðu í 14 daga ókeypis!

  • Fullur aðgangur að vefnum okkar með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Lifandi vísindi/Lifandi saga í rafrænni útgáfu á vefnum,
  • Aðeins 1.690 krónur á mánuði.
  • Engin skuldbinding – Þú getur hætt hvenær sem er.

ÁSKRIFT AÐ TÍMARITINU

Þrjú tölublöð + gjöf: Skemmtilegur sjónauki
  • Þrjú næstu tölublöð Lifandi vísinda/Lifandi sögu – sent heim til þín – eins færðu lítinn og vandaðan sjónauka að gjöf.
  • Fullur aðgangur að vefnum okkar – visindi.is – með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Spennandi greinar og flottar myndir sem svala forvitni þinni.
  • Þú getur hætt eftir tilboðið en ef þú heldur áfram skuldbindur þú þig aðeins þrjú tölublöð í einu og þú getur sagt upp hvenær sem sem og klárar þá tímabilið sem er hafið.
  • Venjuleg áskrift – þrjú tölublöð – kostar aðeins 7.590 kr

Sjónauki og þriggja blaða áskrift – Alls 3.800 kr.

Lifandi vísindi

Lyf

Lifandi saga

Search

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Innskráning

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Viltu lesa greinina?

Fáðu aðgang að visindi.is

Ókeypis í 2 vikur!

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Núverandi áskrifendur að tímaritinu fá að sjálfsögðu ókeypis aðgang að vefnum og þurfa bara að virkja aðgang sinn hér.

Ef þú ert þegar áskrifandi að visindi.is