Tækni

Er nýja tölvugreindin gáfuð eða vitlaus?

ChatGPT getur skrifað greinar, ort ljóð og hefur alltaf svör á reiðum höndum en tekur sannleikann ekki mjög hátíðlega. Við reynum að skilja hvernig vélgreind er frábrugðin mannagreind og fáum álit sérfræðinga á því hvort gervigreindin muni fara fram úr manninum.

BIRT: 29/12/2023

Á bandaríska tæknimiðlinum CNET tóku árið 2022 að birtast greinar undir höfundarnafninu „CNET Money Staff.“ Greinarnar voru fremur flatneskjulegar í málfari og fullar af þekktum frösum en virtust í stórum dráttum ekkert frábrugðnar öðrum greinum sem þar birtust.

 

En fljótlega kom að því að lesendur fóru að reka augun í villur sem þóttu benda til þess að höfundinn skorti grundvallarþekkingu á hagfræði; t.d. hélt CNET Money Staff því fram að 3% ávöxtun af 10.000 dollara höfuðstól væri 10.300 dollarar á ári. Hið rétta er auðvitað 300 dollarar.

 

Og að lokum birtist játning frá CNET: Höfundurinn var ekki af holdi og blóði, heldur gervigreindarforrit.

 

Vélgreindarforritið ChatGPT sem bandaríska tæknifyrirtækið OpenAI kynnti til sögunnar í nóvember 2022 hefur vakið bæði undrun og aðdáun með hæfni sinni til að tjá sig óaðfinnanlega um hvað sem vera skal, jafnvel á ýmsum tungumálum. Þó er þetta aðeins eitt svið af mörgum þar sem nýþróuð gervigreind gerir sig gildandi. Slík forrit geta nú skapað sannfærandi myndir og samið tónlist.

 

Margir vænta þess að gervigreindin muni gjörbylta vinnumarkaði án tillits til hversu góðar eða slæmar afleiðingarnar verða. Sumir óttast jafnvel að framtíðarkynslóðir gervigreindar fari fram úr mannlegri greind og taki af okkur völdin.

ChatGPT er aðgengilegt öllum og mun líklega gjörbylta vinnumarkaðnum með hæfni sinni til að skrifa vel mótaðan texta og svara nánast hvaða spurningu sem er.

En þótt algóritmar gervigreindarinnar séu beinlínis byggðir á virkni mannsheilans, sýnir dæmið um gervigreindarhöfund CNETs að hann vissi í rauninni ekki hvað hann var að segja.

 

En hversu greind eru forritin í raun og veru og skyldi einhvern tíma koma að því að þau verði mönnum yfirsterkari? Sérfræðingar eru ekki á einu máli og ChatGPT hefur líka tekið þátt í rökræðunum.

 

Líkir eftir tauganeti heilans

Gervigreind er alls ekki nýtt fyrirbrigði og allar líkur benda til að þú nýtir hana daglega, svo sem ef þú notar símann til að rata rétta leið eða notar streymisþjónustu til að finna nýja þáttaröð.

Tauganetverk er byggt á lagskiptum einingum sem taka við boðum og senda þau endurbætt áfram.

Allra fyrsti vísirinn að gervigreind kom fram strax á 6. áratug 20. aldar með tölvuforritinu Logic Theorist sem var fært um að reikna stærðfræðilegar sannanir.

 

Hugmyndin spratt upp úr rannsóknum á starfsemi mannsheilans.

 

Í heilanum fær taugafruma boð frá mörgum öðrum frumum og styrkur boðanna, sem sé fjöldi frumna sem sendir frumunni sömu boð, ræður því hvort viðkomandi heilafruma sendir boð áfram til annarra frumna.

 

Vélræn tauganet gervigreindar virka að meginhluta til á sama hátt en í stað fjölda taugafrumna notar vélgreindin allmörg stig svonefndra eininga eða tengipunkta sem taka við boðum frá næsta stigi fyrir neðan og senda samræmdar niðurstöður upp í næsta lag fyrir ofan.

 

Þegar komið er upp á efsta lagið, er öllum upplýsingum safnað í einn tengipunkt sem gefur lokasvar.

Tauganetverk er byggt á lagskiptum einingum sem taka við boðum og senda þau endurbætt áfram.

Einfalt véltauganet getur t.d. hjálpað lækni að velja heppilegasta lyfið, t.d. á grundvelli kyns sjúklingsins, aldurs, blóðþrýstings og kólesteróls í blóði.

 

Áður en slíkt netverk er tekið í notkun, þjálfar læknirinn það með því að mata það á upplýsingum um fyrri sjúklinga. Þessi gervigreind á í hverju tilviki að stinga upp á rétta lyfinu og fær síðan til baka upplýsingar um hvort það er sama lyf og læknirinn hefði sjálfur valið.

 

Eftir hverja ágiskun fínstillir netverkið styrk þeirra boða sem send eru og móttekin, til að nálgast rétta niðurstöðu. Þegar netverkið hefur verið leitt í gegnum nægilega margar sjúkraskrár hefur það lært svo mikið að það getur farið að aðstoða lækninn við að velja það lyf sem hentar best fyrir nýja sjúklinga.

,,Gervigreind er sköpuð og stýrt af mönnum. Það er þess vegna undir mönnum komið að taka ábyrgð á þróuninni og notkuninni.“
ChatGPT

En að fráteknum hinum upprunalegu upplýsingum um sjúklinginn og tillögum um lyfjaval, hefur styrkur boðanna sem berast netverki forritsins engin tengsl við sjúklinginn eða læknavísindin.

 

Í rauninni gerist ekki annað en það að hnappar og straumar eru fínstilltir þannig að gervigreindin stingur á endanum upp á sama lyfi og læknirinn hefði valið sjálfur.

 

Þetta má auðveldlega færa fram sem röksemd fyrir því að gervigreindin sé í rauninni skelfilega vitlaus.

Forritið hefur hæfni til að sýnast viturt

ChatGPT hefur staðist próf sem aðeins menn ættu að standast og náð háskólaprófum. Veikleiki forritsins er sá að það veit í rauninni ekki neitt.

Vitur: Getur séð fyrir hugsanir fólks

Í tilraun sem gerð var, reyndist ChatGPT hafa hæfni níu ára barns til að sjá fyrir hvort fólk yrði fyrir vonbrigðum ef t.d. kæmi í ljós að konfektkassi væri tómur. Það sýnir vel þroskaða hæfni til að átta sig á hugsanagangi annarra.

Vitur: Hefur staðist próf í lögfræði og viðskiptum

Vísindamenn hafa lagt fyrir ChatGPT sams konar krossapróf og lögð eru fyrir stúdenta í bandarískum háskólum. Þótt forritið svaraði stundum út í hött, stóðst það lögfræðiprófið þokkalega og fékk háa einkunn í viðskiptafræði.

Vitlaus: Greinir ekki lygi frá sannleika

ChatGPT byggist ekki á raunverulegri þekkingu, heldur giskar sig áfram frá orði til orðs líkt og SMS-forrit í snjallsíma lýkur sjálfkrafa við orð. Öfugt við mannfólkið gerir spjallmennið sér ekki grein fyrir því sem það veit ekki og gerir því alvarleg mistök.

Gervigreind leitast ekki við að svara spurningum með því að greina fyrirliggjandi upplýsingar, draga rökréttar ályktanir og komast að niðurstöðu.

 

Allar aðgengilegar upplýsingar eru einfaldlega keyrðar í gegnum algóritma og útkoman verður svar sem oft reynist hárrétt, að því tilskyldu að netverkið hafi aðgang að nægilega miklum upplýsingum – en ástæðurnar má sem best kalla illskiljanlegar.

 

Talar án skilnings

Fyrirtækið OpenAI sem stendur að ChatGPT, var stofnað af Elon Musk og með milljarðafjárfestingu frá Microsoft og yfirlýst markmið er að gervigreind gagnist öllu mannkyni.

 

ChatGPT er svokallað textaforrit og hefur öðlast mikla málþjálfun til að greina hvernig setningar og textasamhengi er byggt upp.

 

Forritið mætti því kalla sérfræðing í samræðulist án þess að gera sér minnstu hugmynd um hvað verið er að ræða.

Spjallforritið getur sagt að Eiffelturninn sé í París þótt það viti ekkert um landafræði.

Véltauganet ChatGPT hefur verið þjálfað á milljónum texta af öllum hugsanlegum gerðum og forritið reynir stöðugt að giska á hvaða orð komi næst í setningunni. Slíkar spár tengjast ekki merkingu setningarinnar, heldur aðeins því hversu miklar tölfræðilíkur eru t.d. á að tvö orð standi saman eða séu notuð í sama samhengi.

 

ChatGPT þarf þannig ekki að vita neitt um landafræði til að geta tilgreint höfuðborg Frakklands.

 

Auðvitað er nauðsynlegt að forritið hafi í þjálfun sinni rekist á orðin Frakkland, höfuðborg og París en þegar það svarar spurningunni er það einvörðungu málþjálfunin sem tengir þessi orð saman í rétt svar.

ChatGPT notar málið til að finna svarið

Spjallmennið ChatGPT veit ekki hverju það svarar og skilur ekki svarið. Forritið leitar að mynstri í orðum spurningarinnar og finnur svar þar sem orðin falla að þessu mynstri.

1. Þjálfunarstigið: Setur notkun orða í kerfi

ChatGPT spjallmennið hefur verið fóðrað á milljónum texta og skipað öllum orðum upp í máltöflu. Orð notuð sem eru í sama samhengi eða standa oft tiltölulega þétt saman fá sama númer á tilteknum stöðum í máltöflunni.

Inntak: Þýðir spurninguna inn í málkerfið

Þegar ChatGPT fær spurningu, yfirfærir spjallmennið hvert orð í máltöfluna í samræmi við myndun hennar á þjálfunarstiginu. Tvö af orðunum – Frakkland og höfuðborg – fá númerið 5 og sömu staðsetningu í máltöflunni.

Úrvinnsla: Finnur samsvarandi orð í gagnagrunni

ChatGPT leitar í gagnagrunninum að orðum þar sem máltaflan fellur að mynstrinu. París reynist hafa númerið 5 á sama stað og Frakkland og höfuðborg en líka Eiffelturninn sem hefur númer 8 eins og París og á sama stað.

4. Útkoma: Mynstur í máltöflum gefa svarið

Spjallmennið hefur fundið samhengi milli Parísar, Frakklands og höfuðborgar. París tengist líka Eiffelturninum. Með málkunnáttu sinni getur spjallmennið nú gefið fullkomlega rétt orðað svar.

Þessi hæfni er ekki einskorðuð við ChatGPT. Mörg önnur textaforrit nota sömu aðferðafræði en ChatGPT byggir á mun stærri gagnagrunni varðandi orðanotkun og samhengi orða.

 

Þar fyrir utan er netverkið samsett úr gríðarlegum fjölda eininga – 175 milljörðum – sem forritið nýtir til að fínstilla og forma rétta niðurstöðu.

 

Þessi tölfræðilegi málskilningur gerir ChatGPT ekki aðeins kleift að halda uppi skynsamlegum samræðum eða finna mikilvægustu atriði í löngum texta á fáeinum sekúndum. Spjallmennið getur nýtt rökræna málþjálfun sína til að skrifa kóða fyrir tölvuforrit eða vinna markaðsgreiningar.

 

Vélarnar taka völdin

Í apríl 2023 kom út lagið „Heart on My Sleeve“ með Drake og The Weeknd sem milljónir hlustuðu á ýmist á YouTube eða TikTok. Gallinn var bara sá að söngvararnir höfðu aldrei flutt þetta lag. Raddir þeirra voru skapaðar með gervigreind.

 

Plötufyrirtækið fékk lagið reyndar nánast strax tekið af netinu en lagið hafði þó náð að sýna fram á hvers konar framtíð kynni að bíða tónlistariðnaðarins – og fleiri greina.

 

Tvö gervigreindarforrit, DALL-E sem eins og ChatGPT er þróað af OpenAI og Midjourney, geta t.d. skapað myndir af nánast hverju sem er, aðeins á grundvelli nokkurra orða og til bókaforlaga streyma nú handrit sem höfundar hafa að meira eða minna leyti skrifað með hjálp spjallmenna.

 

Það virðist því full ástæða til að sumt fólk geti hlakkað til að fá aðstoð gervigreindar við vinnu sína – en aðrir óttist að vélarnar muni leysa þá alveg af hólmi.

Heilbrigði, öryggi, samskipti og flutningar eru bara fáein þeirra sviða þar sem gervigreind skiptir máli í lífi þínu í dag, á morgun og á næstu áratugum.

Á bak við allar væntingar til þessarar nýju tækni býr þó undirliggjandi kvíði við að gervigreindin muni einn góðan veðurdag fara fram úr hugargreind manna og jafnvel þróa með sér sjálfsvitund.

 

Fræðilega séð gæti það á endanum leitt til þess að vélar með sjálfstæða hugsun taki að vinna á grundvelli eigin hagsmuna og taki öll völd af manninum. Slík ógnarsýn er vel þekkt í vísindaskáldskap og t.d. má nefna myndina The Terminator.

 

Það var af þessum sökum sem meira en þúsund vísindamenn og tæknifrumkvöðlar birtu opið bréf til ráðamanna í mars. Þar er því beint til löggjafarþinga að leggja þróun mjög öflugrar gervigreindar á ís í bili.

 

Meðal þeirra sem undirrituðu þetta opna bréf var Elon Musk sem sjálfur átti þátt í þróun ChatGPT. Bréfritararnir æskja þess að þetta þróunarhlé verði notað til að ákveða til hvers við viljum nota gervigreind og jafnframt hvernig unnt sé að setja um hana regluverk sem komi í veg fyrir að við missum stjórn á henni.

Sumir vísindamenn óttast að greindarvélar þrói sjálfstæðan vilja og taki völdin. Hugsunin er vel þekkt í vísindaskáldskap á borð við myndina The Terminator.

Aðrir sérfræðingar segja gervigreind aldrei geta öðlast sjálfsvitund sem þeir telja að krefjist tilfinninga sem ekki geti náðst með vélgreind. Án sjálfsvitundar geta forrit ekki þroskað sjálfstæðan vilja og þess vegna álíta þessir sérfræðingar útilokað að vélar muni nokkurn tíma taka af okkur völdin, alveg án tillits hve mikilli greind þær geti náð.

 

En fyrst vísindamenn eru ekki á einu máli liggur auðvitað beint við að spyrja bara ChatGPT hvort gervigreindarforrit muni einhvern tíma fara fram úr mannlegri greind. Við spurningunni fáum við vissulega skynsamlegt svar sem á hinn bóginn er líka dálítið flatneskjulegt og segir í rauninni lítið:

 

„Það er mikilvægt að hafa í huga að gervigreind er sköpuð og stýrt af mönnum. Það er þess vegna undir mönnum komið að taka ábyrgð á þróun og notkun gervigreindar þannig að hún gagnist við að leysa hnattræn vandamál á ábyrgan og siðlegan hátt.“

HÖFUNDUR: GORM PALMGREN

© Shutterstock,

Maðurinn

Munnvatnið er fullt af eitri

Maðurinn

Gæludýr koma í veg fyrir offitu og ofnæmi meðal barna

Maðurinn

Gæludýr koma í veg fyrir offitu og ofnæmi meðal barna

Náttúran

Hvernig bárust kettir til Ameríku?

Náttúran

Hvernig bárust kettir til Ameríku?

Heilsa

Læknar hafa grætt heilt auga í mann

Maðurinn

Nú geta vísindamenn ráðskast með drauma okkar

Tækni

140.000 veirutegundir hafa fundist í þarmaflórunni

NÝJASTA NÝTT

Náttúran

Krabbar hafa farið sömu ferðina 17 sinnum

Maðurinn

Er veganmatur óhollur börnum?

Náttúran

Risaeðlubeinagrind seld fyrir meira en sex milljarða króna á uppboði.

Alheimurinn

Fullt tungl 2024 – Hvenær er tunglið fullt?

Heilsa

Líkamleg snerting er mikilvæg milli föðurs og ungabarns

Maðurinn

Vísindamenn vara við langvarandi notkun á snuði

Lifandi Saga

Ísraelski vígamaðurinn: Vill lifa í friði með Palestínumönnum

Maðurinn

Er hægt að verða gráhærður á einni nóttu?

Heilsa

Hrotur geta verið vísbending um hjartasjúkdóm: Einn hópur er í sérstakri áhættu

Náttúran

Af hverju eru lauf trjáa með mismunandi lögun?

Náttúran

Krabbar hafa farið sömu ferðina 17 sinnum

Maðurinn

Er veganmatur óhollur börnum?

Náttúran

Risaeðlubeinagrind seld fyrir meira en sex milljarða króna á uppboði.

Alheimurinn

Fullt tungl 2024 – Hvenær er tunglið fullt?

Heilsa

Líkamleg snerting er mikilvæg milli föðurs og ungabarns

Maðurinn

Vísindamenn vara við langvarandi notkun á snuði

Lifandi Saga

Ísraelski vígamaðurinn: Vill lifa í friði með Palestínumönnum

Maðurinn

Er hægt að verða gráhærður á einni nóttu?

Heilsa

Hrotur geta verið vísbending um hjartasjúkdóm: Einn hópur er í sérstakri áhættu

Náttúran

Af hverju eru lauf trjáa með mismunandi lögun?

Fáðu aðgang að vÍSINDI.IS

Ókeypis í 2 vikur!

 

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

 

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Alheimurinn

Tvíburi Vetrarbrautarinnar finnst í útjaðri alheimsins

Alheimurinn

Tvíburi Vetrarbrautarinnar finnst í útjaðri alheimsins

Lifandi Saga

Hvers vegna klæddust fangar röndóttum búningum í gamla daga?

Lifandi Saga

Hvers vegna klæddust fangar röndóttum búningum í gamla daga?

Lifandi Saga

Af hverju er rússneskur bær í Noregi?

Jörðin

Leiða loftslagsbreytingar til fleiri jarðskjálfta?

Maðurinn

Heilsa okkar ræðst af blóðinu

Náttúran

Topp 5: Hvaða dýr stunda lengsta mökun?

Vinsælast

1

Alheimurinn

Fullt tungl 2024 – Hvenær er tunglið fullt?

2

Maðurinn

Vísindamenn vara við langvarandi notkun á snuði

3

Maðurinn

Er veganmatur óhollur börnum?

4

Heilsa

Líkamleg snerting er mikilvæg milli föðurs og ungabarns

5

Náttúran

Krabbar hafa farið sömu ferðina 17 sinnum

6

Náttúran

Risaeðlubeinagrind seld fyrir meira en sex milljarða króna á uppboði.

1

Alheimurinn

Fullt tungl 2024 – Hvenær er tunglið fullt?

2

Maðurinn

Er veganmatur óhollur börnum?

3

Heilsa

Líkamleg snerting er mikilvæg milli föðurs og ungabarns

4

Náttúran

Krabbar hafa farið sömu ferðina 17 sinnum

5

Náttúran

Risaeðlubeinagrind seld fyrir meira en sex milljarða króna á uppboði.

Lifandi Saga

BNA á barmi borgarastyrjaldar: Nasista-prestur vildi bylta lýðræðinu

Lifandi Saga

Bretar knúðu fram frjálsa verslun með fallbyssum

Lifandi Saga

Nasistaveiðar meðal óvina 

Lifandi Saga

Nasistar leituðu arísks menningarheims í Tíbet

Læknisfræði

Hversu gamalt er Viagra?

Maðurinn

Ný rannsókn: Áhrif framhjálds á konur koma á óvart

Maðurinn

Hve lengi hefur krabbamein hrjáð mannkynið?

Maðurinn

Við getum lifað án heilastofns

Náttúran

Vísindamenn kortleggja nú heimshöfin

Heilsa

41 næringarríkustu fæðutegundir jarðar

Menning og saga

Leynirými í 4.400 ára gömlum egypskum pýramída

Heilsa

Vísindamenn hafa fundið mikilvægan eiginleika sem er sameiginlegur öllum sem náð hafa 100 ára aldri.

Krabbar hafa farið sömu ferðina 17 sinnum

Krabbinn er sannkallaður brautryðjandi þegar kemur að því að leggja undir sig ný landsvæði.

Náttúran

ÁSKRIFT AÐ VÍSINDI.IS

Prófaðu í 14 daga ókeypis!

  • Fullur aðgangur að vefnum okkar með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Lifandi vísindi/Lifandi saga í rafrænni útgáfu á vefnum,
  • Aðeins 1.690 krónur á mánuði.
  • Engin skuldbinding – Þú getur hætt hvenær sem er.

ÁSKRIFT AÐ TÍMARITINU

Þrjú tölublöð + gjöf: Skemmtilegur sjónauki
  • Þrjú næstu tölublöð Lifandi vísinda/Lifandi sögu – sent heim til þín – eins færðu lítinn og vandaðan sjónauka að gjöf.
  • Fullur aðgangur að vefnum okkar – visindi.is – með tæplega 3000 skemmtilegum og spennandi greinum um allt milli himins og jarðar á sviði vísinda og sögu.
  • Spennandi greinar og flottar myndir sem svala forvitni þinni.
  • Þú getur hætt eftir tilboðið en ef þú heldur áfram skuldbindur þú þig aðeins þrjú tölublöð í einu og þú getur sagt upp hvenær sem sem og klárar þá tímabilið sem er hafið.
  • Venjuleg áskrift – þrjú tölublöð – kostar aðeins 7.590 kr

Sjónauki og þriggja blaða áskrift – Alls 3.800 kr.

Lifandi vísindi

Lyf

Lifandi saga

Search

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Innskráning

Ertu áskrifandi að tímaritinu?

Áskrifendur að tímaritinu geta fengið frían aðgang að vefnum hér.

Viltu lesa greinina?

Fáðu aðgang að visindi.is

Ókeypis í 2 vikur!

Eftir það kostar eingöngu 1.390 kr. á mánuði og enginn uppsagnarfrestur.

Innifalið er aðgangur að öllum greinum á vefnum ásamt rafræna útgáfu af nýjustu tölublöðunum.

  • Fullur aðgangur að visindi.is
  • Frábærar myndir og myndbönd
  • Aðgengilegt í öllum snjalltækjum
  • Fullur aðgangur að gríðarlegu magni eldri greina
  • Nýjustu tölublöðin í rafrænu formi

Núverandi áskrifendur að tímaritinu fá að sjálfsögðu ókeypis aðgang að vefnum og þurfa bara að virkja aðgang sinn hér.

Ef þú ert þegar áskrifandi að visindi.is