Á bandaríska tæknimiðlinum CNET tóku árið 2022 að birtast greinar undir höfundarnafninu „CNET Money Staff.“ Greinarnar voru fremur flatneskjulegar í málfari og fullar af þekktum frösum en virtust í stórum dráttum ekkert frábrugðnar öðrum greinum sem þar birtust.
En fljótlega kom að því að lesendur fóru að reka augun í villur sem þóttu benda til þess að höfundinn skorti grundvallarþekkingu á hagfræði; t.d. hélt CNET Money Staff því fram að 3% ávöxtun af 10.000 dollara höfuðstól væri 10.300 dollarar á ári. Hið rétta er auðvitað 300 dollarar.
Og að lokum birtist játning frá CNET: Höfundurinn var ekki af holdi og blóði, heldur gervigreindarforrit.
Vélgreindarforritið ChatGPT sem bandaríska tæknifyrirtækið OpenAI kynnti til sögunnar í nóvember 2022 hefur vakið bæði undrun og aðdáun með hæfni sinni til að tjá sig óaðfinnanlega um hvað sem vera skal, jafnvel á ýmsum tungumálum. Þó er þetta aðeins eitt svið af mörgum þar sem nýþróuð gervigreind gerir sig gildandi. Slík forrit geta nú skapað sannfærandi myndir og samið tónlist.
Margir vænta þess að gervigreindin muni gjörbylta vinnumarkaði án tillits til hversu góðar eða slæmar afleiðingarnar verða. Sumir óttast jafnvel að framtíðarkynslóðir gervigreindar fari fram úr mannlegri greind og taki af okkur völdin.
ChatGPT er aðgengilegt öllum og mun líklega gjörbylta vinnumarkaðnum með hæfni sinni til að skrifa vel mótaðan texta og svara nánast hvaða spurningu sem er.
En þótt algóritmar gervigreindarinnar séu beinlínis byggðir á virkni mannsheilans, sýnir dæmið um gervigreindarhöfund CNETs að hann vissi í rauninni ekki hvað hann var að segja.
En hversu greind eru forritin í raun og veru og skyldi einhvern tíma koma að því að þau verði mönnum yfirsterkari? Sérfræðingar eru ekki á einu máli og ChatGPT hefur líka tekið þátt í rökræðunum.
Líkir eftir tauganeti heilans
Gervigreind er alls ekki nýtt fyrirbrigði og allar líkur benda til að þú nýtir hana daglega, svo sem ef þú notar símann til að rata rétta leið eða notar streymisþjónustu til að finna nýja þáttaröð.
Tauganetverk er byggt á lagskiptum einingum sem taka við boðum og senda þau endurbætt áfram.
Allra fyrsti vísirinn að gervigreind kom fram strax á 6. áratug 20. aldar með tölvuforritinu Logic Theorist sem var fært um að reikna stærðfræðilegar sannanir.
Hugmyndin spratt upp úr rannsóknum á starfsemi mannsheilans.
Í heilanum fær taugafruma boð frá mörgum öðrum frumum og styrkur boðanna, sem sé fjöldi frumna sem sendir frumunni sömu boð, ræður því hvort viðkomandi heilafruma sendir boð áfram til annarra frumna.
Vélræn tauganet gervigreindar virka að meginhluta til á sama hátt en í stað fjölda taugafrumna notar vélgreindin allmörg stig svonefndra eininga eða tengipunkta sem taka við boðum frá næsta stigi fyrir neðan og senda samræmdar niðurstöður upp í næsta lag fyrir ofan.
Þegar komið er upp á efsta lagið, er öllum upplýsingum safnað í einn tengipunkt sem gefur lokasvar.
Tauganetverk er byggt á lagskiptum einingum sem taka við boðum og senda þau endurbætt áfram.
Einfalt véltauganet getur t.d. hjálpað lækni að velja heppilegasta lyfið, t.d. á grundvelli kyns sjúklingsins, aldurs, blóðþrýstings og kólesteróls í blóði.
Áður en slíkt netverk er tekið í notkun, þjálfar læknirinn það með því að mata það á upplýsingum um fyrri sjúklinga. Þessi gervigreind á í hverju tilviki að stinga upp á rétta lyfinu og fær síðan til baka upplýsingar um hvort það er sama lyf og læknirinn hefði sjálfur valið.
Eftir hverja ágiskun fínstillir netverkið styrk þeirra boða sem send eru og móttekin, til að nálgast rétta niðurstöðu. Þegar netverkið hefur verið leitt í gegnum nægilega margar sjúkraskrár hefur það lært svo mikið að það getur farið að aðstoða lækninn við að velja það lyf sem hentar best fyrir nýja sjúklinga.
,,Gervigreind er sköpuð og stýrt af mönnum. Það er þess vegna undir mönnum komið að taka ábyrgð á þróuninni og notkuninni.“
ChatGPT
En að fráteknum hinum upprunalegu upplýsingum um sjúklinginn og tillögum um lyfjaval, hefur styrkur boðanna sem berast netverki forritsins engin tengsl við sjúklinginn eða læknavísindin.
Í rauninni gerist ekki annað en það að hnappar og straumar eru fínstilltir þannig að gervigreindin stingur á endanum upp á sama lyfi og læknirinn hefði valið sjálfur.
Þetta má auðveldlega færa fram sem röksemd fyrir því að gervigreindin sé í rauninni skelfilega vitlaus.
Forritið hefur hæfni til að sýnast viturt
ChatGPT hefur staðist próf sem aðeins menn ættu að standast og náð háskólaprófum. Veikleiki forritsins er sá að það veit í rauninni ekki neitt.
Vitur: Getur séð fyrir hugsanir fólks
Í tilraun sem gerð var, reyndist ChatGPT hafa hæfni níu ára barns til að sjá fyrir hvort fólk yrði fyrir vonbrigðum ef t.d. kæmi í ljós að konfektkassi væri tómur. Það sýnir vel þroskaða hæfni til að átta sig á hugsanagangi annarra.
Vitur: Hefur staðist próf í lögfræði og viðskiptum
Vísindamenn hafa lagt fyrir ChatGPT sams konar krossapróf og lögð eru fyrir stúdenta í bandarískum háskólum. Þótt forritið svaraði stundum út í hött, stóðst það lögfræðiprófið þokkalega og fékk háa einkunn í viðskiptafræði.
Vitlaus: Greinir ekki lygi frá sannleika
ChatGPT byggist ekki á raunverulegri þekkingu, heldur giskar sig áfram frá orði til orðs líkt og SMS-forrit í snjallsíma lýkur sjálfkrafa við orð. Öfugt við mannfólkið gerir spjallmennið sér ekki grein fyrir því sem það veit ekki og gerir því alvarleg mistök.
Gervigreind leitast ekki við að svara spurningum með því að greina fyrirliggjandi upplýsingar, draga rökréttar ályktanir og komast að niðurstöðu.
Allar aðgengilegar upplýsingar eru einfaldlega keyrðar í gegnum algóritma og útkoman verður svar sem oft reynist hárrétt, að því tilskyldu að netverkið hafi aðgang að nægilega miklum upplýsingum – en ástæðurnar má sem best kalla illskiljanlegar.
Talar án skilnings
Fyrirtækið OpenAI sem stendur að ChatGPT, var stofnað af Elon Musk og með milljarðafjárfestingu frá Microsoft og yfirlýst markmið er að gervigreind gagnist öllu mannkyni.
ChatGPT er svokallað textaforrit og hefur öðlast mikla málþjálfun til að greina hvernig setningar og textasamhengi er byggt upp.
Forritið mætti því kalla sérfræðing í samræðulist án þess að gera sér minnstu hugmynd um hvað verið er að ræða.
Spjallforritið getur sagt að Eiffelturninn sé í París þótt það viti ekkert um landafræði.
Véltauganet ChatGPT hefur verið þjálfað á milljónum texta af öllum hugsanlegum gerðum og forritið reynir stöðugt að giska á hvaða orð komi næst í setningunni. Slíkar spár tengjast ekki merkingu setningarinnar, heldur aðeins því hversu miklar tölfræðilíkur eru t.d. á að tvö orð standi saman eða séu notuð í sama samhengi.
ChatGPT þarf þannig ekki að vita neitt um landafræði til að geta tilgreint höfuðborg Frakklands.
Auðvitað er nauðsynlegt að forritið hafi í þjálfun sinni rekist á orðin Frakkland, höfuðborg og París en þegar það svarar spurningunni er það einvörðungu málþjálfunin sem tengir þessi orð saman í rétt svar.
ChatGPT notar málið til að finna svarið
Spjallmennið ChatGPT veit ekki hverju það svarar og skilur ekki svarið. Forritið leitar að mynstri í orðum spurningarinnar og finnur svar þar sem orðin falla að þessu mynstri.
1. Þjálfunarstigið: Setur notkun orða í kerfi
ChatGPT spjallmennið hefur verið fóðrað á milljónum texta og skipað öllum orðum upp í máltöflu. Orð notuð sem eru í sama samhengi eða standa oft tiltölulega þétt saman fá sama númer á tilteknum stöðum í máltöflunni.
Inntak: Þýðir spurninguna inn í málkerfið
Þegar ChatGPT fær spurningu, yfirfærir spjallmennið hvert orð í máltöfluna í samræmi við myndun hennar á þjálfunarstiginu. Tvö af orðunum – Frakkland og höfuðborg – fá númerið 5 og sömu staðsetningu í máltöflunni.
Úrvinnsla: Finnur samsvarandi orð í gagnagrunni
ChatGPT leitar í gagnagrunninum að orðum þar sem máltaflan fellur að mynstrinu. París reynist hafa númerið 5 á sama stað og Frakkland og höfuðborg en líka Eiffelturninn sem hefur númer 8 eins og París og á sama stað.
4. Útkoma: Mynstur í máltöflum gefa svarið
Spjallmennið hefur fundið samhengi milli Parísar, Frakklands og höfuðborgar. París tengist líka Eiffelturninum. Með málkunnáttu sinni getur spjallmennið nú gefið fullkomlega rétt orðað svar.
Þessi hæfni er ekki einskorðuð við ChatGPT. Mörg önnur textaforrit nota sömu aðferðafræði en ChatGPT byggir á mun stærri gagnagrunni varðandi orðanotkun og samhengi orða.
Þar fyrir utan er netverkið samsett úr gríðarlegum fjölda eininga – 175 milljörðum – sem forritið nýtir til að fínstilla og forma rétta niðurstöðu.
Þessi tölfræðilegi málskilningur gerir ChatGPT ekki aðeins kleift að halda uppi skynsamlegum samræðum eða finna mikilvægustu atriði í löngum texta á fáeinum sekúndum. Spjallmennið getur nýtt rökræna málþjálfun sína til að skrifa kóða fyrir tölvuforrit eða vinna markaðsgreiningar.
Vélarnar taka völdin
Í apríl 2023 kom út lagið „Heart on My Sleeve“ með Drake og The Weeknd sem milljónir hlustuðu á ýmist á YouTube eða TikTok. Gallinn var bara sá að söngvararnir höfðu aldrei flutt þetta lag. Raddir þeirra voru skapaðar með gervigreind.
Plötufyrirtækið fékk lagið reyndar nánast strax tekið af netinu en lagið hafði þó náð að sýna fram á hvers konar framtíð kynni að bíða tónlistariðnaðarins – og fleiri greina.
Tvö gervigreindarforrit, DALL-E sem eins og ChatGPT er þróað af OpenAI og Midjourney, geta t.d. skapað myndir af nánast hverju sem er, aðeins á grundvelli nokkurra orða og til bókaforlaga streyma nú handrit sem höfundar hafa að meira eða minna leyti skrifað með hjálp spjallmenna.
Það virðist því full ástæða til að sumt fólk geti hlakkað til að fá aðstoð gervigreindar við vinnu sína – en aðrir óttist að vélarnar muni leysa þá alveg af hólmi.
Heilbrigði, öryggi, samskipti og flutningar eru bara fáein þeirra sviða þar sem gervigreind skiptir máli í lífi þínu í dag, á morgun og á næstu áratugum.
Á bak við allar væntingar til þessarar nýju tækni býr þó undirliggjandi kvíði við að gervigreindin muni einn góðan veðurdag fara fram úr hugargreind manna og jafnvel þróa með sér sjálfsvitund.
Fræðilega séð gæti það á endanum leitt til þess að vélar með sjálfstæða hugsun taki að vinna á grundvelli eigin hagsmuna og taki öll völd af manninum. Slík ógnarsýn er vel þekkt í vísindaskáldskap og t.d. má nefna myndina The Terminator.
Það var af þessum sökum sem meira en þúsund vísindamenn og tæknifrumkvöðlar birtu opið bréf til ráðamanna í mars. Þar er því beint til löggjafarþinga að leggja þróun mjög öflugrar gervigreindar á ís í bili.
Meðal þeirra sem undirrituðu þetta opna bréf var Elon Musk sem sjálfur átti þátt í þróun ChatGPT. Bréfritararnir æskja þess að þetta þróunarhlé verði notað til að ákveða til hvers við viljum nota gervigreind og jafnframt hvernig unnt sé að setja um hana regluverk sem komi í veg fyrir að við missum stjórn á henni.
Sumir vísindamenn óttast að greindarvélar þrói sjálfstæðan vilja og taki völdin. Hugsunin er vel þekkt í vísindaskáldskap á borð við myndina The Terminator.
Aðrir sérfræðingar segja gervigreind aldrei geta öðlast sjálfsvitund sem þeir telja að krefjist tilfinninga sem ekki geti náðst með vélgreind. Án sjálfsvitundar geta forrit ekki þroskað sjálfstæðan vilja og þess vegna álíta þessir sérfræðingar útilokað að vélar muni nokkurn tíma taka af okkur völdin, alveg án tillits hve mikilli greind þær geti náð.
En fyrst vísindamenn eru ekki á einu máli liggur auðvitað beint við að spyrja bara ChatGPT hvort gervigreindarforrit muni einhvern tíma fara fram úr mannlegri greind. Við spurningunni fáum við vissulega skynsamlegt svar sem á hinn bóginn er líka dálítið flatneskjulegt og segir í rauninni lítið:
„Það er mikilvægt að hafa í huga að gervigreind er sköpuð og stýrt af mönnum. Það er þess vegna undir mönnum komið að taka ábyrgð á þróun og notkun gervigreindar þannig að hún gagnist við að leysa hnattræn vandamál á ábyrgan og siðlegan hátt.“
