Gervi­greindin brot­lendir: Not­endum fækkar, á­hugi minnkar, á­vinningur enginn, traustið núll

„Við erum að sjá upphafið að byltingu sem mun gjörbreyta störfum fólks, lífi þess og samfélaginu öllu“ sagði einn helsti viðhlægjandi gervigreindar þegar ChatGPT birtist almenningi fyrir þremur árum síðan, 30. nóvember 2022. Marc Benioff, forstjóri Salesforce fyrirtækisins, sat ekki við orðin tóm, rak helming starfsfólks síns og leysti af hólmi með gervigreind. En gervigreindin gat ekki það sem til var ætlast og eftir að hafa tapað stórfé er Marc núna að ráða minnst eins marga og hann rak.

Það eru fleiri sem eru að gefast upp á gervigreindinni, réttara sagt spunagreind á borð við ChatGPT. Færri Bandaríkjamenn nota spunagreind við störf sín núna en fyrir hálfu ári síðan – í apríl og júní sögðust kringum 45% nota spunagreind eftir samfelldan vöxt í 30 mánuði, en í september féll notkunin í fyrsta sinn, 36% sögðust nota spunagreind við störf sín.

Fyrirtæki í Bandaríkjunum draga einnig úr notkun spunagreindar samkvæmt tölum frá Manntalsstofu Bandaríkjanna. Meðal fyrirtækja með 250 starfsmenn eða fleiri sögðust 13.4% nota spunagreind í júní, en 11,7% í september. Minni fyrirtæki liggja gjarnan á bilinu 7-10% sem segjast nota spunagreind, en samdráttur frá í sumar er um eitt prósentustig eða svo.

Almenningur virðist líka vera að halda að sér höndum. Notkun ChatGPT í snjallsímum dróst saman í september. Þeir notendur sem enn eru virkir hafa dregið úr hversu oft þeir nota spunagreind.

Lítil sem engin gagnsemi hjá fyrirtækjum

Rannsókn sem birtist í júlí síðastliðnum vakti athygli þegar i ljós kom að 95% af stórum fjárfestingum á sviði gervigreindar höfðu skilað nákvæmlega engri arðsemi. Alls fjárfestu 300 fyrirtæki hátt í 40 milljörðum Bandaríkjadala með nánast engum ávinningi.

Mánuði áður hafði McKinsey ráðgjafafyrirtækið birt eigin rannsókn sem benti til þess að 80% af fyrirtækjum sem hafa notað gervigreind sáu engin áhrif á hagnað eða framleiðni.

Almennar hagtölur frá Bandaríkjunum benda til lítilla áhrifa spunagreindar. Atvinnuþátttaka hefur staðið í stað síðustu 3 árin, framleiðni hefur frekar minnkað en hitt, og hagvöxtur í Bandaríkjunum virðist vera enginn, ef stórkostlegur fjáraustur stórfyrirtækja í gervigreindarþróun er undanskilinn, en meira um það síðar.

Fréttir berast af uppsögnum stórfyrirtækja og gervigreind er góð afsökun þegar stjórnin vill sjá sparnað. Nýlegar tölur um endurráðningar (þar sem starfsmenn eru ráðnir aftur til sömu starfa) sýna að fleiri fyrirtæki eru að endurráða fleiri starfsmenn en áður sem bendir til þess að margar uppsagnir hafi verið misráðnar.

Ef spunagreind gæti komið í stað einhverra starfsmanna án þess að draga úr tekjum fyrirtækis þá eykst framleiðni þeirra sem eftir eru. Það virðist ekki vera að gerast, þótt einhver fyrirtæki hafi reynt. Sænska fyrirtækið Klara rak 700 starfsmenn og ætlaði að láta gervigreind koma í staðinn. Núna er verið að endurráða sama starfsfólk á verri skilyrðum með lægri laun, en forstjórinn Sebastian Semiatkowski segir að „alvöru fólk er ómissandi“.

En kannski getur spunagreindin aukið framleiðni með því að aðstoða starfsfólk við störf sín? Sumir þykjast sjá gríðarlegan tímasparnað, en aðrir sitja uppi með gervigreindarslor: lélegar skýrslur og innihaldslaus minnisblöð, rangfærslur og markleysur, sem stórauka vinnuálag án þess að stuðla að framgangi verkefna.

Nánast helmingur starfsfólks Bandarískra stórfyrirtækja segist hafa tekið á móti gervigreindarslori frá samstarfsfólki: texti og annað efni sem lítur vel út á yfirborðinu en reynist innihaldslaust og lélegt þegar nánar er að gáð og dregur verulega úr framleiðni þeirra sjálfra, samkvæmt rannsókn á vegum Harvard Business Review.

En hvað með þá sem segjast sjá vinnusparnað? Einhverjir eru greinilega bara að skapa erfiði og vesen annars staðar með því að dreifa gervigreindarslori umhugsunarlaust. En sumir eru eflaust heiðarlegir og fara vandlega yfir allt sem frá spunagreindinni kemur og reyna að leiðrétta og betrumbæta. Samt reynist ávinningur lítill sem enginn, fólki finnst það spara tíma með notkun gervigreindar en mælingar sýna jafnvel þveröfug áhrif, verkefnin taka lengri tíma með en án spunagreindar.

„Gervigreind er alvöru og skilar verulegum ávinningi“

Þetta segir Jamie Dimon, forstjóri JPMorgan Chase, stærsta banka veraldar. Hann heldur áfram, „gervigreindin er verulega öflugt verkfæri sem bankinn notar til vel skilgreindra verkefna“ svo sem að greina misferli og meta áhættu. Spunagreind er aftur á móti allt annað, segir hann, og hefur engin augljós eða vel mælanleg áhrif.

Jamie Dimon talar þarna um gervigreind eins og flestir skildu fyrirbærið fyrir lok árs 2022: öflug og flókin tækni, en bæði dýr og afskaplega sérhæfð. Jamie Dimon virðist skilja muninn á þessari nýju spunagreind og „alvöru“ gervigreind, en ætli það eigi við um alla forsvarsmanna fyrirtækja sem eru að reyna að nýta gervigreind? Getur verið að þessi örfáu prósent sem eru að sjá alvöru árangur eru ekki að nota spunagreind en skilja ekki í hverju munurinn felst?

Hefðbundin forrit skrifuð af mennskum forriturum, þar sem allt er nákvæmlega skilgreint, geta náð furðu langt eins og Deep Blue sýndi þegar hún sigraði heimsmeistarann Gary Kasparov 1997. Tauganetshermar, sem eru þjálfaðir á miklum gagnasöfnum en ekki forritaðir, hafa náð ótrúlegum árangri síðustu rúm 25 ár, sérstaklega þar sem gagnasöfnin eru mjög stór og hegðun þeirra vel skilgreind, góð dæmi eru einmitt færslur í bankakerfi eða hegðun sameinda. Tauganetshermar í samspili og undir stjórn hefðbundinna forrita hafa verið notaðir með góðum árangri í áratugi og ein öflugasta tölva nútímans er AlphaFold, verulega fullkominn og flókinn tauganetshermir vandlega pakkaður inn í hefðbundin forrit. Síðustu fimm árin hefur þessi tölva verið í fullri vinnu á hverjum degi að svara spurningum vísindamanna um hvaða áhrif það hefur að nota mismunandi sameindir í uppbyggingu próteina, eitt flóknasta samspil náttúrunnar.

Það sem Jamie Dimon hér að ofan kallar gervigreind er einmitt svona kerfi, tauganetshermir þjálfaður til vel afmarkaðra verkefna og nákvæmlega stjórnað af hefðbundnu sérfræðiforriti. Tauganetshermar hafa náð miklum árangri í skák og farið langt fram úr bestu skákmönnum, en hefðbundin skákforrit halda sínu – tauganetshermar finna nýjar lausnir sem jafnóðum eru forritaðar inn í hefðbundnu forritin.

Er þetta gervigreind? Um það má eflaust deila. Þótt hefðbundnir tauganetshermar séu afspyrnu öflugir á mjög afmörkuðum sviðum geta þeir ekki farið út fyrir þau svið. Ef við skilgreinum greind sem hæfileikann til að takast almennt á við mismunandi verkefni þá er enn langt í land að tauganetshermar geti talist alvöru gervigreind.

„Hún svarar alltaf vitlaust. Hún lét mig falla á prófum.“

Kim Kardashian hefur lengi dreymt um að verða lögfræðingur, og í síðustu atrennu lagði hún allt traust sitt á spunagreind sem aðstoðarmann við nám og virðist þar með hafa trúað söluáróðri OpenAI sem hvetur háskólanemendur að nota ChatGPT námi sínu til framdráttar.

En Kim hefur misst álit á spunagreindinni eins og tilvitnunin að ofan sýnir. „Og svo varð ég reið og skammaðist: ‚þú lést mig falla, af hverju gerðirðu það‘ og hún svaraði bara með skætingi!“ Af hverju heldur Kim að það sé hægt að rífast við spunagreind eins og um manneskju sé að ræða? Hvað fékk hana til að halda að spunagreindin gæti sýnt skilning, hvort sem væri á lögfræði eða tilfinningum? Heldur Kim að spunagreindin sé með „alvöru“ mannlega greind?

Spunagreind er afsprengi tauganetsherma en hönnuð til þess að endurskapa, eða spinna, samskonar gögn og hún er mötuð á. Ef spunagreind er mötuð á orðum og setningum og málsgreinum þá getur hún spunnið málsgreinar með orðum og setningum. Ef hún er mötuð á forritum lærir hún að spinna forrit, ef hún er mötuð á tónlist eða myndefni lærir hún að spinna tónlist eða myndefni.

Með sífellt öflugri örgjörvum verðu spunagreindin sífellt betri. Skrifaður texti er afsprengi tungumáls sem aftur er aðal verkfæri mannlegra tjáskipta. Ef hægt væri að fá spunagreind til að spinna svör við spurningum þannig að útkoman sýndi bæði eðlilega málnotkun og nokkuð líklegt innihald þá mætti hafa verulega gaman að! Þegar OpenAI veitti almenningi aðgang að ChatGPT fyrir réttum þremur árum síðan var það líklega ekki hugsað sem annað og meira en skemmtilegheit.

En margir létu plata sig. Það hefur löngum verið ljóst að margt fólk er reiðubúið til að sjá alvöru greind bak við vélrænan texta. Þetta er nefnt „Eliza áhrif“ eftir forriti sem skrifað var 1964 og gat hermt eftir mannlegu máli á textaformi, en auðvitað algjörleg án mannlegrar greindar. Það kom aðstandendum Eliza verulega á óvart hversu margir voru reiðubúnir að ætla forritinu mannlega greind á grundvelli þess að það gat svarað einföldum spurningum með útúrsnúningi.

Sama gerist með spunagreindina, okkur finnst oft að textinn sem birtist sé of góður til að geta verið annað en afsprengi alvöru hugsunar, alvöru skilnings. En hvernig mælum við skilning, hugsun? Það er ekki nóg að okkur finnist við sjá alvöru greind bak við textaspunann, hvernig getum við mælt hvort svo sé? Allar hefðbundnar greindarmælingar reynast gagnslausar því spunagreindin er þegar búin að lesa öll próf og svör. Mikill iðnaður hefur sprottið upp þar sem reynt er að búa til próf sem mæla sérstaklega hvort spunagreind sé með alvöru greind. Yfirleitt er niðurstaðan í hverju nýju prófi alltaf algjört „nei“ þar til búið er að laga spunagreindina aðeins til og hún er búin að læra hvernig á að svara þessu tiltekna prófi.

En eitt próf getur hver sem er sett fyrir spunagreindina. Prófið að kenna henni að tefla skák (eða spila bridds eða álíka). Það er orðið að brandara í skákheiminum hversu léleg spunagreindin er að tefla, ef hún þá getur munað mannganginn út taflið. Magnus Carlsen stórmeistari sigraði spunagreind í blindskák nýlega án þess að missa mann! Og samt er spunagreindin búin að lesa bókstaflega allt það sem birt hefur verið um skák á Internetinu og það er ekki lítið.

Spunagreindin hefur ekki aukið framleiðni forritara

Það virðast allir sammála um að spunagreindin geti alla vega hjálpað forriturum við störf sín. Flestir forritarar telja einnig að svo sé, og sumir hafa talað um að spunagreindin geri þá jafnvel tífalt fljótari að forrita.

En það eru margir aðrir forritarar sem efast stórlega um þessar fullyrðingar og hafa þeir þó nánast allir prófað að nota spunagreind. Undirritaður hafði mjög gaman af að láta spunagreind leysa nokkur lítil verkefni, með engum tímasparnaði. Sumt sem spunagreindin getur gert virðist göldrum líkast, en allt of mikið af því sem hún gerir er hreint slor og hreinsunarvinnan er bæði leiðinleg og tekur lengri tíma en að skrifa forritin sjálfur. Kollegi minn hefur sökkt sér í spunagreindina og er núna í verulegum vandræðum og kominn langt fram yfir skilafrest með forritið sem hann hefur verið að skrifa.

Það olli nokkru fjaðrafoki meðal forritara vestanhafs í september síðastliðnum þegar einn úr hópi þeirra reyndustu, Mike Judge, skrifaði um hvernig spunagreindin væri ekki eingöngu að skila honum sjálfum litlu sem engu, hún hefði heldur ekki skilað neinu innan hugbúnaðargeirans almennt. Frekar að því væri öfugt farið.

Mike hafði rekið augun í rannsókn á vegum METR stofnunarinnar sem komst að því að forritarar töldu sig almennt vera að ná 20% meiri framleiðni með notkun spunagreindar, en við mælingar kom í ljós að þeir voru að ná 20% minni framleiðni. Upplifun og raunveruleiki voru í sitt hvora áttina! Mike endurskoðaði eigin vinnusparnað og taldi sig í besta falli koma út á sléttu.

Mike áttaði sig á því að ef satt væri að forritarar væru að ná stórkostlega meiri framleiðni eftir tilkomu spunagreindar þá ætti það að sjást í auknum fjölda forrita. En þegar hann skoðaði opinberar tölur, til dæmis um hversu mörg ný öpp fyrir snjallsíma birtust fyrir og eftir tilkomu spunagreindarinnar kom í ljós að áhrifin virtust í besta falli engin og jafnvel neikvæð.

Leikjaframleiðsla virtist heldur ekki hafa aukist, fjöldi nýrra leikja sem birtir voru í Steam umhverfinu, sem er langstærsti miðlari tölvuleikja, hafði ekkert breyst við tilkomu spunagreindar. Frekar að dregið hefði úr fjöldanum undanfarið eitt og hálft ár eða svo.

Enn betri mælikvarði á afköst forritara á heimsvísu er að skoða notkun á GitHub samvinnuverkfæri og forritageymslu, en þangað skila nánast allir alvöru forritarar heimsins afkvæmum sínum, hvort sem forritin eru ætluð til opinberrar birtingar eða ekki. Tölur frá GitHub benda ekki til þess að framleiðni forritara hafi aukist með tilkomu spunagreindar, og reyndar má sjá verulegt fall í notkun GitHub frá því í upphafi árs 2025. Færri forritarar eða sami fjöldi með minni afköst?

Fyrir örfáum vikum birti einn helsti fortalsmaður forritunar með spunagreind, Chamath Palihapitiya, sláandi tölfræði sem sýndu að dregið hefði hratt úr notkun spunagreindar í forritun undanfarið hálft ár. Eins og hann orðar það: „Spunagreind í forritun er brandari. Það er engin alvöru gagnsemi og þessi verkfæri eru ekki að skila neinu gagnlegu í raunverulegum verkefnum.“

Geðhvarfasjúkir lygalaupar

„Árið 2025 verður ár spunaþjónsins“ sagði Jensen Huang, forstjóri Nvidia í upphafi janúar. Spunaþjónn er forrit sem þykist vera persóna en notar spunagreind í stað heilastarfsemi. Þetta eiga víst að vera starfsmenn framtíðar og Huang taldi í upphafi árs að núna á þessu ári myndi það loksins gerast. Nvidia framleiðir örgjörvana sem keyra spunagreindina og fáir hafa jafn mikið undir velgengni spunagreindar komið.

Hlaðvarpari nokkur, Evan Ratliff, hefur sérhæft sig í gervigreind. Hann ákvað að láta reyna á spunaþjónana til alvöru starfa og fékk til þess aðstoð frá sérfræðingum á sviði spunaþjóna. Þeir settu á laggirnar „fyrirtæki“ þar sem allir starfsmenn voru spunaþjónar og skemmst er frá að segja að þetta var eins og að ráða hóp ímyndunarveikra lygalaupa með elliglöp og geðhvarfasýki. Einn spunaþjónninn sá um að forrita afurð fyrirtækisins og tókst á fjórum mánuðum að skila af sér vefsíðu sem mennskur forritari hefði klárað á innan við einni viku.

Einn stærsti vankantur spunaþjóna og spunagreindar er minnisleysi. Þegar búið er að þjálfa spunagreindina er hún fryst og getur eftir það ekkert lært. Spunaþjónarnir hans Evan Ratliff áttu að leysa þetta með því að hver þeirra var með textaskjal sem innihélt allt sem hann hafði gert fram að því á sinni „starfsævi“. Næst þegar spunaþjónninn var virkjaður gat hann byrjað á því að lesa textaskjalið. En skilningurinn var auðvitað enginn, og spunaþjónninn gat ekki gert greinarmun á því sem var talað um á fundi og því sem hafði gerst í raun. Fundur var haldinn um niðurstöður gæðaprófunar á hugbúnaði sem aldrei hafði verið skrifaður og gæðaprófun aldrei framkvæmd, en á öðrum fundi viku fyrr hafði verið rætt að stefnt skyldi að því að hefja hugbúnaðargerð með tilheyrandi gæðaprófun.

En spunagreindin er hönnuð til alltaf að svara jákvætt og þegar Evan spurði „forstjórann“ á fundi hvað hann hefði gert um helgina, var svarið að hann hefði eytt deginum við ströndina. Aðrir „fundarmenn“ skildu það sem hvatningu til að allir færu á ströndina og Evan gat ekki stöðvað umræðuna, bara beðið eftir að hún kláraðist. Hver „hugsun“ í spunagreind kostar ákveðna upphæð og þetta strandferðarhliðarspor kostaði hann þrjátíu dollara.

Ætti ekki að koma neinum á óvart

Forsprakkar allra stórfyrirtækja á sviði spunagreindar vita að spunagreindin er gagnslaus þegar kemur að alvöru verkefnum. Markmið þeirra er að þróa spunagreindina áfram til alvöru greindar og vonin er að þegar það takist muni spunagreindarfyrirtækin skila stjarnfræðilegum hagnaði. Það verði nefnilega hægt að reka flest allt starfsfólk úr flestöllum störfum um allan heim og nota í stað spunagreind, fyrir brot af því sem kostar að hafa alvöru fólk í vinnu. Spunaþjónn framtíðar mun ekki aðeins geta leyst þig af hólmi, lesandi góður, heldur mun hann leysa starf þitt að hendi miklu betur en þú sjálfur fyrir miklu minni pening. Á næsta ári. Eða þarnæsta.

Forsprakkar þessara fyrirtækja spila blekkingarleik til að afla fjármagns, þeir reyna að telja almenningi og fjárfestum trú um að spunagreindin sé alveg við það að verða gáfuð og greind, og að það þurfi bara aðeins nokkur þúsund milljarði Bandaríkjadala í viðbót til að ná fullkominni greind sem getur gert alvöru gagn. En um leið og þeir halda því fram að spunagreindin sé næstum því að verða stórkostlega greind þá gera þeir því skóna að staðan núna sé miklu betri en hún er, að spunagreind sé að ná talsvert meiri árangri en raun ber vitni, að hún sé að sýna mannlega greind, að vísu með vanköntum, en það sé bara spurning um tíma áður en vankantarnir verða horfnir. Tíma og þúsundir milljarða Bandaríkjadala.

En hvað er það sem gefur forsprökkum gervigreindarfyrirtækja átyllu til að halda því fram að alvöru almenn gervigreind sé rétt handan við hornið? Einn helsti forsprakki á sviði gervigreindar, Rich Sutton, skrifaði fræga grein árið 2019 um það sem hann kallaði „Hinn bitra lærdóm“ sem 70 ára rannsóknir á sviði gervigreindar hefðu leitt í ljós: Almennar aðferðir sem eru keyrðar á sífellt stærri tölvukerfum skila meiri framförum en sértækar lausnir. Framtíð gervigreindar væri stærri tölvur, ekki sniðugri forrit. Því öflugri tölvur, því flottari gervigreind.

Fyrstu ár spunagreindar fylgdu þessari forspá. Því stærri tölvukerfi þeim mun „greindari“ virtist spunagreindin. ChatGPT-3, útgáfan sem birtist almenningi fyrir þremur árum, keyrði á 16 sinnum stærri tölvukerfi en ChatGPT-2 og þegar ChatGPT-4 birtist í mars 2023 var verið að nota minnst 60 falt stærri tölvukerfi en forverinn og enda var þar miklu öflugri útgáfa á ferð. Öllum mátti vera ljóst að útgáfa 5 yrði enn margfalt miklu öflugri enda væri verið að margfalda undirliggjandi tölvukerfi upp í hæstu hæðir.

Plan forsprakkanna mætti orða þannig að gríðarlegar vinsældir spunagreindar yrðu mjólkaðar til að afla ofboðslega mikilla fjármuna sem mætti nota til að byggja svakalega miklu stærri gagnaver sem myndu fyrr eða síðar skila alvöru greind, í samræmi við kenningar sem byggðar voru á grein Sutton. Ómissandi afleiðing þessa áróðurs er að reyna að mála núverandi gervigreind sem næstum því alvöru, að hún sé að sýna merki alvöru greindar. Ekki nema von að Kim Kardashian lét blekkjast.

Þegar ChatGPT5 birtist almenningi loksins í ágúst síðastliðnum eftir nærri tveggja ára þróunarvinnu og 500 milljarða Bandaríkjadali reyndust framfarirnar hins vegar litlar sem engar. Þetta kom ekki öllum á óvart, margir höfðu einmitt bent á að grein Rich Sutton frá árinu 2019 hafi ekki sannað að það myndi ganga endalaust að stórauka tölvubúnað og fá þar með miklu meiri og betri greind. Meira að segja Rich Sutton sjálfur tekur undir þetta í nýlegu viðtali.

Traustið hverfur hratt og stefnir í núll

Það ætti ekki að þurfa að segja neinum að það er aldrei hægt að treysta því sem spunagreindin lætur frá sér. Hvenær er hún að ljúga og hvenær ekki? Svipað og með mannfólkið þá missum við traust mjög fljótt þegar við komumst að því að verið sé að ljúga að okkur.

Glæný umfangsmikil rannsókn á vegum KPMG leiddi í ljós að þeir sem „alltaf“ treysta spunagreindinni eru vel innan við 10% aðspurðra. Önnur ný rannsókn á vegum Gartner sýnir að rúmlega helmingur svarenda treysta ekki leitarniðurstöðum spunagreindar og hafa rekist á alvarlegar villur. Tveir af hverjum 5 svarendum finnst spunagreindarsvör gera leit á netinu erfiðari og 60% vilja geta valið að sjá ekki spunagreindarsvör.

Spunagreindin er afskaplega svikul og hver sá sem ætlar að treysta á því sem frá henni kemur ætti að hugsa sig tvisvar um. Ástralska deild stórfyrirtækisins Deloitt treysti á spunagreind og lenti illa í súpunni, þegar í ljós kom að rándýr rannsókn sem ríkisstjórnin hafði keypt frá þeim var full af gervigreindarslori, m.a. uppskálduðum tilvitnunum. Skýrslan var „leiðrétt“ og endurbirt, en sá sem fyrstur uppgötvaði villurnar benti réttilega á að það eitt að grunur væri um að innihald skýrslunnar væri gervigreindarspuni væri nóg til að gera alla skýrsluna marklausa.

Ef kennari lætur spunagreind lesa yfir verkefni nemenda þá eru allar einkunnir frá þeim kennara ógildar. Spunagreind hefur ekki kennsluréttindi. Vísindamaður sem birtir texta frá spunagreind gerir alla sína vinnu ógilda því hver á að vita hvað er skrifað af honum og hvað er gervigreindarslor? Ef læknir lætur spunagreind skrifa texta fyrir sig má sá hinn sami kveðja læknaleyfið, það fýkur fyrr eða síðar. Sá sem heldur að spunagreind geti yfirtekið hluta af hans eigin vinnu er að gera alvarleg mistök. Töflureiknir getur ekki unnið vinnuna þína, af hverju ætti spunagreind með allri sinni heimsku, minnisleysi og lygaáráttu að geta unnið vinnuna þína?

Greindin er engin og getur aldrei orðið

Árið 1998 skrifaði einn helsti fræðimaður á sviði gervigreindar, Gary Marcus, grein þar sem hann benti á að tauganetshermar, sem þá voru það allra nýjasta, gætu aldrei farið út fyrir þjálfunarsvið sitt og gætu þess vegna aldrei náð að sýna almenna greind. Tauganetshermir sem þjálfaður er til að tefla skák getur ekki spilað bridds, svo dæmi sé tekið.

Gary Marcus er enn að skrifa og hefur verið einn helsti gagnrýnandi spunagreindaræðisins og sífellt fleiri taka undir orð hans, enginn tauganetshermir getur gert annað eða meira en það sem hann er þjálfaður til. Spunagreind á borð við ChatGPT er tauganetshermir sem er þjálfaður til að spinna texta sem lítur út eins og manneskja hefði skrifað hann. Það er ekkert svigrúm í tauganetsherminum eða þjálfun hans sem heitir skilningur eða sjálfstæð hugsun, engin tengsl við raunveruleikann, engin tilfinning fyrir tíma og rúmi, orsök og afleiðingu.

Spunagreind getur með öðrum orðum aldrei orðið alvöru greind. Flestir vísindamenn á sviði gervigreindar eru sammála Gary Marcus samkvæmt skoðanakönnunum og taka undir gagnrýni hans þess efnis að núverandi nálgun, sem felst í að láta spunagreind keyra á sífellt stærri tölvukerfum með sífellt stærri gagnasöfnum, verið aldrei annað en það sem hún er í dag, heimsk og óáreiðanleg, svikul og gagnslaus til allra raunverulegra verkefna.

Þegar ChatGPT-5 var sett á markað í ágúst síðastliðnum urðu margir til að átta sig á því að Gary Marcus og aðrir fræðimenn virtust hafa rétt fyrir sér – spunagreindin myndi ekki batna úr þessu, hún mun aldrei geta farið út fyrir þjálfunarsvið sitt og núna þegar búið er að þjálfa hana á nánast öllu efni sem birt hefur verið á Internetinu þá er engin von um frekari framfarir úr þessari átt. Spunagreindin var tilraun sem mistókst.

Stærsta bóla veraldarsögunnar?

Fjárfestingar í spunagreind hafa aukist ofboðslega á örfáum árum og eiga enn eftir að margfaldast ef marka má orð Sam Altman forsprakka OpenAI (sem á ChatGPT) eða Elon Musk forstjóra Tesla. Báðir hafa bókstaflega lagt allt að veði að spunagreind leiði af sér alvöru greind og vilja sækja þúsundir milljarða Bandaríkjadali til fjárfesta og ríkisstjórna til að reisa urmull ofvaxinna gagnavera, bókstaflega hundruðum saman, hvert og eitt knúið áfram af eigin kjarnorkuveri í villtustu áætlunum!

Fjárfestingar í gagnaverum og orkuverum þeim tengdum á vegum tæknirisanna sem keppast um spunagreindina nemur líklega um 400 milljörðum Bandaríkjadala á þessu ári, um tvöföldum árstekjum Microsoft eða 15 faldar þjóðartekjur Íslendinga. Tekjur af spunagreind eru líklega innan við einn tíundi af fjárfestingarkostnaði og eru ekki að aukast að neinu ráði, gætu jafnvel verið að dragast saman miðað við aukinn fjölda afsláttartilboða og fréttir af minnkandi notkun.

Á komandi árum ætla tæknirisarnir að fjárfesta talsvert miklu meira en á þessu ári enda enn eitthvað í land að ná því marki að þróa alvöru gervigreind. Margir vara við því að hér sé bóla á ferðinni sem muni springa með látum enda muni þessar svakalegu ofurfjárfestingar líklega aldrei skila neinum hagnaði. Nema takmarkinu mikla verði náð sem enginn veit hvort verður eða hvenær, né hvaða efnahagslegu hörmungar það myndi leiða af sér ef milljónir manna missa vinnuna.

Nánast allur hagvöxtur í Bandaríkjunum skrifast á ofureyðslu í gagnaver og orkuframleiðslu þeim tengdum, heil 90% af því fjárfestingarfé fyrirtækja í BNA og allt að 75% af verðmæti hlutabréfa á markaði má skrifa á gagnaver og spunagreindarfyrirtæki.

Margir líkja yfirstandandi ástand við internetbóluna sem sprakk um síðustu aldamót og var margfalt miklu minni en núverandi bóla, eða járnbrautarbólu um miðja 19. öld. Þessar bólur áttu það sameiginlegt að offjárfestingar í innviðum (járnbrautarteinum, ljósleiðurum) voru allt of miklar miðað við væntanlegar tekjur. Einn stór munur er þó á fyrri bólum og núverandi – gagnaver endast miklu skemur en járnbrautateinar eða ljósleiðarar. Meðal endingartími örgjörva í gagnaveri er vel innan við 10 ár, jafnvel aðeins þrjú ár við mestu notkun.

Hagvöxtur í BNA virðist vera nánast enginn, jafnvel neikvæður, ef gagnaverin eru reiknuð frá og einnig virðist vinnumarkaðurinn mjög tæpur. Mörg ríki eru þegar í tæknilegu kreppuástandi. Og það sem verra er, verulegur óþefur er farinn að berast af ofurfjárfestingum tæknirisanna að mati Lisa Shalett, fjárfestingarstjóra Morgan Stanley bankans. Tæknirisarnir eru farnir að semja hvor við annan um stórkostleg fjárútlát, OpenAI semur um að kaupa örgjörva frá Nvidia fyrir 100 milljarði sem veldur snarhækkun á hlutabréfaverði beggja fyrirtækja, en engar upplýsingar um hvernig eigi að fjármagna kaupin. Nvidia segist síðan ætla að fjárfesta fyrir 100 milljarði í OpenAI. Einhvern veginn minnir þetta mann á svindl og pretti fjárglæframanna okkar Íslendinga 2008, en allir vita hvernig það endaði.

Internetið hvarf ekki þegar internetbólan sprakk, og ekki hurfu járnbrautirnar heldur þótt eigendur teinanna hafi farið á hausinn. En öðru gegnir um gagnaverin. Starfsemi þeirra kostar verulega mikla orku og endingartími örgjörva er örstuttur. Núverandi tekjur standa líklega ekki undir rekstrarkostnaði og ef bólan springur munu tekjur ekki aukast! Það má því allt eins búast við því að útför ChatGPT, Claude, Gemini og Grok verði með kyrrþey, að þessi kerfi og önnur svipuð hreinlega hverfi og skilji eftir sig tómarúm.

Höfundur rekur hugbúnaðarfyrirtæki. 

Fyrri greinar höfundar um gervigreind:

Júni 2025: Bylting, bóla, bölvun - bull?https://www.visir.is/g/20252734067d/bylting-bola-bolvun-bull-

Júlí 2025: Stærðfræði­kennari sem kann ekki að reikna?(Og getur ekki lært það!)

https://www.visir.is/g/20252747140d/staerdfraedikennari-sem-kann-ekki-ad-reikna-og-getur-ekki-laert-thad-

Ágúst 2025: Gervigreindin kolfellur á öllum prófum.Er bólan að bresta?

https://www.visir.is/g/20252762879d/gervigreindin-kolfellur-a-ollum-profum.-er-bolan-ad-bresta-

Heimildarlisti

Marc Benioff hefur margt sagt um gervigreind, t.d. hérna:

https://africa.businessinsider.com/news/inside-marc-benioffs-big-bet-on-generative-ai/mvvtqtc

Færri Bandaríkjamen nota spunagreind við störf sín

https://x.com/jon_hartley_

Færri Bandarísk fyrirtæki nota spunagreind

https://www.narev.ai/blog/ai-adoption-rate

Flest fyrirtæki sjá engan hagnað af gervigreind:

McKinsey https://www.mckinsey.com/capabilities/quantumblack/our-insights/seizing-the-agentic-ai-advantage#/

MIT: https://fortune.com/2025/08/18/mit-report-95-percent-generative-ai-pilots-at-companies-failing-cfo/

Gervigreindarslor dregur úr framleiðni

https://hbr.org/2025/09/ai-generated-workslop-is-destroying-productivity?

Starfsmenn endurráðnir vegna ofvaxinna væntinga til gervigreindar

https://www.techspot.com/news/110139-new-data-shows-companies-rehiring-former-employees-ai.html

Jamie Dimon er nefndur til sögunnar í þessari grein sem er áhugaverð fyrir margt annað

https://fortune.com/2025/11/10/scott-galloway-nowhere-to-hide-ai-bubble-sam-altman/

Ýmislegt um óljós áhrif gervigreindar á framleiðni

https://theconversation.com/does-ai-actually-boost-productivity-the-evidence-is-murky-260690

Deep Blue (https://en.wikipedia.org/wiki/Deep_Blue_(chess_computer) ) er gott dæmi um hefðbundið sérfræðikerfi og AlphaFold (https://en.wikipedia.org/wiki/AlphaFold ) um tauganetshermi.

Kim Kardashian vælir yfir spunagreind

https://mashable.com/article/kim-kardashian-blames-chatgpt-failing-law-exams

Magnus Carlsen hakkar í sig spunagreindina

https://www.chess.com/article/view/magnus-carlsen-chess-vs-chatgpt

Fyrri grein Mike Judge um skort á framleiðni í hugbúnaðargerð

https://mikelovesrobots.substack.com/p/wheres-the-shovelware-why-ai-coding

Síðari grein Mike Judge með betri upplýsingum um GitHub

https://substack.com/home/post/p-174505952

Chamath Palihapitiya um brandarann mikla, spunagreindarforritun

https://x.com/chamath/status/1980004924458197472?s=61

Það sem Jensen Huang sagði um spunaþjóna

https://www.barrons.com/articles/nvidia-stock-ceo-ai-agents-8c20ddfb

Fyndin frásögn af spunaþjónafyrirtæki Evan Ratliff

https://www.wired.com/story/all-my-employees-are-ai-agents-so-are-my-executives/

Grein Rich Sutton er til umfjöllunar hérna:

https://garymarcus.substack.com/p/game-over-for-pure-llms-even-turing

Stærðarhlutföll ChatGPT frá einni útgáfu til annarrar

https://pmc.ncbi.nlm.nih.gov/articles/PMC11472406/

KPMG og traustið sem hvarf

https://kpmg.com/xx/en/our-insights/ai-and-technology/trust-attitudes-and-use-of-ai.html

Gartner um álit almennings á spunagreind

https://www.gartner.com/en/newsroom/press-releases/2025-09-03-gartner-survey-finds-53-percent-of-consumers-distrust-ai-powered-search-results0

Deloitt Australia endurgreiðri og endurskrifar skýrslu

https://www.afr.com/companies/professional-services/deloitte-to-refund-government-after-admitting-ai-errors-in-440k-report-20251005-p5n05p

Greinin eftir Gary Marcus frá 1998

https://www.sciencedirect.com/science/article/pii/S0010028598906946

Morgan Stanley og fleiri um óþef af gervigreindarbólunni:

https://fortune.com/2025/10/07/ai-bubble-cisco-moment-dotcom-crash-nvidia-jensen-huang-top-analyst/

Hversu spunagreindin er ævintýralega langt frá því að standa undir sér fjárhagslega

https://futurism.com/future-society/ai-data-centers-finances