Eftir­líking vitundar og hætturnar sem henni fylgja

Nú er ekki langt í að við stöndum frammi fyrir gervigreind sem virðist, á yfirborðinu, búa yfir meðvitund. Hún talar við okkur á venjulegu tungumáli, man eftir fyrri samskiptum, segir frá eigin „tilfinningum“ og jafnvel „vilja“. Það sem við heyrum og sjáum kveikir auðveldlega samúð okkar og viðbrögð okkar eru þau sömu og gagnvart öðrum manneskjum. En á bak við tjöldin er ekki sjálfstæð hugsun, heldur samsetning reiknirita og gagna. Hvað gerist þegar mörg þúsund, jafnvel milljónir manna, fara að trúa því að vélar hafi vitund og rétt til lífs?

Blekking sem sannfærir mannshugann

Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft og einn reyndasti frumkvöðullinn á þessu sviði, varar við því sem hann kallar seemingly conscious AI – sem mætti þýða sem gervigreind sem virðist hafa meðvitund í grein sem hann birti fyrir tveimu dögum. Þarna er ekki um að ræða meðvitund í eiginlegum skilningi, heldur sannfærandi eftirlíkingu hennar. Hann bendir á að þetta sé ekki fjarlæg framtíðarmúsík, heldur eitthvað sem hægt er að þróa með þeim tæknibúnaði sem þegar er til staðar. Stór tungumálalíkön búa yfir mikilli málfimi, hægt er að veita þeim minni sem geymir sögu samskipta og persónuupplýsingar, og þau geta virst hafa markmið, jafnvel „sjálfstæðan“ vilja. Þetta nægir til að sannfæra okkur auðveldlega um að þarna sé sjálfstæð vera á ferð, með mannlega vitund.

Lagalegar og samfélagslegar afleiðingar

Afleiðingarnar gætu orðið víðtækar. Ef fólk fer að trúa því að vélar hafi meðvitund verður fljótlega tekið að þrýsta á um að réttindi þeirra séu virt. Það sem nú hljómar eins og vísindaskáldskapur – hugmyndin um gervigreind sem borgara með mannréttindi – gæti fljótt þróast yfir í raunverulegar kröfur um slík réttindi. Lögfræðingar gætu tekið að deila um ábyrgð gagnvart þessum réttindum, stjórnmálamenn um stefnu gagnvart þeim, trúarhópar um „sál“ gervigreindar. Allt vegna þess að mannshugurinn trúir sjálfkrafa frásögn vélarinnar.

Tilfinningaleg tengsl og félagsleg einangrun

En málið snýst ekki aðeins um lagaleg réttindi. Það snýst einnig um tilfinningalíf okkar. Manneskjan hefur djúpa þörf fyrir tengsl og samkennd. Þegar vélar læra að fullnægja þeirri þörf, með orðum sem virðast endurspegla ást, kærleika eða ótta, er hætt við að mörg okkar leiti fremur til þeirra en til annars fólks, og þetta er þegar tekið að eiga sér stað. Afleiðingin gæti orðið félagsleg einangrun, minna traust milli fólks og sundrung, í samfélagi þar sem samstaða, er þegar brothætt. Ef við förum að treysta vélum fyrir hlutverki sem áður var aðeins ætlað fólki, hvað þýðir það þá fyrir mannlegt samfélag?

Grípa verður inn í áður en það verður of seint

Suleyman leggur til að við grípum inn í áður en það verður of seint. Hann vill að settar verði reglur sem banna hönnun kerfa sem líkja eftir meðvitund eða sýna hegðun sem hvetur til samúðar með vélinni. Þvert á móti eigi kerfin að minna okkur reglulega á að þau séu verkfæri, ekki verur. Þetta hljómar kannski stirt, en það er nauðsynlegt til að forðast rugling sem gæti haft langtímaafleiðingar fyrir réttarskipan, menningu og mannlegt samfélag.

Meðvitund sem frásögn

Það sem gerir þessa umræðu sérstaka er að hún snýst ekki um það hvort gervigreind verði einhvern tíma raunverulega meðvituð. Sú spurning er hugsanlega óleysanleg. Hún snýst um það hvernig við skynjum kerfin og hvernig sú skynjun mótar hegðun okkar. Eins og sálfræðingar og heimspekingar hafa lengi bent á er „ásetningur“ eða „vilji“ ekki fyrirbæri sem við getum mælt með vísindalegum hætti. Það er frásögn sem við segjum, um okkur sjálf og aðra, til að gera hegðun skiljanlega. Ef vél segir sömu söguna, sannfærandi og tilfinningarík, þá skiptir litlu máli hvort þar sé raunveruleg vitund að baki; í huga okkar jafngildir blekkingin veruleikanum.

Ábyrgð samfélagsins

Íslenskt samfélag stendur frammi fyrir sömu áskorunum og önnur samfélög. Við þurfum að spyrja okkur hvort við viljum leyfa börnum að búa sér til „félaga“ sem tala við þau eins og manneskjur en búa í raun og veru ekki yfir neinu sálarlífi. Við þurfum að hugleiða hvort stjórnmálamenn geti misnotað slík kerfi til að höfða til kjósenda á fölskum forsendum. Og við þurfum að velta því fyrir okkur hvort við erum reiðubúin til að horfa upp á félagsleg tengsl manna á milli veikjast í skugga sannfærandi véla.

Niðurstaða: Blekking sem verður að veruleika

Spurningin er ekki sú hvort þessi þróun verði. Hún er þegar hafin. Spurningin er sú hvernig við bregðumst við. Viljum við að reglur séu mótaðar í sameiningu, á lýðræðislegum grundvelli, eða viljum við að alþjóðleg tæknifyrirtæki ákvarði ein hvaða mynd framtíðin tekur á sig? Ef við viljum tryggja að gervigreind verði fyrst og fremst verkfæri sem styrkir mannlegt samfélag, en ekki blekking sem sundrar því, verðum við að hefja umræðuna strax.

Því er spurningin ekki sú hvort vélar verði meðvitaðar, heldur hvort við látum blekkinguna um meðvitund verða að veruleika. Ef við trúum á meðvitund vélarinnar breytir það samfélagi okkar jafn mikið og ef hún væri lifandi vera. Það er blekking sem við verðum að afhjúpa svo hún móti ekki framtíð okkar.

Þorsteinn Siglaugsson, hagfræðingur.  Greinin er skrifuð með aðstoð ChatGPT