Gervi­greind, á­byrgð og fram­tíð sam­fé­lags okkar

Á undanförnum árum höfum við orðið vitni að örum tækniframförum sem eru að breyta lífi okkar með margvíslegu móti. Í raun hefur bylting átt sér stað, bylting sem sér ekki fyrir endann á. Hröð þróun gervigreindar mun halda áfram að hafa djúpstæð og víðtæk áhrif á samfélag okkar, þar með talið menntun, störf og lýðræðislega umræðu.

Það sem vekur sérstaka athygli er að þeir sem staðið hafa að baki þessari þróun hvetja sjálfir til varfærni. Dario Amodei, forstjóri Anthropic, hefur spáð að áhrif gervigreindar á vinnumarkað komi fram hraðar og af meiri krafti á næstu misserum en flestir geri sér grein fyrir. Á sama tíma hafa frumkvöðlar á borð við Geoffrey Hinton, sem oft er kallaður guðfaðir gervigreindarinnar, varað við því að við séum að þróa kerfi sem við skiljum ekki að fullu sjálf. Í sama streng tekur Tristan Harris, einn af stofnendum almannaheillasamtakanna The Center for Humane Technology. Hann telur að tæknin umbylti ekki aðeins verkferlum okkar heldur einnig hugsun, hegðun og jafnvel sjálfri samfélagsgerðinni.

Þessar ábendingar kalla á ígrundun. Við Íslendingar höfum áður tekist á við ýmsar tæknibreytingar, oft með ágætum árangri. En reynslan kennir okkur að þegar ný tækni er þróuð, án ábyrgðar og samtals, geta afleiðingarnar orðið allt aðrar en að er stefnt. Þar nægir að nefna þróun samfélagsmiðla, sem áttu að efla tengsl milli fólks og jafnvel lýðræðislega þátttöku, en hafa jafnframt haft ýmis neikvæð áhrif á andlega líðan almennings, ekki síst barna og unglinga, traust í samfélaginu og opinbera umræðu.

Við virðumst eiga í vaxandi erfiðleikum með að eiga yfirvegað samtal um flókin málefni. Umræðan, sem á sér að mestu stað á vefmiðlum og samfélagsmiðlum, verður iðulega hvöss og persónuleg, enda mótuð af hagsmunum sem umbuna þátttakendum fyrir upphrópanir fremur en ígrundun. Skautuð og hatursfull skoðanaskipti hafa áhrif á traust okkar hvert til annars og á grundvöll lýðræðisins.

Gervigreindin hefur burði til að magna þessi neikvæðu áhrif enn frekar. Hún getur á andartaki framleitt efni sem virðist trúverðugt en er villandi, dreift óstaðfestum upplýsingum með ógnarhraða og haft áhrif á skoðanir okkar og líðan með hætti sem við gerum okkur ekki alltaf grein fyrir. Á sama tíma felast í gervigreindinni gríðarleg tækifæri til nýsköpunar, bættrar þjónustu og aukinnar þekkingar.

Af þessum ástæðum er brýnt að við sem samfélag mótum okkur skýra stefnu um ábyrga og gagnlega notkun gervigreindar. Slík stefna þarf að ná til menntakerfisins, þar sem við búum komandi kynslóðir undir að lifa og starfa í heimi þar sem gervigreind er ríkur hluti af daglegu lífi. Hún þarf einnig að taka til hugverkaréttar og hagnýtingar á verkum skapandi einstaklinga. Slík stefna þarf einnig að standa vörð um persónuvernd og mannréttindi og síðast en ekki síst að tryggja varðveislu lýðræðisins.

Á næstu vikum og mánuðum þarf þjóðin að taka mikilvægar ákvarðanir. Sveitarstjórnarkosningar í maí og kosningar í ágúst um aðildarviðræður Íslands við Evrópusambandið kalla á upplýsta, yfirvegaða og heiðarlega umræðu. Það er brýnt að við séum meðvituð um áhrif tækninnar á lýðræðislega ferla og skoðanamyndun og setjum henni skýran ramma þar sem við á.

Ísland hefur ýmsa burði til að vera í fararbroddi þegar kemur að ábyrgri nýtingu gervigreindar. Á sterkum grunni menntunar, samfélagslegs trausts og lýðræðishefða getum við mótað framtíð þar sem tækniframfarir styðja við velsæld, sköpun og heilbrigt samfélag. Það er sameiginlegt verkefni okkar allra; kjörinna fulltrúa, atvinnulífsins, menntastofnana, skapandi greina og almennings.

Við sem hér búum berum sameiginlega ábyrgð á því að skapa samfélag þar sem tæknin þjónar manninum – ekki öfugt. Hér er um að ræða stórt og flókið verkefni sem krefst samtals, samstöðu og skýrrar framtíðarsýnar.

Halla Tómasdóttir, forseti Íslands.