Mun mann­kynið lifa af gervi­greindina?

Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar.

Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana.

Súpermann og siðferðisleg forsjá

Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi?

Við kennum – hún lærir

Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun.

Þegar kerfið heldur að það hafi rétt fyrir sér

Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt.

Tækni sem þjónar kerfinu – ekki fólkinu

Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu.

En það þarf ekki að vera þannig.

Vopn í gömlu kerfi eða brú í nýja framtíð

Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður.

Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt.

Hverjir móta gildin?

Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi?

Manngildi ofar auðgildi

Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur.

Hvar erum við stödd?

Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar.

Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum.

Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar.

Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi.

Að þjálfa tæknina í manngildi

Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti.

Spurningin sem við verðum að spyrja

Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af?

Höfundur er ráðgjafi í nýsköpun.

Þessi grein er hluti greina raðar um gervigreind, fyrri greinar;

Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.

Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.

Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.

Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt líf

Gervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðina

Gervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólum

Er ég að svindla? – Um sam­býli manns og gervi­greindar í sköpun og þekkingu- Samvinna manns og gervigreindar.

Ég kalla hann Isildur; mentorinn minn er gervi­greind– Samvinna manns og gervigreindar