„Erum að sjá allt niður í níu og ellefu ára stúlkur“

Gervigreindarmállíkan samfélagsmiðilsins Twitter hefur ítrekað ratað í fjölmiðla undanfarið og nú fyrir að falsa klámfengnar myndir af konum.

Notendur Twitter hafa hlaðið upp þúsundum mynda af fólki í alls konar athöfnum og beðið spjallmennið sem heitir Grok um að afklæða það eða klæða í sundföt.

Hundruð kvenna og táningsstúlkna hafa tilkynnt að spjallmennið hafi verið notað til að skapa kynferðislegar myndir af sér og stjórnvöld í Evrópu rannsaka nú málið. Tæknin var til að mynda notuð gegn varaforsætisráðherra Svíþjóðar og þá hefur forritið verið sagt gera það sama við myndir af stúlkum allt niður í ellefu ára aldur.

María Rún Bjarnadóttir, lögfræðingur og sérfræðingur í í tæknirétti og mannréttindum sem hefur unnið gegn stafrænu ofbeldi í garð stúlkna og kvenna, segir skilmála tæknirisa grafa undan réttindum einstaklinga.

„Ég held að þetta hafi verið fullkomlega fyrirsjáanlegt. Við sjáum þessa sömu notkun á nánast öllum tæknimiðlum sem eru þróaðir. Þeir eru yfirleitt notaðir til að kúga og niðurlægja konur. Sérstaklega eins og Grok sem gengur svolítið út á að vera með vesen. Það er núna fram undan uppfærsla á skilmálunum þeirra sem gerir það enn þá skýrara að þeir fyrri sig allri ábyrgð á óheppilegri notkun til dæmis í þessu samhengi.“

Það sé gagnrýnisvert að fyrirtæki skýli sér á bak við tjáningarfrelsi. Réttindi þolenda eru misjöfn eftir löndum.

„Þarna myndu íslenskir notendur vera í nokkuð góðri stöðu. Íslenska regluverkið tekur á því þegar efni er falsað og ákveðið tekur á því þegar efni er falsað. Vandinn yrði hins vegar að finna út hver það er sem stendur á bak við dreifinguna og að búa til efnið. Þar þarf lögreglan að reiða sig á samvinnu við viðkomandi miðil. Þar skiptir auðvitað máli hver miðillinn er, því þeir eru ekki allir jafn samstarfsfúsir.“

Stella Samúelsdóttir, framkvæmdastjóri UN Women á Íslandi, segir þetta dæmi um skýrt bakslag í kvenréttindabaráttunni. 550 prósenta aukning hafi orðið í djúpfölsunum undanfarin ár. 98% beinist gegn konum. 

„Við erum að sjá allt niður í níu og ellefu ára stúlkur sem hafa lent í því að myndir eru teknar af þeim og þeim breytt. Þetta er náttúrulega stórkostlega alvarlegur glæpur.“

Hún segir ofbeldið oft miða gegn baráttukonum eða konum í valdastöðum.

„Þannig þetta náttúrulega veikir þeirra stöðu og þær veigra sér við að taka þátt í samfélaginu vegna þess að þær vita að þetta er hættan sem þær standa frammi fyrir. Og þá erum við farin að sjá veikara lýðræði.“