Skoða bann við nektar­for­ritum eftir X-hneykslið

Evrópuþingmenn hafa kallað eftir banni við forritum af þessu tagi. Talsmaður framkvæmdastjórnarinnar segir við dagblaðið Politico að það sé til skoðunar.

Forrit sem geta afklætt fólk á myndum eru ekki bönnuð sérstaklega í tilskipun Evrópusambandsins um gervigreind en hún takmarkar notkun tækninnar ef hún ógnar öryggi fólks, réttindum eða lífsviðurværi.

„Þetta er klárlega skaði sem menn sáu fyrir sér að væri bannaður undir þeirri notkun sem er bönnuð,“ segir Michael McNamara, írskur Evrópuþingmaður sem stýrir nefnd þingsins um gervigreind.

Svokallaðar djúpfalsanir, mjög raunverulegar myndir eða myndbönd sem eru framleidd með gervigreind, eru ekki bannaðar í Evrópu. Aðeins er skylda að merkja slíkt efni þar sem það birtist.

Fárið í kringum Grok

Djúpfalsarnir eru nú í kastljósinu eftir að X, samfélagsmiðill Elons Musk, leyfði spjallmenni sínu, Grok, að framleiða kynferðislegar myndir af konum og börnum gegn vilja þeirra. Athæfið er nú til rannsóknar í nokkrum löndum, þar á meðal í Bretlandi og Frakklandi.

X brást lengi vel ekki við gagnrýninni. Á tímabili lét fyrirtækið nægja að leyfja aðeins áskrifendum að búa til slíkar gervigreindarmyndir, þótt það virtist ekki hafa verið algild regla. 

Í síðustu viku brást Musk og fyrirtækið við með því að segja að Grok myndi ekki lengur framleiða kynferðislegar myndir af þessu tagi í lögsagnarumdæmum þar sem slíkt væri ólöglegt. Vísbendingar eru um að spjallmennið hafi haldið áfram að búa til slíkar myndir þrátt fyrir þær fullyrðingar Musk.