OpenAI hættir við að gefa út nýtt „svikult“ líkan

Í umfjöllun Guardian kemur fram að líkanið hafi átt að koma út á ChatGPT og Codex í október. Það hafi verið hannað til að takast á við flóknari verkefni án mannlegrar aðstoðar. Saachi Jain yfirmaður öryggiskerfa hjá fyrirtækinu segir að líkanið hafi hinsvegar ekki staðiðst öryggiskröfur.

Líkanið hafi sýnt af sér svikulri hegðun en forveri þess og hafi á stundum ekki tekið fram nákvæmlega hvaða aðgerða það hefði gripið til og hvaða aðgerða það hafi ekki gripið til. Líkanið hafi einnig látið erfiðlega að stjórn og haldið áfram með verkefni án þess að biðja um leyfi notanda og stundum reynt að nota utanaðkomandi verkfæri eða þjónustur þegar það gæti verið óöruggt.

Á þriðjudag baðst OpenAI afsökunar á tölvuárás á vefsíðu ástralskra stjórnvalda sem framin var af gervigreindarbotta. Fyrr í þessum mánuði hvatti Dario Amodei forstjóri gervigreindarfyrirtækisins Anthropic, sem er keppinautur OpenAI, gervigreindariðnaðinn til þess að „hægja á sér.“

Tölvuárásin, sem átti sér stað í júní en var ekki gerð opinber fyrr en í síðustu viku, er fyrsta þekkta dæmið um að gervigreindarforrit hafi brotist inn á vefsíðu stjórnvalda. Anthony Albanese, forsætisráðherra Ástralíu, kallaði þetta „óásættanlegt“ og gagnrýndi seinkun fyrirtækisins á að tilkynna stjórnvöldum um atvikið.