Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Þegar þeir sem segjast þjóna þjóðinni ráðast á hana Ágústa Árnadóttir Skoðun Þeir vökulu og tungumálið sem stjórntæki Jóhanna Jakobsdóttir Skoðun Þá verður gott að búa á Íslandi Bjarni Karlsson,Jóna Hrönn Bolladóttir Skoðun Við erum 40 árum á eftir Einar Sverrisson Skoðun Skipulögð glæpastarfsemi er ógn við samfélagið Þorbjörg Sigríður Gunnlaugsdóttir Skoðun Faglegt mat eða lukka? IV. Faglegt mat og ósvaraðar spurningar Bogi Ragnarsson Skoðun Mamma er gulur góð einkunn? Díana Dögg Víglundsdóttir Skoðun Þingmaður til sölu – bátur fylgir með Sigríður Svanborgardóttir Skoðun „Elska skaltu náunga þinn“ – gegn rasisma, hatri og sögufölsunum öfga hægrisins Guðrún Ósk Þórudóttir Skoðun Þétting á 27. brautinni Friðjón R. Friðjónsson Skoðun Skoðun Skoðun Faglegt mat eða lukka? IV. Faglegt mat og ósvaraðar spurningar Bogi Ragnarsson skrifar Skoðun Skipulögð glæpastarfsemi er ógn við samfélagið Þorbjörg Sigríður Gunnlaugsdóttir skrifar Skoðun Við erum 40 árum á eftir Einar Sverrisson skrifar Skoðun Þétting á 27. brautinni Friðjón R. Friðjónsson skrifar Skoðun Þá verður gott að búa á Íslandi Bjarni Karlsson,Jóna Hrönn Bolladóttir skrifar Skoðun Faglegt mat eða lukka? III: Tækifæri fyrir löggjafann Bogi Ragnarsson skrifar Skoðun Þingmaður til sölu – bátur fylgir með Sigríður Svanborgardóttir skrifar Skoðun Þeir vökulu og tungumálið sem stjórntæki Jóhanna Jakobsdóttir skrifar Skoðun Umburðarlyndi og kærleikur Snorri Ásmundsson skrifar Skoðun Kolbrún og Kafka Pétur Orri Pétursson skrifar Skoðun Brottvísanir sem öllum var sama um Finnur Thorlacius Eiríksson skrifar Skoðun Mamma er gulur góð einkunn? Díana Dögg Víglundsdóttir skrifar Skoðun Gervigreind í vinnunni: Frá hamri til heilabús Björgmundur Guðmundsson skrifar Skoðun Fagmennska, fræðileg þekking, samráð, samvinna, þarfir og vilji barna og ungmenna eru grundvallaratriði Árni Guðmundsson skrifar Skoðun Engu slaufað Eydís Ásbjörnsdóttir skrifar Skoðun Faglegt mat eða lukka? II. Viðurkenning og höfnun Bogi Ragnarsson skrifar Skoðun Krabbameinsfélagið í stafni í aðdraganda storms Halla Þorvaldsdóttir skrifar Skoðun Lénsherratímabilið er hafið Einar G Harðarson skrifar Skoðun Þéttur eða þríklofinn Sjálfstæðisflokkur Sara Björg Sigurðardóttir skrifar Skoðun Bras og brall við gerð Brákarborgar Helgi Áss Grétarsson skrifar Skoðun Getur uppbyggilegur fréttaflutningur aukið velsæld í íslensku samfélagi? Ása Fríða Kjartansdóttir, Dóra Guðrún Guðmundsdóttir skrifar Skoðun „Elska skaltu náunga þinn“ – gegn rasisma, hatri og sögufölsunum öfga hægrisins Guðrún Ósk Þórudóttir skrifar Skoðun Ósk um sérbýli, garð og rólegt umhverfi dregur fólk frá höfuðborgarsvæðinu Margrét Þóra Sæmundsdóttir skrifar Skoðun Auðlindarentan heim í hérað Arna Lára Jónsdóttir skrifar Skoðun Héraðsvötn og Kjalölduveitu í nýtingarflokk Jens Garðar Helgason,Ólafur Adolfsson skrifar Skoðun Eru borgir barnvænar? Þétting byggðar og staða barna í skipulagi Lára Ingimundardóttir skrifar Skoðun Hvað kosta mannréttindi? Anna Lára Steindal skrifar Skoðun Faglegt mat eða lukka? I: Frá kennslustofu til stafbókar Bogi Ragnarsson skrifar Skoðun Hvers vegna ekki bókun 35? Hjörtur J. Guðmundsson skrifar Skoðun 1 stk. ísl. ríkisborgararéttur - kr. 1,600 Róbert Björnsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
„Elska skaltu náunga þinn“ – gegn rasisma, hatri og sögufölsunum öfga hægrisins Guðrún Ósk Þórudóttir Skoðun
Skoðun Fagmennska, fræðileg þekking, samráð, samvinna, þarfir og vilji barna og ungmenna eru grundvallaratriði Árni Guðmundsson skrifar
Skoðun Getur uppbyggilegur fréttaflutningur aukið velsæld í íslensku samfélagi? Ása Fríða Kjartansdóttir, Dóra Guðrún Guðmundsdóttir skrifar
Skoðun „Elska skaltu náunga þinn“ – gegn rasisma, hatri og sögufölsunum öfga hægrisins Guðrún Ósk Þórudóttir skrifar
Skoðun Ósk um sérbýli, garð og rólegt umhverfi dregur fólk frá höfuðborgarsvæðinu Margrét Þóra Sæmundsdóttir skrifar
Skoðun Eru borgir barnvænar? Þétting byggðar og staða barna í skipulagi Lára Ingimundardóttir skrifar
„Elska skaltu náunga þinn“ – gegn rasisma, hatri og sögufölsunum öfga hægrisins Guðrún Ósk Þórudóttir Skoðun