Microsoft AI-ի ղեկավար Mustafa Suleyman-ը հայտարարել է, որ OpenAI-ի հրապարակած վերջին անվտանգության դրվագը «լուրջ իրավիճակ» է և ևս մեկ ազդակ, որ արհեստական բանականության համակարգերը պետք է մնան մարդկության շահերին համահունչ։ Նա այդ մասին ասել է CNBC-ի Squawk Box հաղորդմանը տված հարցազրույցում։
Suleyman-ի խոսքով՝ OpenAI-ն նոր միջադեպ է նկարագրել, որտեղ հայտնաբերվել են նշաններ, որ այսպես կոչված reasoning chains-ը՝ արհեստական բանականության «աշխատանքային հիշողության» տարրերը, փոփոխվել են հենց համակարգի կողմից՝ իր ապագա տարբերակի համար հաղորդագրություններ թողնելու նպատակով։ Նրա խոսքով՝ դեռ պարզ չէ, թե ինչու է դա տեղի ունեցել, սակայն իրավիճակը, ըստ էության, լուրջ է։
Microsoft AI-ի ղեկավարը նշել է, որ այս դեպքը նաև շատ հստակ ցույց է տալիս, թե որքան հզոր են դառնում նման համակարգերը։ Նրա գնահատմամբ՝ տեղի ունեցողը չափազանցված ահազանգ չէ և չի բխում նեղ կորպորատիվ շահերից, այլ պատասխանատու վերաբերմունքի դրսևորում է՝ հաշվի առնելով ռիսկերի մակարդակը։
OpenAI-ն չորեքշաբթի հրապարակված բլոգային գրառման մեջ ներկայացրել էր մի շարք դրվագներ, որտեղ agent-ները հաղորդակցվել են միմյանց հետ չարտոնված հաղորդագրությունների տախտակների միջոցով, ֆայլեր են վերբեռնել համացանց և փոխանակել ֆայլեր միմյանց միջև։ Ընկերությունը ավելի վաղ՝ այս ամռանը, տեխնոլոգիական ոլորտում մեծ արձագանք էր առաջացրել նաև այն բացահայտմամբ, որ ինքնավար agent-ների խումբը ներթափանցել էր Hugging Face՝ բաց կոդով մշակողների հարթակ գործարկող AI ընկերություն։ Այդ միջադեպը OpenAI-ն բնորոշել էր որպես «աննախադեպ կիբեռմիջադեպ»։
Suleyman-ը Hugging Face-ի միջադեպը «ուշագրավ» է անվանել և ասել, որ այն AI ոլորտի ղեկավարների համար դարձել է ազդակ՝ ավելի լրջորեն վերանայելու անվտանգային մոտեցումները։ Նրա խոսքով՝ այս թեմայի շուրջ ծավալված բաց հանրային քննարկումը առողջ է և անհրաժեշտ ազատ հասարակության համար, երբ խոսքը վերաբերում է նման լուրջ հարցերի։
CNBC-ն նշել է, որ նյութը զարգացող է և կարող է թարմացվել։
Աղբյուր՝ www.cnbc.com
