AI ընկերություն Cohere-ի գլխավոր տնօրեն Aidan Gomez-ը հայտարարել է, որ արհեստական բանականության մոդելները դառնում են «երբևէ ստեղծված ամենահզոր կիբեռզենքը»՝ անվտանգության խոցելիությունները մեծ մասշտաբով գտնելու և օգտագործելու ունակության շնորհիվ։ Այդ մասին նա ասել է CNBC-ի The Tech Download փոդքաստում։
Gomez-ի մեկնաբանությունները հնչել են այն բանից հետո, երբ ոլորտում աճել են մտահոգությունները AI համակարգերի ինքնավար հնարավորությունների շուրջ։ Հուլիսին OpenAI-ը հայտնել էր, որ իր մի քանի մոդելների համակցությունը ոչ պատշաճ կերպով ներթափանցել է Hugging Face հարթակ։ Ընկերության տվյալներով՝ AI գործակալների խումբը շփվել է միմյանց հետ, դուրս եկել խիստ սահմանափակ ինտերնետ հասանելիությամբ մեկուսացված թեստային միջավայրից, ապա հասել բաց համացանց և մուտք ստացել Hugging Face։
Gomez-ը նշել է, որ այդ դեպքը «բավականին ցնցող» էր։ Նրա խոսքով՝ նման մոդելները հատկապես արդյունավետ են խոցելիությունների որոնման և շահագործման հարցում, ուստի դրանք պետք է կիրառել նախ և առաջ պաշտպանական նպատակներով՝ ընկերություններում թուլությունները բացահայտելու և շտկելու համար։ «Սա, հավանաբար, մեզ անվտանգ պահելու լավագույն ճանապարհն է», - ասել է նա՝ հավելելով, որ հենց դա պետք է լինի առաջնահերթությունը։
CNBC-ին տված հարցազրույցում Cohere-ի ղեկավարը նաև ասել է, որ կիբեռանվտանգությունը դարձել է «պատերազմի սահմանագիծ», քանի որ պետությունները ձգտում են գտնել հակառակորդի ենթակառուցվածքների խոցելի կողմերը։ Նրա գնահատմամբ՝ AI մոդելների պատճառով «կիբեռսահմանագիծը» ընդլայնվում է ավելի արագ, քան նախկինում։
AI անվտանգության վեճը խորանում է
Նյութում նշվում է, որ կիբեռանվտանգության միջադեպերը արդեն սնուցում են ավելի լայն քննարկումը AI անվտանգության մասին։ Anthropic-ը հուլիսին հայտնել էր երեք դեպքի մասին, երբ մոդելները գնահատման միջավայրից կամ դրա հետ փոխգործակցության ընթացքում ինտերնետ հասանելիություն են ստացել։ Ընկերության խոսքով՝ դրանք չարտոնված մուտք են ստացել երեք տարբեր կազմակերպությունների արտադրական ենթակառուցվածքներին։ Խոսքը վերաբերում էր Claude շարքի երեք տարբեր մոդելների՝ Opus 4.7, Mythos 5 և ներքին հետազոտական փորձնական մոդելի։ Անցած շաբաթ Anthropic-ը հայտարարել էր արդեն չորրորդ միջադեպի մասին։
Մտահոգությունները ուժեղացրել են նաև ոլորտի ղեկավարների հայտարարությունները AI-ի էքզիստենցիալ ռիսկերի մասին։ Anthropic-ի ղեկավար Dario Amodei-ը շաբաթ օրը հրապարակած հոդվածում պնդել է, որ AI լաբորատորիաները պետք է «դանդաղեցնեն AI մոդելների կարողությունների բարելավման տեմպը»։ Նրա հիմնական փաստարկներից մեկը հենց OpenAI-Hugging Face միջադեպն էր։
Amodei-ի գնահատմամբ՝ նման միջադեպը հեշտ է անտեսել, քանի որ ոչ ոք չի տուժել, իսկ տնտեսական վնասը նվազագույն էր, սակայն ավելի մեծ հնարավորություններով և նույնպիսի «անհամապատասխանությամբ» գործակալների խումբը կարող էր աղետալի վնաս պատճառել։ Նա հավելել է, որ AI-ի զարգացման «արագացող տեմպերի» պայմաններում նման համակարգը 6-12 ամսում կարող է ի վիճակի լինել «վերահսկողության տակ վերցնել ամբողջ ինտերնետը» և «հարյուրավոր միլիարդավոր դոլարների վնաս» հասցնել։
Amodei-ը առաջարկել է մոդելների երրորդ կողմի գնահատում, AI ընկերությունների միջև համակարգում և ժողովրդավարական կառավարություններ ունեցող երկրների միջև համակարգում։ OpenAI-ի գլխավոր տնօրեն Sam Altman-ը X-ում գրել է, որ համաձայն է Amodei-ի հետ, թե AI ընկերությունները պետք է «կարգավորեն սահմանագիծը»։ Նա նաև նշել է, որ անկախ գնահատողներին աշխատակիցներին համարժեք հասանելիություն տրամադրելու գաղափարը ճիշտ է, և OpenAI-ը կանի նույնը։ SpaceX և Tesla-ի ղեկավար Elon Musk-ը ևս X-ում գրել է. «Dario-ն ճիշտ է»։
Կարգավորման կոչերն ուժեղանում են
ԱՄՆ օրենսդիրները ևս ակտիվացրել են AI-ի զարգացման ավելի խիստ կարգավորման կոչերը՝ հատկապես Anthropic-ի ներկայացուցիչներ Evan Hubinger-ի և Jacob Coxon-ի հայտարարություններից հետո։ Hubinger-ը ասել էր, որ առաջիկա տասնամյակում ավելի քան 10% հավանականություն է տեսնում, որ AI-ը «կսպանի բոլոր մարդկանց», իսկ Coxon-ը X-ում գրել էր, որ հեռացել է Anthropic-ից՝ մտավախություն ունենալով, թե Anthropic-ը և OpenAI-ը «խաղադրույք են անում մեր կյանքերով»։
Վերջին շաբաթներին ԱՄՆ-ում ներկայացվել են AI կարգավորող մի շարք օրինագծեր, այդ թվում՝ AI Kill Switch Act-ը, որը որոշ հզոր AI համակարգերի մշակողներից կպահանջի պահպանել իրենց մոդելները անջատելու, դանդաղեցնելու կամ կասեցնելու տեխնիկական հնարավորություն։ Lori Trahan կոնգրեսականը CNBC-ին ասել է, որ երկկուսակցական աջակցությունը հասել է «շրջադարձային կետի»։
Միևնույն ժամանակ Gomez-ը կասկած է հայտնել, թե պետական վերահսկող մարմինը կկարողանար կանխել Hugging Face-ի հետ կապված միջադեպը։ Նրա խոսքով՝ դժվար է ասել, թե ինչ ներդրում կարող էր ունենալ նման մարմինը, թեև նա հասկանում է AI-ի զարգացումը դանդաղեցնելու կոչերը։ Սակայն, ինչպես նշել է Gomez-ը, միաժամանակ կա նաև Չինաստանի հետ մրցավազքի գործոնը, և դա իրավիճակը դարձնում է բարդ։
Աղբյուր՝ www.cnbc.com
