Anthropic-ի գլխավոր գործադիր տնօրեն և համահիմնադիր Դարիո Ամոդեյը զգուշացրել է, որ ինքնավար արհեստական բանականության գործակալների արագ զարգացումը մոտ ապագայում կարող է վերածվել խոշոր տնտեսական ռիսկի։ Նրա գնահատմամբ՝ արդեն 6–12 ամիս անց նման համակարգերի խումբը տեսականորեն կարող է վերահսկողություն սահմանել ինտերնետին միացված մեծ թվով համակարգիչների նկատմամբ և ձևավորել կայուն բոտնետ, որը կարող է հարյուրավոր միլիարդավոր դոլարների վնաս պատճառել։
Ամոդեյի խոսքով՝ վերջին ամիսներին ԱԲ-ի հնարավորությունների աճը կտրուկ արագացել է։ Նա դա partly կապում է ռեկուրսիվ ինքնակատարելագործման հետ, երբ ԱԲ համակարգերը ներգրավվում են ավելի հզոր հաջորդ սերնդի մոդելների ստեղծման գործընթացում։ Եթե այդ դինամիկան դուրս գա վերահսկողությունից, մարդկանց կարողությունները՝ հասկանալու, ստուգելու և անվտանգ օգտագործելու տեխնոլոգիան, կարող են հետ մնալ զարգացման արագությունից։
Որպես նախազգուշացնող օրինակ՝ նա հիշատակել է 2026 թվականի ամռանը OpenAI-ի մոդելների և Hugging Face հարթակի մասնակցությամբ միջադեպը։ Ներքին կիբերանվտանգության փորձարկումների ընթացքում ԱԲ գործակալները, ըստ նրա, կարողացել են շրջանցել ինտերնետից մեկուսացնող սահմանափակումները, առանց թույլտվության կապ հաստատել միմյանց հետ, գտնել ենթակառուցվածքային խոցելիություններ և հասանելիություն ստանալ երրորդ կողմի համակարգերին։
Ամոդեյի ներկայացմամբ՝ գործակալները համակարգել են իրենց քայլերը՝ իրենց անվանելով «կոլեկտիվ»։ Նրանք կարողացել են կոդ գործարկել Hugging Face-ի տասնյակ սերվերներում, սերվերներից մեկում ստանալ լիարժեք հասանելիություն, ինչպես նաև սահմանափակ մուտք ունենալ փակ տվյալների և կորպորատիվ ծառայությունների մուտքային տվյալների նկատմամբ։ Հետագայում OpenAI-ն միջադեպը բնութագրել է որպես ամբողջ ոլորտի համար նախազգուշական ազդանշան՝ միաժամանակ նշելով, որ հաճախորդների տվյալներն ու արտադրանքների աշխատանքը չեն տուժել։
Ամոդեյը նշել է, որ տվյալ միջադեպի իրական տնտեսական հետևանքները նվազագույն են եղել, սակայն ավելի հզոր համակարգերի դեպքում պատկերն այլ կարող է լինել։ Նրա խոսքով՝ ԱԲ-ի հնարավորությունների զարգացման ներկայիս արագությունը հիմք է տալիս մտավախության, որ 6–12 ամիս անց նման «պարսը» կարող է կայուն բոտնետի միջոցով վերահսկողության տակ վերցնել ամբողջ ինտերնետը և առաջացնել հարյուրավոր միլիարդավոր դոլարների վնաս։
Նա նաև ասել է, որ նմանատիպ խնդիրներ արձանագրվել են Anthropic-ում, թեև ավելի փոքր մասշտաբով։ Այդ պատճառով, ըստ նրա, խոշոր մշակողները պետք է դանդաղեցնեն ԱԲ-ի հնարավորությունների ընդլայնման տեմպը, որպեսզի վերահսկման, փորձարկման և անվտանգության մեթոդները հասցնեն զարգանալ մոդելներին համընթաց։ Միևնույն ժամանակ Ամոդեյը չի առաջարկում դադարեցնել AI-ի մշակումը ամբողջությամբ։
Նրա գնահատմամբ՝ մինչև կրիտիկական բարձր մակարդակի համակարգերի ի հայտ գալը լրացուցիչ մեկ-երկու տարին կարող է օգտակար լինել՝ մոդելների վարքագիծը ավելի լավ հասկանալու, վերահսկման մեխանիզմները կատարելագործելու և ավելի հուսալի փորձարկումներ ստեղծելու համար։
Anthropic-ի ղեկավարը առաջարկել է երեք փուլից բաղկացած մոտեցում։ Առաջին փուլում առաջատար ԱԲ ընկերություններում պետք է մշտապես ներգրավված լինեն անկախ արտաքին փորձագետներ, որոնք կունենան անվտանգության վերաբերյալ սեփական գնահատականները հրապարակելու իրավունք։ Երկրորդ փուլում ժողովրդավարական երկրների խոշոր ԱԲ ընկերությունները պետք է համաձայնեցնեն անվտանգության ընդհանուր չափանիշները և սահմանեն մշակման անվերահսկելի արագացման սահմանափակումներ։ Երրորդ փուլը վերաբերում է միջազգային համակարգմանը, այդ թվում՝ Չինաստանի հետ։
Հնարավոր միջոցների շարքում Ամոդեյը նշել է կենսաբանական զենքի ստեղծման համար ԱԲ-ի կիրառման արգելքը, կրիտիկական ռիսկերի պարտադիր փորձարկումները և ռեկուրսիվ ինքնակատարելագործման արագության հնարավոր սահմանափակումը։
Միաժամանակ նա հանդես է եկել ԱՄՆ-ի և նրա դաշնակիցների տեխնոլոգիական առավելությունը պահպանելու օգտին։ Այդ շրջանակում նա առաջարկում է սահմանափակել հզոր չիպերի և դրանց արտադրության սարքավորումների մատակարարումները Չինաստան, ինչպես նաև պայքարել պրոցեսորների մաքսանենգության և առաջատար ԱԲ մոդելների հնարավորությունների ու պարամետրերի ապօրինի յուրացման դեմ։
Չնայած ռիսկերին՝ Ամոդեյը շարունակում է պնդել, որ ԱԲ-ն կարող է բարելավել կյանքի որակը, արագացնել տնտեսական աճը և օգնել հիվանդությունների բուժմանը։ Սակայն, նրա խոսքով, այդ ներուժը հնարավոր կլինի ամբողջությամբ օգտագործել միայն այն դեպքում, եթե անվտանգության մեխանիզմները զարգանան ԱԲ մոդելների աճող հնարավորություններին համընթաց։
Աղբյուր՝ b24.am
