OpenAI-ի գլխավոր տնօրեն Սեմ Ալթմանը մանրամասնել է, թե ինչպես կարող են գործել արհեստական բանականության անվտանգության կանոնները՝ միանալով Anthropic-ի ղեկավար Դարիո Ամոդեի և Elon Musk-ի այն կոչին, որով նրանք հանգստյան օրերին առաջարկել էին դանդաղեցնել ոլորտի ամենաառաջատար մոդելների զարգացումը։
Ալթմանը X-ում հրապարակած գրառմամբ նշել է, որ OpenAI-ը «ողջունում է» դաշնային այնպիսի շրջանակը, որը կսահմանի միասնական անվտանգության պահանջներ frontier AI լաբորատորիաների համար։ Նրա խոսքով՝ «ամերիկյան մրցակցային ճնշման որևէ մակարդակ չպետք է արդարացնի անզգուշությունը»։
Նա առանձնացրել է երկու սցենար, որոնց դեպքում AI-ի զարգացումը կարող է գնալ «շատ վատ» ճանապարհով՝ ապագայի նկատմամբ վերահսկողությունը AI-ին զիջելը և չափազանց մեծ իշխանության կենտրոնացումը մեկ մարդու կամ մեկ ընկերության ձեռքում։ Միևնույն ժամանակ, Վաշինգտոնում օրենսդիրները փորձում են արձագանքել անվտանգության լրացուցիչ երաշխիքների կոչերին։
Թեման ավելի սուր է դարձել այն բանից հետո, երբ անցած շաբաթ Anthropic-ի մի հետազոտող հեռացել էր ընկերությունից՝ զգուշացնելով, որ տեխնոլոգիան ստեղծողները կարծում են, թե այն կարող է «մեզ բոլորիս սպանել մինչև տասնամյակի վերջը»։ Դրան հաջորդել էին Anthropic-ի և մրցակից OpenAI-ի այլ աշխատակիցների զգուշացումները աղետալի ռիսկերի մասին։
Շաբաթ օրը Ալթմանը և Elon Musk-ը պաշտպանել էին Դարիո Ամոդեի էսսեն, որտեղ առաջարկվում էր դանդաղեցնել այն արագությունը, որով AI ընկերությունները բարելավում են իրենց ամենաառաջադեմ մոդելները։ Երկուշաբթի շուկան բացասաբար արձագանքեց այդ հայտարարություններին, և AI ընկերությունների բաժնետոմսերը նվազեցին։ ԱՄՆ նախագահ Donald Trump-ը կիրակի մերժել էր ղեկավարների զգուշացումները՝ ասելով, որ նման դանդաղեցում պետք չէ և այն կարող է վտանգել ԱՄՆ-ի առաջատար դիրքը Չինաստանի նկատմամբ AI ոլորտում։
Ալթմանի մեկնաբանությունները հնչում են այն պահին, երբ Anthropic-ը և OpenAI-ը պատրաստվում են պատմական մասշտաբի սպասվող IPO-ներին։ Միևնույն ժամանակ, Fortune-ին տված շաբաթ օրվա հարցազրույցում Ալթմանը բացառել էր 2026 թվականին OpenAI-ի բորսա դուրս գալու հնարավորությունը։
Ամոդեիի երեք քայլից բաղկացած առաջարկը
AI անվտանգության շուրջ հիմնական մտահոգություններից մեկը կապված է այն սցենարի հետ, երբ մոդելները ձեռք են բերում սեփական արդյունավետությունը բարելավելու ունակություն։ Այդ մոտեցումը հայտնի է որպես recursive self-improvement, կամ RSI։
Իր էսսեում Ամոդեին գրել է, որ մոտավորապես այս ամառվանից AI-ը սկսել է առաջ շարժվել կտրուկ ավելի արագ՝ մեծապես այն պատճառով, որ AI-ն ավելի ունակ է դարձել կառուցել AI-ի հաջորդ սերունդը։ Նրա գնահատմամբ՝ եթե այդ գործընթացը մնա առանց վերահսկողության, այն կարող է գերազանցել նման համակարգերը հասկանալու և կառավարելու մարդկային կարողությունը։
Ամոդեին առաջարկել է երեք քայլից բաղկացած ծրագիր, որը, իր խոսքով, պետք է զսպի զարգացման տեմպը՝ առանց «զոհաբերելու առևտրային առավելությունը կամ AI-ում Միացյալ Նահանգների առաջատար դիրքը»։ Այդ ծրագրով frontier AI ընկերությունները պետք է արտաքին գնահատողներին տրամադրեն «աշխատակցի մակարդակի հասանելիություն»։ Ամոդեին ասել է, որ Anthropic-ն արդեն ստանձնում է այդ պարտավորությունը։ Նա նաև կոչ է արել առաջատար AI լաբորատորիաներին սահմանել ընդհանուր անվտանգության չափանիշներ, սահմանափակել անվերահսկելի առաջընթացի արագությունը և փորձել համակարգել գործողությունները գլոբալ մակարդակում։
Ալթմանը շաբաթ օրը կարճ գրառմամբ համաձայնել էր, որ AI ընկերությունները պետք է «կարգավորեն frontier-ի տեմպը»։ Նա հավելել էր, որ անկախ գնահատողների համար աշխատակցին համարժեք հասանելիություն ապահովելու գաղափարը «հիանալի է», և OpenAI-ն էլ կանի նույնը։ Երկուշաբթի իր նոր գրառման մեջ նա ընդգծել է, որ frontier ռիսկերի կառավարման հետևողական կանոնները լավ գաղափար են, այդ թվում՝ անկախ աուդիտորների ներգրավմամբ։ Սակայն, նրա խոսքով, «տեմպի կարգավորումը» չի նշանակում «կանգնեցնել» առաջընթացը, քանի որ զարգացումը եղել է արագ և այդպիսին էլ կմնա։
Ալթմանի խոսքով՝ այդպիսի դանդաղեցման գինը արդարացված է, եթե դա թույլ է տալիս չթողնել, որ կարողությունները առաջ անցնեն համակարգերի համապատասխանեցումից և մոնիթորինգից։ Նա նաև նշել է, որ կառավարության աջակցությունը հատկապես պետք կգա միջազգային համակարգման հարցում, թեև նախ ոլորտը պետք է փորձի հնարավորն անել սեփական ուժերով։
Միջազգային համակարգման դժվարությունը
AI անվտանգության միջոցների և ոլորտի հնարավոր դանդաղեցման հարցում Չինաստանի մրցակից մշակողների հետ համակարգումը, ամենայն հավանականությամբ, կլինի ամենաբարդ խնդիրը։ ԱՄՆ-ը և Չինաստանը շարունակում են պայքարել AI ոլորտում գերազանցության համար, իսկ լարվածությունն աճում է, քանի որ չինական մոդելները դարձել են ավելի առաջադեմ և ավելի լայն տարածում են գտնում աշխարհում։
Կիրակի Ամոդեին ասել էր, որ իր առաջարկի «ամենաբարդ երկընտրանքը» այն է, թե ինչ կլինի, եթե հակառակորդ երկրները նույն ճանապարհով չգնան։ CBS News-ի «Sunday Morning» հաղորդմանն տված հարցազրույցում նա նշել էր, որ ավելի երկարաժամկետ նպատակը AI առաջընթացի արագության համար ընդհանուր «սահմանափակման» շուրջ համագործակցելն է, սակայն դա շատ դժվար է, քանի որ առաջ անցնելու խթաններն ու դրանից բխող ռազմական առավելությունը չափազանց մեծ են։ Նրա խոսքով՝ ինքը չգիտի՝ արդյոք դա հնարավոր է, բայց փորձել պետք է։
Ամոդեիի էսսեն քննադատության է արժանացել նաև Չինաստանում։ Պետական Global Times-ը երկուշաբթի գրել էր, որ նրա առաջարկները փորձում են Չինաստանի օրինական AI զարգացումը ներկայացնել որպես սպառնալիք և ավելի խորացնել հակադրությունը Չինաստանի ու ԱՄՆ-ի միջև։ Չինաստանի ԱԳՆ-ն էլ երկուշաբթի ղեկավարների հայտարարությունները բնութագրել էր որպես «fear mongering»։
Աղբյուր՝ www.cnbc.com
