Արհեստական բանականության ոլորտում սրվել է բանավեճը՝ արդյոք անհրաժեշտ է դանդաղեցնել նոր մոդելների ուսուցումն ու զարգացումը անվտանգության նկատառումներով։ Քննարկման նոր ալիքը սկսվեց այն բանից հետո, երբ Anthropic-ի գլխավոր տնօրեն Dario Amodei-ն կոչ արեց «դանդաղեցնել սահմանագիծը» և ներկայացրեց AI-ի ռիսկերը զսպելու իր մոտեցումը։
CNBC-ի գնահատմամբ, այս քննարկումը կարևոր է, սակայն ներդրողների համար հիմնական հարցը մնում է նույնը՝ կդանդաղե՞ն արդյոք AI-ի վրա ծախսերը և ոլորտի ընդլայնումը։ Պարբերականի եզրակացությունն այն է, որ էական դանդաղում մոտ ապագայում քիչ հավանական է, քանի որ դրա դեմ աշխատում է ԱՄՆ-ի և Չինաստանի միջև աշխարհաքաղաքական մրցակցությունը։
Amodei-ն իր «We Must Pace the Frontier» էսսեում առաջարկել էր երեք քայլից բաղկացած մոտեցում։ Առաջինը՝ յուրաքանչյուր լաբորատորիայում ներգրավել անկախ անվտանգության գնահատողներ։ Հաջորդ քայլերը վերաբերում են ժողովրդավարական երկրների միջև ընդհանուր դիրքորոշման ձևավորմանը, ապա նաև ավտորիտար կառավարությունների հետ անվտանգության չափանիշների և «AI-ի անվերահսկելի առաջընթացի տեմպի սահմանափակման» շուրջ համակարգմանը։ Նրա խոսքով՝ նման համակարգման որոշ ձևեր իրավական առումով բարդ են և կպահանջեն պետական աջակցություն։
Այս մոտեցմանը հրապարակային աջակցություն են հայտնել OpenAI-ի Sam Altman-ը և SpaceX-ի Elon Musk-ը։ OpenAI-ն իր հերթին հրապարակել է «անսպասելի կամ մտահոգիչ վարքագծի» վեց օրինակ և նշել, որ ոլորտը դեռ բավարար չափով չի լուծել առանցքային անվտանգության խնդիրները, որպեսզի երկար ժամանակ շարունակի մասշտաբավորումը առավելագույն արագությամբ։ Musk-ն էլ գրել է, որ «Dario-ն ճիշտ է», իսկ ավելի ուշ առաջարկել է, որ ամերիկյան և չինական առաջատար ընկերությունները միմյանց մոդելների վրա անվտանգության թեստեր անցկացնեն։
Սակայն դանդաղեցման գաղափարի ընդդիմախոսներն էլ ազդեցիկ են։ Nvidia-ի գլխավոր տնօրեն Jensen Huang-ը հայտարարել է, որ նոր օրենքներ կամ հակամենաշնորհային բացառություններ պետք չեն, որպեսզի ընկերությունները պատշաճ ինժեներական աշխատանք կատարեն մինչև արտադրանքը շուկա հանելը։ Նրա ձևակերպմամբ՝ անվտանգությունը և թեստավորումը առաջին հերթին ինժեներական խնդիրներ են։
Տեխնոլոգիական ներդրող և Սպիտակ տան նախկին AI և կրիպտոյի պատասխանատու David Sacks-ը Amodei-ին մեղադրել է կարգավորումների միջոցով մուտքի շեմը բարձրացնելու փորձի մեջ։ Նրա կարծիքով, եթե ընկերությունները կարծում են, որ իրենց չթողարկված մոդելները չափազանց վտանգավոր են, ապա կարող են սեփական որոշմամբ դանդաղել, բայց չպետք է դա ներկայացնեն որպես բոլորի համար պարտադիր ուղի։ Meta Platforms-ի գլխավոր տնօրեն Mark Zuckerberg-ն էլ նշել է, որ շուկան ինքն է խթանում անվտանգությունը, և օրինակ բերել, որ Meta-ն մի քանի ամսով հետաձգել է իր Muse մոդելի թողարկումը՝ անվտանգության և պաշտպանության վրա կենտրոնանալու համար։
CNBC-ն առաջարկում է այս բանավեճին նայել խաղերի տեսության և հատկապես «բանտարկյալի դիլեմայի» միջոցով։ Այդ տրամաբանությամբ, եթե երկու կողմերը՝ այս դեպքում ԱՄՆ-ն ու Չինաստանը, կարողանային պարտադրելի ձևով համաձայնեցնել AI-ի զարգացման դանդաղեցումը, արդյունքը բոլորի համար ավելի անվտանգ կլիներ։ Բայց քանի որ նման համագործակցությունը գործնականում դժվար է վերահսկել և պարտադրել, ամենայն հավանականությամբ երկու կողմերն էլ կընտրեն շարունակել առաջ շարժվել արագ տեմպով, որպեսզի չզիջեն մրցակցին։
Հրապարակման մեկնաբանությամբ՝ սա հենց այն իրավիճակն է, որը խաղերի տեսության մեջ նկարագրվում է որպես Nash equilibrium՝ ոչ թե բոլորի համար լավագույն, այլ առավել հավանական արդյունք։ ԱՄՆ-ն չի ցանկանա դանդաղել՝ վտանգելով, որ Չինաստանը կշարունակի արագ առաջընթացը և կարող է կրճատել կամ շրջանցել ամերիկյան առավելությունը։ Նույն կերպ Չինաստանը չի ցանկանա սահմանափակվել, եթե կասկածի, որ ԱՄՆ-ն նույնը չի անի։
Amodei-ն ինքն էլ ընդունել է, որ Չինաստանի հետ գլոբալ համակարգումը չափազանց բարդ է։ Նա գրել է, որ ցանկացած համաձայնություն պետք է կա՛մ խիստ ստուգելի լինի, կա՛մ այնքան սահմանափակ, որ խախտումը գոյաբանական ռազմական վտանգ չդառնա։ CNBC-ն սա դիտում է որպես լրացուցիչ ապացույց, որ համաշխարհային մասշտաբով պարտադրելի դանդաղեցում իրականացնելը չափազանց դժվար խնդիր է։
Palantir-ի գլխավոր տնօրեն Alex Karp-ն էլ CNBC-ի եթերում ասել է, որ առաջատար ամերիկյան լաբորատորիաները լիովին չեն գնահատում դանդաղեցման աշխարհաքաղաքական հետևանքները։ Նրա խոսքով՝ մրցակցությունը Չինաստանի հետ շարունակում է մնալ կենտրոնական հարց, իսկ ԱՄՆ-ի նախագահ Donald Trump-ի և Չինաստանի նախագահ Xi Jinping-ի հնարավոր շփումներից արագ համաձայնություն սպասելը չափազանց լավատեսական կլինի։
CNBC-ի վերջնական եզրակացությունն այն է, որ ներդրողները չպետք է AI ոլորտի բաժնետոմսերի նկատմամբ իրենց մոտեցումը կառուցեն միայն դանդաղեցման կոչերի վրա։ Պարբերականի գնահատմամբ՝ քանի դեռ չկա պարտադրելի միջազգային համագործակցություն, ԱՄՆ-ն ու Չինաստանը, ամենայն հավանականությամբ, չեն հրաժարվի արագ առաջխաղացումից, իսկ դա նշանակում է, որ AI-ի զարգացման և դրա վրա ծախսերի էական դանդաղում առայժմ չի երևում։
Աղբյուր՝ www.cnbc.com
