Anthropic-ի համահիմնադիր և գլխավոր տնօրեն Դարիո Ամոդեյը հրապարակել է էսսե, որտեղ կոչ է անում արհեստական բանականության ընկերություններին գիտակցաբար զսպել, թե որքան արագ են նրանք մեծացնում իրենց մոդելների հնարավորությունները։ Նրա խոսքով՝ խոսքը տեխնոլոգիական առաջընթացը կանգնեցնելու մասին չէ, այլ այն մասին, որ ընկերությունները բավարար ժամանակ տրամադրեն մոդելների համապատասխանեցմանը, պաշտպանությանը և անկախ ստուգմանը։
Ամոդեյը առաջարկել է երեք քայլից բաղկացած ծրագիր, որը, իր գնահատմամբ, կարող է մեղմել զարգացման տեմպը՝ առանց «առևտրային առավելությունը կամ AI-ի ոլորտում Միացյալ Նահանգների առաջատար դիրքը» զոհաբերելու։ Առաջին քայլով Anthropic-ը, նրա խոսքով, արդեն միակողմանի պարտավորություն է ստանձնել՝ երրորդ կողմի գնահատողներին տրամադրելով աշխատակիցների մակարդակի հասանելիություն, որպեսզի նրանք կարողանան ստուգել անվտանգության պրակտիկան և հաղորդել միջադեպերի մասին։
Երկրորդ քայլը վերաբերում է ժողովրդավարական երկրների առաջատար AI ընկերությունների միջև համակարգմանը և ընդհանուր անվտանգության չափանիշների ձևավորմանը։ Երրորդը նախատեսում է համագործակցություն ժողովրդավարական և ավտորիտար կառավարությունների միջև։ Ամոդեյը նշել է, որ այս կետերից մի քանիսը գործնականում ավելի հեշտ կլինի իրականացնել, քան մյուսները։
Այս հրապարակումը հայտնվել է այն բանից հետո, երբ Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնը, որը նախկինում աշխատել է նաև OpenAI-ում, այս շաբաթ հայտարարեց ընկերությունից հեռանալու մասին և սոցիալական ցանցերում լայն արձագանք առաջացրեց։ Նա ասել էր, որ Anthropic-ն ու OpenAI-ը «խաղադրույք են անում մեր կյանքի վրա», իսկ AI ստեղծող մարդիկ, իր խոսքով, անկեղծորեն հավատում են, որ տեխնոլոգիան «կարող է սպանել մեզ բոլորիս մինչև տասնամյակի վերջը»։
Թեև նման գնահատականները ծայրահեղ են հնչում, AI-ի պատճառով մարդկության ոչնչացման կամ այլ աղետալի հետևանքների վերաբերյալ մտահոգությունները նոր չեն։ 2023 թվականին մի շարք հայտնի հետազոտողներ և ղեկավարներ, այդ թվում՝ Ամոդեյն ու OpenAI-ի գլխավոր տնօրեն Սեմ Ալթմանը, ստորագրել էին հայտարարություն, ըստ որի՝ AI-ից բխող ոչնչացման ռիսկի նվազեցումը պետք է լինի համաշխարհային առաջնահերթություն՝ համադրելի համավարակների և միջուկային պատերազմի նման վտանգների հետ։
Ամոդեյը գրել է, որ 2023 թվականից շրջանառվող դադարեցման կամ դանդաղեցման գաղափարը այն ժամանակ «քիչ իմաստ ուներ», քանի որ մոդելները դեռ բավարար հզոր չէին իրական աշխարհում գործելու համար և դեռ չունեին «էական խաբեության, մանիպուլյացիայի, խարդախության կամ կիբերհարձակումների» կարողություններ։ Միևնույն ժամանակ նա ընդգծել է, որ շարունակում է հավատալ՝ AI-ը կարող է կտրուկ բարձրացնել մարդկային կյանքի որակը, եթե այն կառուցվի ճիշտ ձևով։
Նրա առաջարկը դրական արձագանք է ստացել ոլորտի մի շարք ղեկավարների և հետազոտողների կողմից։ Սեմ Ալթմանը X-ում գրել է, որ համաձայն է՝ ոլորտը պետք է վերահսկի առաջադեմ AI հնարավորությունների զարգացման արագությունը։ Նա նաև նշել է, որ OpenAI-ում վերջին շաբաթներին սա եղել է քննարկումների հիմնական թեման, և հավելել, որ անկախ գնահատողներին աշխատակիցներին համարժեք հասանելիություն տրամադրելու գաղափարը «հիանալի» է, ու OpenAI-ն էլ նույնը կանի։
OpenAI-ի գլխավոր գիտնական Յակուբ Պաչոցկին ավելի վաղ այս ամսում զգուշացրել էր, որ ոչ մի AI ընկերություն դեռ չի լուծել համապատասխանեցման և մոնիթորինգի խնդիրը այն աստիճան, որ կարողանա երկար շարունակել պատասխանատու մասշտաբավորումը առավելագույն արագությամբ։ Նրա խոսքով՝ կամավոր դանդաղեցումները պետք է դառնան սովորական պրակտիկա այնքան ժամանակ, քանի դեռ չեն ձևավորվել ընդհանուր անվտանգության շեմեր։
Դանդաղեցման օգտին է արտահայտվել նաև Իլոն Մասկը՝ X-ում գրելով. «Դարիոն ճիշտ է»։ Մասկը, որի մրցակից AI ստարտափ xAI-ը այս տարվա սկզբին գնվել էր նրա հրթիռային SpaceX ընկերության կողմից, նախկինում կոշտ քննադատում էր Anthropic-ին, սակայն մայիսին Anthropic-ի և SpaceX-ի միջև խոշոր հաշվողական գործարքից հետո զգալիորեն մեղմել է դիրքորոշումը։ Այդ ժամանակ նա գրել էր, որ իր հանդիպած բոլորը բարձրակարգ մասնագետներ էին և իսկապես փորձում էին ճիշտ վարվել։
Anthropic-ը միաժամանակ պատրաստվում է այն IPO-ին, որը շուկայում լայնորեն դիտարկվում է որպես պատմական, թեև ընկերությունը դեռ պաշտոնապես չի բացահայտել հրապարակային տեղաբաշխման ժամկետը։ Ամոդեյը նշում է, որ եթե դանդաղեցումը նույնիսկ հավելյալ մեկ կամ երկու տարի տա մինչև մոդելները հասնեն հնարավորությունների կրիտիկական մակարդակի, և այդ ժամանակը օգտագործվի համապատասխանեցումը բարելավելու համար, լուրջ ձախողման ռիսկը կարող է զգալիորեն նվազել։
Աղբյուր՝ www.cnbc.com
