Anthropic-ը հայտարարել է, որ ընտրել է Accenture-ին որպես ներկառուցված գնահատող՝ ընկերության արհեստական բանականության մոդելների անվտանգության ստուգումներին ներգրավելու համար։ Սա առաջին կոնկրետ քայլն է CEO Dario Amodei-ի այն նախաձեռնության շրջանակում, որով նա առաջարկել էր դանդաղեցնել ամենաառաջադեմ AI մոդելների զարգացման տեմպը։
Ընկերության հաղորդագրության համաձայն՝ Anthropic-ը և Accenture-ը համաձայնել են առաջիկա հինգ տարվա ընթացքում առնվազն $1 միլիարդ ներդնել այս ուղղությամբ կարողությունների ձևավորման համար։ Միաժամանակ Anthropic-ը նշել է, որ թեմայի «կարևորության և հրատապության» պատճառով Accenture-ի աշխատանքը կֆինանսավորի անմիջապես ինքը։ Ընկերությունը նաև ընդգծել է, որ երկարաժամկետ հեռանկարում նման գործունեության ֆինանսավորումը, ըստ իր դիրքորոշման, պետք է գա համատեղ ֆոնդերից կամ պետական աղբյուրներից, ինչպես նշվել էր հունիսին հրապարակված Advanced AI Framework-ում։
Dario Amodei-ն ավելի վաղ ներկայացրել էր եռաստիճան ծրագիր, որը միտված է սահմանափակելու, թե որքան արագ AI ընկերությունները կբարելավեն իրենց ամենահզոր մոդելները։ Այդ ծրագրի առաջին փուլը նախատեսում է, որ անկախ երրորդ կողմի գնահատողները ստանան աշխատակցի մակարդակի հասանելիություն՝ անվտանգության պրակտիկաները ստուգելու և միջադեպերի մասին զեկուցելու համար։ Amodei-ն հայտարարել էր, որ Anthropic-ը այս քայլը ստանձնել է «միակողմանիորեն» և կոչ էր արել նաև մյուս AI ընկերություններին հետևել նույն օրինակին։
Anthropic-ը հայտնել է, որ սկզբնական փուլում ընկերության ներսում կաշխատեն Faculty-ի աշխատակիցները, որը Accenture-ի մասնագիտացված AI բիզնեսն է։ Նրանց առաջադրանքը կլինի փորձարկել պաշտպանական մեխանիզմները, անցկացնել red-team գնահատումներ և ստուգել, թե արդյոք մոդելների վարքը համապատասխանում է մարդկային արժեքներին։ Ընկերությունը հավելել է, որ համագործակցությունը բացառիկ չէ, և ներկայում քննարկումներ են ընթանում նաև հետազոտական ոչ առևտրային կազմակերպություն METR-ի և այլ կողմերի հետ։
Վերջին շաբաթներին Anthropic-ը և նրա հիմնական մրցակից OpenAI-ը հայտնվել են մեծ ուշադրության կենտրոնում այն բանից հետո, երբ մի շարք հետազոտողներ նախազգուշացրել են, որ AI-ը տեսականորեն կարող է մարդկության համար աղետալի վնասի պատճառ դառնալ։ Amodei-ի առաջարկը տեխնոլոգիական ոլորտում ստացել է տարբեր արձագանքներ. այն աջակցել են OpenAI-ի CEO Sam Altman-ը, ինչպես նաև Tesla և SpaceX-ի CEO Elon Musk-ը, մինչդեռ Nvidia-ի CEO Jensen Huang-ը նվազեցրել է նման մտահոգությունների նշանակությունը և ասել, որ նոր կարգավորման անհրաժեշտություն չկա։
Միաժամանակ շուկայում հարցեր են բարձրացվում, թե գործնականում ինչ տեսք կունենա Anthropic-ի առաջարկած մոտեցումը, հատկապես այն պայմաններում, երբ ընկերությունը պատրաստվում է IPO-ի, որը լայնորեն համարվում է պոտենցիալ խոշոր գործարք։
Anthropic-ը շեշտել է, որ իր մոդելների անվտանգության համար վերջնական պատասխանատվությունը մնում է հենց ընկերության վրա, և ներկառուցված գնահատողների հետ աշխատանքը չի նվազեցնի այդ պատասխանատվությունը։ Ընկերության խոսքով՝ այս վաղ քայլերի հրապարակումը նպատակ ունի ցույց տալ գործընթացը հանրությանը և AI ոլորտի մյուս մասնակիցներին, իսկ մոտեցումը կարող է զարգանալ ոլորտի հասունացման հետ մեկտեղ։
Աղբյուր՝ www.cnbc.com
