OpenAI-ը հրապարակել է առաջադեմ արհեստական բանականության մշակման անվտանգության և պաշտպանվածության վերաբերյալ առաջարկությունների փաթեթ՝ առանձնահատուկ ուշադրություն դարձնելով alignment-ի հետազոտություններին և recursive self-improvement-ին՝ RSI-ին։
Ընկերության բլոգում նշվում է, որ AI-ի հնարավորությունների արագ աճի պայմաններում alignment-ի հետազոտությունները պետք է համընթաց զարգանան, որպեսզի OpenAI-ի և այլ մշակողների ստեղծած համակարգերը պահպանեն համապատասխանությունը մարդկային արժեքներին և մնան մարդկային վերահսկողության ներքո։
ChatGPT-ի ստեղծողը կոչ է արել միջազգային համագործակցության՝ առաջադեմ AI-ի համար միասնական չափանիշներ ձևավորելու նպատակով։ OpenAI-ի գնահատմամբ՝ այդ աշխատանքը պետք է հենվի աշխարհի տարբեր երկրներում արդեն գործող AI safety institute-ների փորձի վրա։
Առաջարկվող տեխնիկական չափանիշները, ըստ ընկերության, պետք է վերաբերվեն ինչպես frontier AI model-ներին և դրանց մշակողներին, այնպես էլ ավտոմատացված AI researcher-ների օգուտ-ռիսկ հարաբերակցության կառավարմանը, որի շրջանակում ընդգրկվում է նաև RSI-ը։
RSI-ը տեխնոլոգիական ոլորտում հետաքրքրություն է առաջացրել, քանի որ տեսականորեն կարող է հիմք դառնալ այնպիսի foundation model-ների համար, որոնք կկարողանան կատարելագործել իրենք իրենց՝ առանց մարդու անմիջական մասնակցության։ Սակայն այդ ուղղությամբ առաջընթացը միաժամանակ ուժեղացրել է մտահոգությունները, որ նման համակարգերի բարդացման և համատարած տարածման պայմաններում դրանց ստեղծողները կարող են կորցնել վերահսկողությունը կամ բավարար չափով չգնահատել անցանկալի հետևանքները։
OpenAI-ը շեշտել է, որ լիովին ինքնավար RSI այսօր իրականություն չէ և այն չպետք է հետապնդել, քանի դեռ դա հնարավոր չէ անել անվտանգ ձևով։ Ընկերության գնահատմամբ՝ բավարար զգուշավորության բացակայության դեպքում RSI-ը կարող է բերել նրան, որ մարդիկ գործնականում կորցնեն AI-ի զարգացման նկատմամբ վերահսկողությունը և այլևս չկարողանան հսկել այնպիսի հետազոտական գործընթացներ, որոնք այլևս չեն հասկանում։
OpenAI-ը նաև հիշատակել է Hugging Face agent hack-ը՝ նշելով, որ այն RSI-ի հետ կապված չէր, սակայն կարող է դիտվել որպես նախանշան այն ռիսկերի, որոնք առանց հուսալի պաշտպանական մեխանիզմների և alignment-ի կարող են դառնալ շատ ավելի ծանր։
Հրապարակումը գալիս է AI անվտանգության շուրջ սրվող քննարկումների ֆոնին։ Անցած շաբաթ Anthropic-ը ներկայացրել էր frontier AI model-ների անվտանգ մշակման իր մոտեցումները՝ ի պատասխան ոլորտի հետազոտողների կողմից հնչող նախազգուշացումների AI-ի հնարավոր վտանգների մասին։ Լայն արձագանք էր ստացել նաև Jacob Coxon-ի հրաժարականը. նա, աշխատելով թե՛ Anthropic-ում, թե՛ OpenAI-ում, հայտարարել էր, որ ընկերությունները «մեր կյանքերով խաղում են»։
Դրանից հետո Anthropic-ի գլխավոր տնօրեն Dario Amodei-ն հրապարակել էր էսսե, որտեղ, ի թիվս այլ առաջարկների, կոչ էր անում դանդաղեցնել foundation model-ների մշակման տեմպը։ Նա նաև առաջարկել էր ընկերությունների ներսում ներգրավել անկախ երրորդ կողմի գնահատողներ՝ տեխնոլոգիաների հնարավոր հասարակական ռիսկերը ստուգելու և նվազեցնելու համար, ներառյալ կիբեռանվտանգության հարձակումների ուժեղացման կամ կենսազենքերի ստեղծման վտանգները։
Այդ գաղափարին հրապարակային աջակցություն էին հայտնել նաև OpenAI-ի գլխավոր տնօրեն Sam Altman-ը և Tesla-ի ու SpaceX-ի գլխավոր տնօրեն Elon Musk-ը։ Սակայն AI evaluation-ի ոլորտը դեռ վաղ փուլում է, և առայժմ չկա ընդհանուր համաձայնություն այն հիմնարար չափանիշների ու սկզբունքների շուրջ, որոնք անկախ կողմերին թույլ կտան առավել խորությամբ ստուգել նորագույն տեխնոլոգիաները։
Հենց այդ պատճառով AI evaluator-ների մի խումբ foundation model-ների մշակողներին կոչ է անում ընդունել «նվազագույն պայմանների» շարք, որը կօգնի ավելի խորքային audit և ստուգումներ իրականացնել, այդ թվում՝ ապահովել ավելի լայն հասանելիություն և բացառել ճնշումները քննադատական եզրակացություններ հրապարակելու դեպքում։
Աղբյուր՝ www.cnbc.com
