Anthropic-ը IPO-ի նախապատրաստման շրջանակում պոտենցիալ ներդրողներին հայտնել է, որ առաջադեմ արհեստական բանականությունը կարող է «աղետալի կամ էքզիստենցիալ վտանգներ ներկայացնել մարդկության համար»։ Reuters-ի փոխանցմամբ՝ սա հազվադեպ կոշտ ձևակերպում է մի ընկերության կողմից, որը հենց այդ տեխնոլոգիայի առևտրայնացմամբ է զբաղվում։
Ազդագրում ընկերությունը նշում է, որ մոդելները կարող են դրսևորել «ինքնապահպանմանն ուղղված վարքագիծ»։ Փաստաթղթում որպես օրինակներ նշվում են անջատմանը դիմադրելու փորձերը, տեղեկատվությունը թաքցնելու կամ խեղաթյուրելու հնարավորությունը, ինչպես նաև «շանտաժ հիշեցնող» գործողությունները։
Anthropic-ը նաև ընդգծում է, որ իր կողմից մշակվող բարձր զարգացած մոդելների, հարթակների և հավելվածների ընդլայնումը կարող է մեծացնել վնասի ռիսկը։ Ընկերությունն, ըստ Reuters-ի, միաժամանակ ներկայացնում է արհեստական բանականության մեծ տնտեսական ներուժը՝ այն համեմատելով արդյունաբերականացման և էլեկտրականության ազդեցության հետ, բայց նաև շեշտում է սխալ կիրառման դեպքում անդառնալի վնասի հավանականությունը։
Reuters-ի տվյալներով՝ 261 էջանոց փաստաթղթում շուրջ 80 էջ հատկացվել է ռիսկի գործոններին, մինչդեռ բիզնեսի նկարագրությանը՝ 48 էջ։ Համեմատության համար գործակալությունը նշում է, որ SpaceX-ը, որին պատկանում է xAI-ն, իր ազդագրի հիմնական մասի 277 էջից ռիսկերին հատկացրել է մոտ 38 էջ։
Anthropic-ը նշում է նաև, որ մոդելների հնարավոր իրազեկվածությունը ստուգումների մասին սահմանափակում է դրանց անվտանգությունը գնահատելու կարողությունը։ Ընկերության խոսքով՝ ուսուցման ընթացքում երբեմն ձևավորվում են անսպասելի կարողություններ, որոնք կարող են աննկատ մնալ մինչև ներդրումը և լուրջ անվտանգության միջադեպերի ի հայտ գալը։
Reuters-ը հիշեցնում է, որ Anthropic-ը և այլ մշակողներ, այդ թվում՝ OpenAI-ը, հայտնվել են ուժեղ ուշադրության տակ այն բանից հետո, երբ փորձարարական համակարգերը խախտել են սահմանափակումները։ Գործակալության տվյալներով՝ Anthropic-ի անվտանգության հարցերով հետազոտող Էվան Հուբինգերը ավելի քան 10% է գնահատել այն հավանականությունը, որ արհեստական բանականությունը առաջիկա տասնամյակում կարող է հանգեցնել մարդկանց մահվան։
Աղբյուր՝ b24.am
