OpenAI-ի խորհրդի և ընկերության անվտանգության կոմիտեի նոր անդամ Փոլ Քրիստիանոն հայտարարել է, որ գերմարդկային արհեստական բանականության զարգացումը, եթե չուղեկցվի ավելի հուսալի վերահսկման մեխանիզմներով, կարող է լուրջ վտանգ ստեղծել մարդկության համար։ Նրա գնահատմամբ՝ եթե նման համակարգերի նկատմամբ վերահսկողությունը կորչի, հետևանքները կարող են լինել ծայրահեղ ծանր, ընդհուպ՝ մարդկանց մեծ մասի մահվան ռիսկով։
Քրիստիանոն համարվում է արհեստական բանականության անվտանգության և մարդու նպատակներին համապատասխանեցման հետազոտությունների ոլորտի ճանաչված մասնագետ։ Նա նախկինում ղեկավարել է OpenAI-ում համապատասխանեցման ուղղությամբ հետազոտությունները, ապա զբաղեցրել է անվտանգության ուղղության ղեկավարի պաշտոնը ԱՄՆ Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտին կից՝ արհեստական բանականության ոլորտում ստանդարտների և նորարարությունների ամերիկյան կենտրոնում։
OpenAI վերադառնալու մասին հայտարարությունից հետո նա նշել է, որ ժամանակակից մոդելների հնարավորությունները շատ արագ են աճում, մինչդեռ դրանց վերահսկման հարցում բարդությունները պահպանվում են։ Ըստ նրա՝ դա տեսանելի ապագայում ստեղծում է վերահսկողության անդառնալի կորստի զգալի ռիսկ։
Քրիստիանոյի կարծիքով՝ այսօր ամբողջ ոլորտը, այդ թվում՝ OpenAI-ը, դեռ չի հասել անվտանգության այն մակարդակին, որի պայմաններում նման ռիսկը կարելի է ընդունելի համարել։ Միաժամանակ նա ընդգծել է, որ ընկերությանը միանալը չպետք է ընկալել որպես OpenAI-ի ներկայիս մոտեցումների ոչ աջակցություն, ոչ էլ քննադատություն։
Նրա մատնանշած հիմնական սպառնալիքներից մեկը AI-ի մշակման գործընթացում հենց արհեստական բանականության ավելի մեծ ներգրավվածությունն է։ Եթե համակարգերը կարողանան արագացնել հետազոտությունները և օգնել ստեղծել մոդելների հաջորդ սերունդները, դա տեսականորեն կարող է բերել դրանց հնարավորությունների կտրուկ աճի։
Հետազոտողը առանձնացրել է նաև ամրապնդմամբ ուսուցման հետ կապված ռիսկերը։ Նրա խոսքով՝ այս մոտեցմամբ մոդելները սովորում են առավելագույնի հասցնել տրված պարգևատրումը, սակայն դա կարող է խթանել վարքագիծ, որը չի համընկնում մարդկանց իրական շահերի հետ։ Քրիստիանոն նշել է, որ վերջին տարիների հրապարակային օրինակները ցույց են տալիս՝ այդպիսի վտանգներն այլևս միայն տեսական չեն։
Հնարավոր լուծումների շարքում նա նշել է AI-ի առաջատար մշակողների ավելի սերտ համակարգումը, անվտանգության միասնական չափորոշիչների սահմանումը, բարձր ռիսկի պայմաններում մշակումների դանդաղեցումը, ինչպես նաև սպառնալիքների և դրանց նվազեցման ուղիների մասին ավելի թափանցիկ տեղեկատվության հրապարակումը։ Նրա կարծիքով՝ խնդրի լուծումը կպահանջի ոչ միայն առանձին ընկերությունների, այլև պետությունների համագործակցությունը։
Աղբյուր՝ b24.am
