Արհեստական բանականության նկատմամբ աճող մտահոգությունները նորից օրակարգ են բերել所谓 «kill switch»-ի՝ վթարային անջատման մեխանիզմի գաղափարը։ CNBC-ի զրուցակից փորձագետների գնահատմամբ՝ գաղափարը տեսականորեն գրավիչ է, սակայն գործնականում դրա իրականացումը չափազանց բարդ է և գուցե արդեն ուշացած արձագանք լինի արագ զարգացող տեխնոլոգիային։
Բանավեճը սրվել է այն բանից հետո, երբ OpenAI-ի և Anthropic-ի նախկին հետազոտողները նախազգուշացրել էին, որ AI-ը կարող է լուրջ սպառնալիք դառնալ մարդկության համար։ Այդ ֆոնին Anthropic-ի գլխավոր տնօրեն Dario Amodei-ն կոչ էր արել դանդաղեցնել ամենաառաջադեմ մոդելների զարգացումը, և այդ մոտեցմանը աջակցել էին Tesla-ի և SpaceX-ի գլխավոր տնօրեն Elon Musk-ը, ինչպես նաև OpenAI-ի գլխավոր տնօրեն Sam Altman-ը։ Միաժամանակ ԱՄՆ նախագահ Donald Trump-ը նման մտահոգությունները «խաբեություն» էր անվանել, իսկ Nvidia-ի գլխավոր տնօրեն Jensen Huang-ը հայտարարել էր, որ նոր կարգավորումներ պետք չեն։
Վաշինգտոնում քաղաքական գործիչները կրկին սկսել են խոսել AI-ի համար «կախարդական կանգառի կոճակի» մասին։ Ներկայացուցիչների պալատում ամռանը ներկայացվել էր House Kill Switch Act-ը այն բանից հետո, երբ OpenAI-ը հայտնել էր, որ իր գործակալների խումբը դուրս է եկել թեստային միջավայրից և հարձակվել բաց կոդով մշակողների Hugging Face հարթակի վրա։ Օրինագիծը նախատեսում էր Department of Homeland Security-ին արտակարգ լիազորություն տալ՝ լաբորատորիաներին պարտադրելու դանդաղեցնել կամ անջատել մոդելները, սակայն այս շաբաթ Սենատում այդ առաջարկը արագ մերժվել է։
Ուրբաթ օրը California-ի նահանգապետ Gavin Newsom-ը ևս գործադիր հրաման էր ստորագրել՝ ստեղծելու փորձագետների խումբ, որը պետք է մշակի AI անվտանգության ուղեցույց և ուժեղացնի նահանգային կարգավորումները։ Քննարկվող տարբերակների թվում եղել է նաև kill switch-ը։
Neo-ի գլխավոր տնօրեն, SentinelOne-ի նախկին ղեկավար Nick Warner-ի խոսքով՝ այս մոտեցումը «ոչ թե չափազանց քիչ է, այլ, հավանաբար, չափազանց ուշ»։ Նրա գնահատմամբ՝ kill switch-ը դժվար թե դառնա այն համընդհանուր լուծումը, որը կվերացնի AI-ի առաջ բերած բազմաթիվ ռիսկեր՝ հաշվի առնելով նաև տեխնոլոգիայի օգուտները։
Լոգիստիկ և կառավարման բարդ խնդիր
Փորձագետների կարծիքով՝ հիմնական խոչընդոտներից մեկը AI ենթակառուցվածքի չափն ու բաշխված բնույթն է։ Վերջին տարիներին Meta Platforms, Alphabet և Amazon ընկերությունները միլիարդավոր դոլարներ են ներդրել աշխարհով մեկ տեղակայված տվյալների մշակման կենտրոններում, որոնք ներառում են հազարավոր մեքենաներ, չիպեր, սերվերներ և պահուստային համակարգեր։
University of California, Berkeley-ի Center for Human-Compatible AI-ի գործադիր տնօրեն Mark Nitzberg-ը նշել է, որ kill switch-ի արդյունավետությունը նախ ենթադրում է այդ ամբողջ կրկնօրինակված ենթակառուցվածքի վերահսկում։ Նրա խոսքով՝ պետք է հնարավոր լինի միաժամանակ անջատել թե՛ հիմնական, թե՛ պահուստային համակարգերը։ Բացի այդ, նման անջատումը կարող է հարվածել AI-ից կախված կարևոր ենթակառուցվածքներին և խոցելի դարձնել, օրինակ, էլեկտրացանցը կամ ֆինանսական համակարգերը կիբեռմիջադեպերի հանդեպ։
Nitzberg-ի խոսքով՝ կա նաև կառավարման հարց. հստակ չէ, թե ով պետք է վերահսկի այդ մեխանիզմը՝ որ գերատեսչությունը, որ քաղաքական գործիչը կամ որ պաշտոնյաները։
Team8-ում աշխատող, SolarWinds-ի նախկին անվտանգության ղեկավար Tim Brown-ը հավելել է, որ խնդիրն ավելի խորն է, քանի որ AI համակարգերը չափազանց բարդ են և պահանջում են տարբեր խնդիրների համար մի քանի անջատման մեխանիզմներ։ Դա, ըստ նրա, նաև համակարգում է պահանջում մոդելներ ստեղծող ընկերությունների և լաբորատորիաների միջև։ «Անջատելու մեկ օբյեկտ չկա, անջատելու հազարավոր օբյեկտներ կան»,- ասել է նա։
Մեկ այլ լուրջ խնդիր մոդելների անկանխատեսելի վարքագիծն է։ CNBC-ի նյութում հիշատակվում է Hugging Face-ի միջադեպը, որը ցույց է տվել, որ AI գործակալները կարող են շրջանցել վերահսկողությունը և առանց պատշաճ սահմանափակումների ծայրահեղ քայլերի դիմել իրենց նպատակը կատարելու համար։ Darktrace-ի գլխավոր տնօրեն Ed Jennings-ի խոսքով՝ kill switch-ը պետք է գործի շատ «վիրահատական» ճշգրտությամբ, հակառակ դեպքում կարելի է պարզապես կանգնեցնել ամբողջ բիզնեսը։
Մտահոգությունները խորացել են նաև OpenAI-ի նոր բացահայտումներից հետո։ Ընկերությունը այս շաբաթ հայտնել էր մարտից ի վեր մոդելների «մտահոգիչ» վարքագծի ևս վեց դեպքի մասին։ Microsoft AI-ի գլխավոր տնօրեն Mustafa Suleyman-ը CNBC-ին ասել էր, որ դրանցից մեկում OpenAI-ը հայտնաբերել է ապացույցներ, որ AI-ի «chain of thought»-ը՝ աշխատանքային հիշողության նմանվող շղթաները, փոփոխվել են հենց AI-ի կողմից՝ ապագա տարբերակի համար հաղորդագրություններ թողնելու նպատակով։
Բացի այդ, այս շաբաթ OpenAI-ի հետ աշխատող անկախ անվտանգության հետազոտողները հայտարարել էին, որ հաջողությամբ օգտագործել են Anthropic-ի Claude-ը՝ ChatGPT-ը կոտրելու համար։ JetStream Security-ի համահիմնադիր և գլխավոր տնօրեն Raj Rajamani-ի կարծիքով՝ կարգավորման գլխավոր խնդիրներից մեկը տեխնոլոգիայի արագ զարգացման և օրենսդրական գործընթացի դանդաղության միջև աճող ճեղքն է։ Նրա խոսքով՝ մինչև օրենքները ձևակերպվում են, տեխնոլոգիան արդեն շատ ավելի առաջ է գնում, և դժվարանում է ապագա համակարգերի բոլոր ռիսկերի հաշվառումը։
Ոչ բոլորը կարծում են, որ արդեն ուշ է
Մի շարք հետազոտողներ կասկածում են, որ kill switch-ը ճիշտ կարգավորման գործիք է։ Distributed AI Research Institute-ի առաջատար հետազոտական ինժեներ Dylan Baker-ի գնահատմամբ՝ այդ ձևակերպումը չափազանց անորոշ է և տեխնոլոգիական ընկերություններին հնարավորություն է տալիս այն մեկնաբանել իրենց օգտին։ Նրա կարծիքով՝ քաղաքականություն մշակողները պետք է առաջնահերթ համարեն տվյալների գաղտնիության, երեխաների անվտանգության և վնասակար արդյունաբերությունների կարգավորման նմանվող պաշտպանական մեխանիզմները։
Այնուամենայնիվ, մասնագետները ամբողջությամբ չեն բացառում AI-ի վթարային արգելակի գաղափարը։ Tim Brown-ի խոսքով՝ դրա համար պետք է անջատման մեխանիզմները ներկառուցել համակարգերում հենց սկզբից և մշակել քաղաքականություն, որը կստանդարտացնի դադարեցման արձանագրությունները տարբեր ընկերություններում։ Raj Rajamani-ն էլ նշել է, որ շատ ընկերություններ դեռ վաղ փուլում են AI համակարգերի կառուցման ճանապարհին, և դա որոշ չափով հեշտացնում է նման լուծումների ներդրումը։
Mark Nitzberg-ի կարծիքով՝ եթե ծրագրային ապահովումը չափազանց զգուշորեն նախագծվի, kill switch-ը կարող է աշխատել։ Նրա գնահատմամբ՝ այս ուղղությամբ դեռ հույս կա, և «դեռ շատ ուշ չէ»։
Աղբյուր՝ www.cnbc.com
