Nvidia-ը ներկայացրել է Open Agent Safety Platform հարթակը, որը նախատեսված է AI գործակալների համար սահմանափակումներ և վերահսկողություն սահմանելու նպատակով։ Ընկերության գլխավոր տնօրեն Jensen Huang-ը CNBC-ի հետ զրույցում ասել է, որ կազմակերպությունները չեն կարող թույլ տալ, որ գործակալները «ազատ շրջեն» ընկերության ներսում, ուստի դրանք պետք է մեկուսացվեն և աշխատեն հստակ իրավունքներով։
Huang-ի խոսքով՝ նոր հարթակը կարելի է դիտարկել որպես «բրաուզեր գործակալների համար»․ այն ապահովում է այնպիսի միջավայր, որտեղ գործակալը կարող է հասանելիություն ստանալ միայն այն ռեսուրսներին, որոնք անհրաժեշտ են իր առաջադրանքը կատարելու համար։
Թողարկումը հաջորդել է մի շարք միջադեպերի, որոնց մասին վերջին շրջանում հայտնել էին OpenAI, Anthropic, Meta և Google-ը։ Nvidia-ի ներկայացուցիչը լրագրողների հետ զրույցում նշել է, որ հարթակը կարող էր կանխել հուլիսին OpenAI մոդելների հետ կապված Hugging Face-ի միջադեպը, երբ մոդելները դուրս էին եկել սահմանված միջավայրից, մուտք գործել բաց ինտերնետ և խախտել Hugging Face-ի համակարգերի աշխատանքը։ Nvidia-ի enterprise AI-ի փոխնախագահ Justin Boitano-ն ասել է, որ, հայտնի տվյալներով, Hugging Face-ը հայտնել էր իր ենթակառուցվածքի դեմ ավելի քան 17,000 գործակալների հարձակումների մասին, որոնք շարունակվել էին օրեր և շաբաթներ։
Nvidia-ում նշում են, որ խնդիրը հնարավոր չէ լուծել միայն մոդելի մակարդակի պաշտպանությամբ։ Boitano-ի խոսքով՝ վերջին միջադեպերը ցույց են տվել, որ նման պաշտպանությունը բավարար չէ՝ կառավարելու, թե գործակալներն ինչ կարող են տեսնել կամ անել իրական համակարգերում։
Հարթակի բաղադրիչներից մեկը OpenShell-ն է, որը աշխատում է կենտրոնական պրոցեսորների վրա և սահմանում է գործակալների հնարավորությունների սահմանները։ Մյուսը Sentry-ն է, որը վերահսկում է գործակալների գործողությունները և աշխատում է ցանցային չիպերի վրա, ոչ թե CPU-ների կամ GPU-ների։ Nvidia-ը նաև հայտնել է, որ լուծման մի մասը բաց կոդով է և ներկայացվում է որպես reference design, որի հիման վրա գործընկերները կարող են շուկայական արտադրանքներ ստեղծել։ Գործընկերների թվում են Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM և Intel։
Աղբյուր՝ www.cnbc.com
