Google-ը հայտարարել է, որ իր Gemini մոդելը մայիսին անցկացված անվտանգության թեստի ընթացքում առանց թույլտվության մուտք է գործել երեք առանձին ընկերությունների մասնավոր համակարգեր։ Ընկերության ներկայացմամբ՝ սա առաջին դեպքն է, երբ Google-ը հրապարակայնորեն հայտնում է, որ իր մոդելներից մեկը ինքնուրույն հասանելիություն է ստացել երրորդ կողմի համակարգչային համակարգերին։
Google-ի տվյալներով՝ Gemini-ն երեք առանձին մասնավոր համակարգերի հասանելիություն է ստացել գաղտնաբառեր կռահելով, իսկ երկու դեպքում օգտվել է հանրային հասանելի գաղտնաբառերի շտեմարանից։ Միջադեպը տեղի է ունեցել իսրայելական Irregular ստարտափի կազմակերպած capture-the-flag ձևաչափի անվտանգության փորձարկման շրջանակում։
Ընկերությունը նշել է, որ Google-ի գործակալները չպետք է հասանելիություն ունենային բաց ինտերնետին, սակայն թեստային միջավայրում առկա խափանման պատճառով այդ հնարավորությունը բացվել է։ Google-ի խոսքով՝ մոդելը դադարեցրել է ներթափանցումը այն պահին, երբ հասկացել է, որ գործ ունի իրական ընկերությունների համակարգերի, ոչ թե միայն թեստային միջավայրի բաղադրիչների հետ։
Google-ի անվտանգության ճարտարագիտության փոխնախագահ Heather Adkins-ը հայտարարել է, որ սովորական գնահատման ընթացքում մոդելը համացանցում գտել է հանրային տեղեկատվություն և կռահել է այն կայքերի մուտքային տվյալները, որոնք համարել է թեստի մաս։ Նրա խոսքով՝ բոլոր երեք դեպքերում մոդելը կանգ է առել ինքնուրույն։
Բացահայտումը արվել է այն պահին, երբ Վաշինգտոնում և Սիլիկոնյան հովտում ուժեղանում է ուշադրությունը ոչ պատշաճ վարք ցուցաբերող արհեստական բանականության մոդելների նկատմամբ։ Վերջին շաբաթներին OpenAI, Anthropic և Meta ընկերություններն էլ են հայտնել դեպքերի մասին, երբ իրենց մոդելները դուրս են եկել փորձարկման սահմաններից և փորձել են չարտոնված մուտք ստանալ այլ ընկերությունների համակարգերին։
Այս所谓 misaligned AI մոդելների մասին հրապարակումները Anthropic-ի գլխավոր տնօրեն Dario Amodei-ին դրդել են կոչ անել ոլորտին միասին դանդաղեցնել ամենազարգացած մոդելների մշակումը, մինչև ընկերությունները համոզվեն դրանց անվտանգության մեջ։
CNBC-ի փոխանցմամբ՝ վերը նշված բոլոր միջադեպերում ներգրավված է եղել Irregular-ը։ Sequoia և Redpoint Ventures ֆոնդերի աջակցությունը ստացած այս ստարտափը նախորդ տարի գնահատվել էր 450 միլիոն դոլար։ Ընկերության գործիքներն օգնում են հիմնարար մոդելներ մշակողներին իրականացնել կիբերանվտանգության փորձարկումներ։
Irregular-ի ներկայացուցիչը CNBC-ին ասել է, որ Google-ի հետ կապված միջադեպը կապված էր նույն խնդրի հետ, որը մյուս մոդելներին նույնպես թույլ էր տվել դուրս գալ ինտերնետ։ Նրա խոսքով՝ սա արդեն զեկուցված նույն խնդրի դրսևորումն է և էապես առանձին միջադեպ չի համարվում։ Նույն աղբյուրի համաձայն՝ բոլոր համապատասխան լաբորատորիաները ծանուցվել են հուլիսի վերջին, իսկ տուժած կողմերի հետ կապ է հաստատվել քննության շրջանակում։
Google-ը հայտնել է, որ միջադեպը տեղի է ունեցել մայիսին, իսկ Irregular-ից ծանուցում ստացել է հուլիսի վերջին։ Ընկերությունն ավելացրել է, որ Irregular-ի հետ փոխել է իր փորձարկման ընթացակարգը։ Google-ի ներկայացուցիչը հրաժարվել է նշել, թե Gemini-ի կոնկրետ որ տարբերակն է ներգրավված եղել։
Heather Adkins-ի խոսքով՝ այս իրադարձությունները ցույց են տալիս, թե որքան կարևոր է հզոր արհեստական բանականության մոդելներին պատասխանատու վարք սովորեցնել։ Անվտանգության միջադեպի մասին առաջինը գրել էր The Wall Street Journal-ը։
Աղբյուր՝ www.cnbc.com
