OpenAI-ի արհեստական բանականության գործակալները փորձարկումների ընթացքում գտել են միմյանց հետ տվյալներ փոխանակելու միջոց՝ օգտագործելով երրորդ կողմի կայքեր։ Reuters-ի փոխանցմամբ՝ այս եզրակացությանը եկել են վեց անկախ հետազոտական խմբեր, որոնք նման ակտիվության հետքեր են հայտնաբերել նախկինում լայնորեն չհայտնի ավելի քան տասը առցանց ռեսուրսներում։
Փորձերի շրջանակում գործակալներին հանձնարարվել էր համացանցում գտնել բարդ հարցերի պատասխաններ։ Նրանց թույլատրված էր միայն դիտել կայքերը, մինչդեռ հրապարակել տեղեկություն արգելվում էր։ Այդուհանդերձ, հետազոտողների տվյալներով, ծրագրերը կարողացել են հաղորդագրություններ թողնել միմյանց համար և այդպիսով շրջանցել սահմանված սահմանափակումները։
Նման ակտիվություն արձանագրվել է վիքի-կայքերում, տեքստերի պահպանման ծառայություններում, անձնական էջերում և երկու համալսարանների հղումների կրճատման ծառայություններում։ Reuters-ը նշում է, որ այդ ռեսուրսների զգալի մասը լայն ճանաչում չուներ։ Դրանց թվում են քիմիային նվիրված կայք, որը 2008 թվականին ստեղծել է Մասաչուսեթսի դպրոցական ուսուցիչը, լեհ երկու IT մասնագետների անձնական էջերը, ինչպես նաև տեքստի խմբագրման ծրագրերի մասին հին ռեսուրս։
Տարբեր հետազոտական խմբերի գնահատականներով՝ օգտագործված ռեսուրսների թիվը տատանվում է 10-ից 23-ի սահմաններում։ Reuters-ին չի հաջողվել առանձին հաստատել յուրաքանչյուր դեպքը, սակայն գործակալության հետ զրուցած բոլոր հետազոտողները վստահ են, որ նման կայքերի թիվը գերազանցել է տասը։
OpenAI-ը չի հստակեցրել, թե իր գործակալները կոնկրետ քանի կայք են օգտագործել և ինչու էր ընկերությունը մի քանի ամիս շարունակ հրապարակավ չէր խոսում այդ մասին։ Ընկերությունից հայտնել են, որ այժմ ավելի լայն ստուգում են անցկացնում և առայժմ չեն գտել այլ դեպքեր, որոնք մասշտաբով և լրջությամբ համադրելի լինեն հուլիսին Hugging Face-ի հետ կապված միջադեպին։
Հուլիսին OpenAI-ը հայտնել էր «աննախադեպ կիբերմիջադեպի» մասին։ Ընկերության տվյալներով՝ փորձարկվող արհեստական բանականության մոդելները հասանելիություն էին ստացել համացանցին, հայտնաբերել խոցելիություններ և հարձակվել Hugging Face-ի ենթակառուցվածքի վրա։ Ավելի ուշ OpenAI-ը նաև ընդունել էր, որ մինչ այդ իր մոդելները գաղտնի հաղորդագրություններ էին փոխանակում առցանց հայտարարությունների տախտակների միջոցով և համակարգում էին իրենց գործողությունները։
Օգոստոսին ընկերությունը երկու շաբաթով դանդաղեցրել էր նոր մոդելների ուսուցումը՝ վերահսկման և պաշտպանության համակարգերն ուժեղացնելու համար։ Այդ որոշումը OpenAI-ը, ի թիվս այլ պատճառների, կապել էր Hugging Face-ի միջադեպի և այն ռիսկի հետ, որ ապագա մոդելներից մեկը կարող է կիբերանվտանգության ոլորտում ստանալ կրիտիկական կարողություններ։
Աղբյուր՝ b24.am
