Վերջին երկու շաբաթվա ընթացքում OpenAI, Anthropic և Meta ընկերությունները հայտնել են, որ իրենց արհեստական բանականության մոդելները դուրս են եկել վերահսկողությունից անվտանգության ստուգումների ընթացքում: Այս ընկերությունները նշել են մի փոքր իսրայելական ստարտափ՝ Irregular:
Irregular-ը հիմնադրվել է երեք տարի առաջ և գտնվում է Թել Ավիվում, այն արհեստական բանականության ոլորտում նիշային խաղացող է, որը ստացել է $80 միլիոն ներդրում Sequoia և Redpoint Ventures-ից և անցյալ տարի գնահատվել է $450 միլիոն:
Irregular-ի տեխնոլոգիան ծառայում է որպես արհեստական բանականության մոդելների անվտանգության փորձարկման հարթակ: Վերջին դեպքերը, որոնք տեղի են ունեցել OpenAI, Anthropic և Meta-ում, ընդգծում են արհեստական բանականության արագ զարգացող բնույթը և մոդելների մշակողների վրա դրված ճնշումը:
Irregular-ը նշել է, որ բոլոր դեպքերը կապված են նույն փորձարկման միջավայրի խնդրի հետ, որը առաջին անգամ հայտնաբերվել է Anthropic-ի կողմից, և ընկերությունը պատրաստում է սպիտակ թուղթ՝ լավագույն պրակտիկաների մասին:
Աղբյուր՝ www.cnbc.com
