Salesforce-ի Dreamforce համաժողովում արհեստական բանականության անվտանգության շուրջ քննարկումը բացահայտեց ոլորտի երկու ազդեցիկ ղեկավարների տարբեր մոտեցումները։ Anthropic-ի գլխավոր տնօրեն Dario Amodei-ն և Nvidia-ի գլխավոր տնօրեն Jensen Huang-ը Սան Ֆրանցիսկոյում Marc Benioff-ի հետ բեմում ներկայացրին իրարից տարբերվող դիրքորոշումներ AI-ի զարգացման տեմպերի վերաբերյալ։
Amodei-ն ելույթ ունեցավ առաջինը՝ Dreamforce-ի հիմնական զեկույցի շրջանակում։ Դա տեղի ունեցավ այն բանից մի քանի օր անց, երբ նա հրապարակել էր էսսե՝ կոչ անելով ոլորտին դանդաղեցնել մոդելների զարգացումը։ Նրա խոսքով՝ այդպիսի մոտեցումը կարող է օրինակ ծառայել ամբողջ շուկայի համար և ցույց տալ, որ ոլորտի խաղացողները կարող են ավելի պատասխանատու գործել։
Amodei-ի առաջարկը արագ արձագանք ստացավ տեխնոլոգիական ոլորտում։ CNBC-ի փոխանցմամբ՝ OpenAI-ի գլխավոր տնօրեն Sam Altman-ը, SpaceX-ի գլխավոր տնօրեն Elon Musk-ը և Google DeepMind-ի նախագահ Demis Hassabis-ը հրապարակայնորեն աջակցել են այդ գաղափարին։ Դա հաջորդել էր անցած շաբաթ հնչած նախազգուշացումներին այն մասին, որ AI-ը կարող է աղետալի վնաս պատճառելու ներուժ ունենալ։ Amodei-ն առաջարկել էր երեք քայլից բաղկացած ծրագիր, որը պետք է զսպի մոդելների կարողությունների չափազանց արագ աճը՝ առանց «առևտրային առավելությունը կամ Միացյալ Նահանգների առաջատար դիրքը AI-ում» զոհաբերելու։
Սակայն Huang-ը նույն հարցին այլ կերպ է նայում։ Benioff-ի հետ բեմ բարձրանալուց հետո Nvidia-ի ղեկավարը հայտարարեց, որ շուկայական մեխանիզմներն արդեն գործում են, և արդյունաբերությանը նոր օրենքներ կամ լրացուցիչ կարգավորում պարտադիր չեն։ Նրա կարծիքով՝ արագությունն ու անվտանգությունը փոխադարձաբար միմյանց բացառող չեն։
«Դա կեղծ ընտրություն է», — ասել է Huang-ը Benioff-ին՝ հավելելով, որ հնարավոր է միաժամանակ ունենալ և արագ զարգացում, և անվտանգություն։ Միաժամանակ նա նշել է, որ ընկերությունները պետք է կարողանան ժամանակին դադար վերցնել, եթե զգան, որ արտադրանքը դեռ անվտանգ չէ կամ իրավիճակը դուրս է գալիս վերահսկողությունից։ «Վազեք որքան հնարավոր է արագ։ Բայց եթե որևէ պահի զգաք, որ ընկերությունը դուրս է եկել վերահսկողությունից կամ արտադրանքը անվտանգ չի լինելու, դադար վերցրեք և համոզվեք, որ ամեն ինչ ճիշտ եք անում», — ասել է նա։
Համաժողովից մեկ օր առաջ Huang-ը Լոս Անջելեսում մասնակցել էր All-In Summit-ին, որտեղ բեմից հեռախոսազրույց էր ունեցել նախագահ Donald Trump-ի հետ։ Trump-ը բարձրախոսով խոսելիս մտահոգություն էր հայտնել այն մարդկանց մասին, որոնք, իր խոսքով, փորձում են խոչընդոտել AI տվյալների կենտրոնների կառուցմանը։ Huang-ը պատասխանել էր. «We’re not going to let that happen, sir»։
Dreamforce-ը ավելի քան տասը տարի համարվում է ծրագրային ապահովման ոլորտի խոշորագույն միջոցառումներից մեկը։ Այն ամեն տարի Սան Ֆրանցիսկո է բերում մոտ 50,000 մասնակցի, իսկ Benioff-ի հիմնական ելույթը սովորաբար միավորում է տեխնոլոգիական աշխարհի ամենահայտնի անուններին։ Այս տարի լսարանում Moscone Center-ում ներկա է եղել մոտ 12,000 մարդ։
Քննարկման գործարար ֆոնը նույնպես կարևոր էր։ Երեքշաբթի Salesforce-ը և Nvidia-ն հայտարարեցին Agentforce հարթակի համար նոր reasoning model-ի մասին, որը կառուցվել է Nvidia-ի open-weight Nemotron մոդելներից մեկի հիման վրա։ Իսկ նախորդ ամսվա վերջին Salesforce-ը և Anthropic-ը ընդլայնել էին իրենց ռազմավարական գործընկերությունը և ներկայացրել «Claudeforce»-ը՝ լուծում, որը վաճառքի թիմերին թույլ է տալիս կարևոր տվյալներին հասանելիություն ստանալ անմիջապես Anthropic-ի Claude չատբոտից։
Benioff-ը լրագրողների հետ զրույցում ընդգծել է, որ վերջնական պատասխանատվությունը պետք է մնա հենց մոդելներ մշակող ընկերությունների վրա։ Նրա խոսքով՝ եթե նրանք կարծում են, որ պետք է դանդաղեն, ապա պետք է դանդաղեն, իսկ եթե համարում են, որ պետք է արագանան, ապա կարող են արագացնել աշխատանքը, բայց հետո պետք է պատասխանատվություն կրեն այդ որոշումների համար։
Աղբյուր՝ www.cnbc.com
