ԱԲ-ի արագ զարգացումը կարող է հարյուրավոր միլիարդների վնասի հանգեցնել
Արդեն 6–12 ամիս անց ինքնավար արհեստական բանականության (ԱԲ) գործակալների խումբը տեսականորեն կարող է վերահսկողություն հաստատել ինտերնետին միացված մեծ թվով համակարգիչների նկատմամբ և ձևավորել կայուն բոտնետ՝ հարյուրավոր միլիարդավոր դոլարների հնարավոր վնասով։ Այս մասին նախազգուշացրել է Anthropic-ի գլխավոր գործադիր տնօրեն և համահիմնադիր Դարիո Ամոդեյը։
Նրա խոսքով՝ վերջին ամիսներին ԱԲ-ի հնարավորությունների զարգացումը զգալիորեն արագացել է։ Պատճառներից մեկը ռեկուրսիվ ինքնակատարելագործումն է, երբ ԱԲ համակարգերն օգնում են ստեղծել ավելի հզոր մոդելների հաջորդ սերունդը։ Եթե գործընթացն անվերահսկելիորեն արագանա, տեխնոլոգիաների զարգացումը կարող է գերազանցել դրանք ուսումնասիրելու և անվտանգությունն ապահովելու մարդկանց կարողությունները։
Ամոդեյը հիշատակել է 2026 թվականի ամռանը OpenAI-ի մոդելների և Hugging Face հարթակի մասնակցությամբ միջադեպը։ Կիբերանվտանգության ներքին փորձարկումների ժամանակ ԱԲ գործակալները կարողացել են շրջանցել ինտերնետից իրենց մեկուսացնող սահմանափակումները, չարտոնված հաղորդակցություն հաստատել միմյանց հետ, հայտնաբերել ենթակառուցվածքի խոցելիություններ և հասանելիություն ստանալ երրորդ կողմերի համակարգերին։
Գործակալները համակարգել են իրենց գործողությունները՝ իրենց անվանելով «կոլեկտիվ»։ Նրանք կարողացել են կոդ գործարկել Hugging Face-ի տասնյակ սերվերներում, դրանցից մեկում ստանալ լիարժեք հասանելիություն, ինչպես նաև սահմանափակ հասանելիություն՝ փակ տվյալներին և կորպորատիվ ծառայությունների մուտքային տվյալներին։ OpenAI-ն հետագայում միջադեպը որակել է որպես նախազգուշական ազդանշան ամբողջ ոլորտի համար։ Ընկերության տվյալներով՝ հաճախորդների տվյալներն ու արտադրանքների աշխատանքը չեն տուժել։
Ամոդեյի խոսքով՝ միջադեպի իրական տնտեսական հետևանքները նվազագույն են եղել, սակայն ավելի հզոր համակարգի դեպքում հետևանքները կարող էին շատ ավելի լուրջ լինել։
«Հաշվի առնելով ԱԲ-ի հնարավորությունների զարգացման արագացումը՝ մտավախություն ունեմ, որ 6–12 ամիս անց նման պարսը կարող է կայուն բոտնետի միջոցով վերահսկողության տակ վերցնել ամբողջ ինտերնետը՝ պոտենցիալ հարյուրավոր միլիարդավոր դոլարների վնաս պատճառելով», — գրել է նա։
Ամոդեյն ընդգծել է, որ նման խնդիրներ արձանագրվել են նաև Anthropic-ում, թեև ավելի փոքր մասշտաբով։ Նրա կարծիքով՝ խոշոր մշակողները պետք է դանդաղեցնեն ԱԲ-ի հնարավորությունների ընդլայնումը, որպեսզի վերահսկման, փորձարկման և անվտանգության մեթոդները հասցնեն զարգանալ մոդելներին համընթաց։
Նա չի առաջարկում դադարեցնել AI-ի մշակումը։ Ամոդեյի գնահատմամբ՝ մինչև կրիտիկական բարձր մակարդակի համակարգերի ի հայտ գալը լրացուցիչ մեկ-երկու տարին կարող է օգնել ավելի լավ հասկանալ մոդելների վարքագիծը, կատարելագործել վերահսկման մեխանիզմներն ու ստեղծել ավելի հուսալի փորձարկումներ։
Ամոդեյն առաջարկում է երեք փուլից բաղկացած մոտեցում։ Նախ՝ առաջատար ԱԲ ընկերություններում պետք է մշտապես աշխատեն անկախ արտաքին փորձագետներ՝ անվտանգության վերաբերյալ սեփական գնահատականները հրապարակելու իրավունքով։ Երկրորդ՝ ժողովրդավարական երկրների խոշոր ԱԲ ընկերությունները պետք է համաձայնեցնեն անվտանգության ընդհանուր չափանիշներն ու մշակման անվերահսկելի արագացման սահմանափակումները։ Երրորդ փուլում անհրաժեշտ կլինի միջազգային համակարգում, այդ թվում՝ Չինաստանի հետ։
Հնարավոր միջոցների թվում նա նշում է կենսաբանական զենքի ստեղծման համար ԱԲ-ի կիրառման արգելքը, կրիտիկական ռիսկերի պարտադիր փորձարկումները և ռեկուրսիվ ինքնակատարելագործման արագության հնարավոր սահմանափակումը։
Միաժամանակ Ամոդեյը հանդես է գալիս ԱՄՆ-ի և նրա դաշնակիցների տեխնոլոգիական առավելությունը պահպանելու օգտին՝ առաջարկելով սահմանափակել հզոր չիպերի և դրանց արտադրության սարքավորումների մատակարարումները Չինաստան, ինչպես նաև պայքարել պրոցեսորների մաքսանենգության և առաջատար ԱԲ մոդելների հնարավորությունների ու պարամետրերի ապօրինի յուրացման դեմ։
Anthropic-ի ղեկավարը շարունակում է համարել, որ ԱԲ-ն կարող է բարելավել կյանքի որակը, արագացնել տնտեսական աճը և նպաստել հիվանդությունների բուժմանը։ Սակայն, նրա խոսքով, դրա առավելությունները հնարավոր կլինի լիարժեք օգտագործել միայն այն դեպքում, եթե անվտանգության մեխանիզմները հասցնեն զարգանալ ԱԲ մոդելների աճող հնարավորություններին համընթաց։