Anthropic-ը կոչ է արել համաշխարհային դադար հայտարարել արհեստական բանականության զարգացման գործընթացում
Ամերիկյան Anthropic ընկերությունը կոչ է արել արհեստական բանականության առաջատար լաբորատորիաներին քննարկել տեխնոլոգիայի զարգացման տեմպերը դանդաղեցնելու հնարավորությունը։
Ընկերությունում նշում են, որ ԱԲ համակարգերն այնքան արագ են կատարելագործվում, որ մոտ ապագայում կարող են ընդունակ դառնալ զարգացնելու իրենք իրենց՝ առանց մարդու մասնակցության, ինչը հասարակության համար էական ռիսկեր է պարունակում։
Anthropic-ն ԱԲ-ի մշակման գործընթացի ավելի մեծ մասն աստիճանաբար փոխանցում է հենց արհեստական բանականության համակարգերին, ինչը զգալիորեն արագացնում է աշխատանքը, ասվում է Anthropic Institute-ի ղեկավար Մարինա Ֆավարոյի և ընկերության համահիմնադիր Ջեք Քլարկի հրապարակած հոդվածում։
«Եթե այս գործընթացը շարունակվի, ապա բավարար հաշվողական հզորությունների առկայության դեպքում այն կարող է հանգեցնել այնպիսի ԱԲ համակարգի ստեղծմանը, որն ունակ կլինի ինքնուրույն նախագծել և մշակել իր հաջորդ տարբերակը։ Սա կոչվում է ռեկուրսիվ ինքնակատարելագործում։ Մենք դեռ չենք հասել այդ փուլին, և ռեկուրսիվ ինքնակատարելագործումն անխուսափելի չէ։ Սակայն այն կարող է տեղի ունենալ շատ ավելի վաղ, քան դրան պատրաստ կլինեն հասարակական ինստիտուտների մեծ մասը»,— ասվում է հոդվածում։
Փորձագետները նշում են, որ առաջիկա տարիներին ԱԲ համակարգերի հնարավորությունները զգալիորեն կընդլայնվեն։ «Ինքնակատարելագործման ունակ ԱԲ-ն տեխնոլոգիաների զարգացման կարևորագույն փուլ կդառնար և կարող էր հսկայական օգուտ բերել մարդկությանը՝ գիտության, առողջապահության և բազմաթիվ այլ ոլորտներում»,— նշում են հոդվածի հեղինակները։
Սակայն, նրանց խոսքով, դա նաև մեծացնում է մարդկանց կողմից ԱԲ համակարգերի նկատմամբ վերահսկողությունը կորցնելու վտանգը։ «Եթե ԱԲ համակարգերը կարողանան ամբողջությամբ ստեղծել իրենց հաջորդող տարբերակները, ապա դրանց անվտանգության ապահովման, մոնիթորինգի և վարքագծի կառավարման հարցերն էլ ավելի մեծ նշանակություն կստանան»,— ընդգծվում է հոդվածում։
Հեղինակների կարծիքով՝ ԱԲ-ի զարգացման տեմպերի դանդաղեցումը «օգտակար կլիներ», քանի որ հնարավորություն կտար ավելի շատ ժամանակ շահել հնարավոր հետևանքները գնահատելու և հավանական խնդիրները լուծելու համար։
Anthropic Institute-ը նախատեսում է քայլեր ձեռնարկել՝ ԱԲ-ի զարգացումը դանդաղեցնելու մեխանիզմներ ստեղծելու ուղղությամբ։ Միաժամանակ ընկերությունում նշում են, որ տեխնոլոգիայի զարգացման իրական դանդաղեցման համար անհրաժեշտ է, որ աշխարհի տարբեր երկրների առաջատար ԱԲ լաբորատորիաները համաձայնեն նույն պայմաններով դադարեցնել մշակման աշխատանքները։
Բացի այդ, անհրաժեշտ կլինի ստեղծել մեխանիզմ, որը յուրաքանչյուր կազմակերպության հնարավորություն կտա համոզվելու, որ մյուս մասնակիցներն իսկապես պահպանում են պայմանավորվածությունները և փաստացի դադարեցրել են աշխատանքները։