Բիլ Գեյթսը նախազգուշացրել է արհեստական բանականության պատճառով մեկ միլիարդ մարդու մահվան վտանգի մասին
Արհեստական բանականության զարգացումը կարող է աղետի հանգեցնել, որի հետևանքով մեկ միլիարդ մարդ կզոհվի։ Նման նախազգուշացում է արել Microsoft-ի հիմնադիր Բիլ Գեյթսը NBC News-ին տված հարցազրույցում։
«ԱԲ-ն, անկասկած, բավական հզոր է իրադարձություններ կառավարելու համար, որոնք, ինչպես գիտեք, կարող են հանգեցնել մեկ միլիարդ մարդու մահվան։ Գիտեք, թեև 100-տոկոսանոց արդյունքի հասնելը բավական դժվար է, երբեք չի եղել այնպիսի հզոր զենք, ինչպիսին նորագույն ԱԲ գործիքներից օգտվող չարամիտ մտադրություններ ունեցող մարդկանց միավորումն է», – հայտարարել է նա։
Գեյթսը համոզված է, որ ԱԲ ոլորտում գործող ընկերությունների սեփական ինքնակարգավորման մեխանիզմները բավարար չեն լինի։ Նրա կարծիքով՝ առանց պետության մասնակցության տեխնոլոգիայի զարգացման նկատմամբ վերահսկողությունն անհնար է։
Գործարարը կոչ է արել ԱՄՆ իշխանություններին ընդունել համապատասխան օրենքներ։ Բացի այդ, նա անհրաժեշտ է համարում իրավապահ մարմիններին և քաղաքական գործիչներին ներգրավել ԱԲ-ի անվտանգության երաշխիքների և մոնիթորինգի հարցերի քննարկմանը։
«Եվ դա պետք է պարտադիր լինի։ Դա ոլորտի համար փոքր լրացուցիչ ծախսեր կստեղծի, բայց չի հանգեցնի այն ամենի կտրուկ դանդաղեցմանը, ինչով նրանք զբաղվում են», – հավելել է Գեյթսը։
Մինչ ԱԲ-ն արագ զարգանում է, տեխնոլոգիական ոլորտում չեն դադարում նման համակարգերի նկատմամբ վերահսկողությունը կորցնելու հավանականության հետ կապված ռիսկերի շուրջ քննարկումները։ Ավելի զգուշավոր մոտեցման անհրաժեշտության մասին նախազգուշացրել են ԱԲ ոլորտի առաջատար ընկերությունների, այդ թվում՝ Anthropic-ի և OpenAI-ի ղեկավարներն ու հետազոտողները։
Anthropic-ի ղեկավար Դարիո Ամոդեին ավելի վաղ կոչ էր արել դանդաղեցնել ԱԲ-ի զարգացումը՝ ինքնավար գործակալների հետ կապված միջադեպերի ֆոնին։ Նա նշել էր, որ նման համակարգերն արդեն ունակ են գործել առանց մշակողների ուղղակի հրահանգների, և նախազգուշացրել էր, որ ներկայիս տեմպերի պահպանման դեպքում 6-12 ամսվա ընթացքում դրանք կարող են օգտագործել մշտապես գործող բոտնետ և մի քանի հարյուր միլիարդավոր դոլարների վնաս պատճառել։
Ավելի զգուշավոր զարգացման գաղափարին աջակցել են OpenAI-ի ղեկավար Սեմ Ալթմանը և Իլոն Մասկը։ Ալթմանը հանդես է եկել ԱԲ համակարգերի անվտանգությունը գնահատելու գործընթացում անկախ փորձագետների ներգրավման օգտին։ Մասկն իր հերթին հիշեցրել է արհեստական բանականության սպառնալիքների վերաբերյալ իր նախկին նախազգուշացումները և դրա պոտենցիալ վտանգը համեմատել միջուկային զենքի հետ։
Առանձին մասնագետներ նույնպես կոչ են արել սահմանափակել զարգացման տեմպերը։ Anthropic-ի նախկին հետազոտող Ջեյքոբ Կոքսոնը, որը լքել է ոլորտը՝ ինքնուսուցվող համակարգերի զարգացման հետ կապված մտահոգությունների պատճառով, չէր բացառել, որ մինչև 2027 թվականի վերջ իրավիճակը կարող է դուրս գալ վերահսկողությունից։ Palantir-ի և PayPal-ի համահիմնադիր Փիթեր Թիելը հայտարարել էր, որ նույնիսկ ԱԲ-ի՝ մարդու վերահսկողությունից դուրս գալու 5-10% հավանականությունն անհանգստացնող է։ Միևնույն ժամանակ, նա ընդգծել էր, որ նման սցենարը հավանական չի համարում։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։