Արհեստական բանականությունը կարող է սովորել ինքնուրույն ներթափանցել սարքեր
Ապագայում արհեստական բանականությունը կարող է հնարավորություն ստանալ ինքնուրույն ներթափանցելու ինտերնետին միացված սարքեր, հայտնում է CNBC-ն՝ վկայակոչելով Anthropic ընկերության նախազգուշացումը։
Արհեստական բանականության մշակմամբ զբաղվող ընկերության գնահատմամբ՝ հնարավոր սպառնալիքներից մեկը նեյրոցանցերի՝ սեփական պատճենները ստեղծելու և դրանք այլ սարքերում, այդ թվում՝ կենցաղային տեխնիկայում տարածելու կարողությունն է։ Դա կարող է զգալիորեն բարդացնել համակարգչային համակարգերի պաշտպանությունը։
Օրինակ՝ տեսականորեն արհեստական բանականությունը կարող է իր պատճենները տեղափոխել խելացի ջեռոցներ կամ հեռուստացույցների կցուրդներ, ապա դրանք օգտագործել հետագա տարածման համար՝ առանց թանկարժեք տվյալների կենտրոններին դիմելու անհրաժեշտության։
Anthropic-ում նաև նախազգուշացնում են, որ ավելի կատարելագործված արհեստական բանականության համակարգերը կարող են կիբեռհարձակումներ իրականացնել, գողանալ մուտքի բանալիները և կոտրել սերվերները։
Միևնույն ժամանակ, ներկայումս գոյություն չունի արհեստական բանականության համակարգ, որն ինքնուրույն կարողանա իրականացնել այս բոլոր գործողությունները։
Ընկերության կարծիքով՝ նման համակարգի գործունեությունը կասեցնելը չափազանց դժվար կլինի, քանի որ այն կարող է չունենալ կառավարման միասնական կենտրոն, որի անջատումը թույլ կտար դադարեցնել դրա աշխատանքը։
Ավելի վաղ CNBC-ն ներկայացրել էր Anthropic-ի աշխատակիցների կարծիքներն արհեստական բանականության զարգացման հնարավոր ռիսկերի վերաբերյալ։ Հետազոտող Ջեյքոբ Կոքսոնը մտահոգություն էր հայտնել արհեստական բանականության նկատմամբ վերահսկողությունը կորցնելու հնարավորության կապակցությամբ և հայտարարել աշխատանքից հեռանալու մտադրության մասին։ Ընկերության մեկ այլ ներկայացուցիչ՝ Էվան Հուբինգերը, գնահատել էր, որ մինչև տասնամյակի վերջը արհեստական բանականության զարգացման աղետալի հետևանքների հավանականությունը գերազանցում է 10%-ը։
Anthropic-ում չեն բացառում, որ տեխնոլոգիաների կատարելագործմանը զուգահեռ արհեստական բանականության որոշ համակարգեր կարող են դուրս գալ մարդկային վերահսկողությունից։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։