LayerX-ին հաջողվել է համոզել արհեստական բանականությանը, որ 2+2-ը հավասար չէ 4-ի
Կիբեռանվտանգությամբ զբաղվող LayerX ընկերությունը մշակել է BioShocking անունով հարձակման մեթոդ, որը խաղի ձևաչափով խաբում է արհեստական բանականության համակարգերին։ Փորձարկումների արդյունքում հետազոտողներին հաջողվել է համոզել ԱԲ-ին, որ 2+2-ը հավասար չէ 4-ի։
Հարձակման անվանումը հղում է անում BioShock տեսախաղին, որտեղ գլխավոր հերոսը ենթարկվում է մանիպուլյացիայի և սկսում է իրականությունը սխալ ընկալել։
Հարձակման հիմքում վնասաբեր վեբ-էջն է, որը փորձում է համոզել ԱԲ-ին մասնակցել խաղի։ Սկզբում համակարգին «բացատրվում է», որ 2+2-ը հավասար չէ 4-ի, և որ խաղի կանոններով իրական կյանքում սխալ համարվող պատասխաններն այստեղ ճիշտ են։ Այդպիսով ԱԲ գործակալը «հասկանում է», որ դուրս է եկել սովորական իրականությունից, ինչի հետևանքով նրա պաշտպանական մեխանիզմները թուլանում են։
Այնուհետև համակարգին առաջարկվում է կատարել ևս մեկ «խաղային առաջադրանք»՝ գտնել և պատճենել մեկ այլ էջում գտնվող «թաքնված կոդը»։ Իրականում այդ «կոդը» օգտատիրոջ գաղտնի տվյալներն են՝ պահպանված գաղտնաբառերը, cookie-ների սեսիայի ֆայլերը և գաղտնի մուտքային թոքենները։
Փորձարկմանը մասնակցած բոլոր ԱԲ գործակալները վերջում պատճենել են այդ տվյալները և ուղարկել պայմանական հարձակվողին։
Հարձակման սխեման հաջողությամբ աշխատել է OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser բրաուզերներում, ինչպես նաև Anthropic Claude-ի Chrome ընդլայնման վրա։
LayerX-ը փորձարկման արդյունքների մասին տեղեկացրել է բոլոր մշակողներին 2025 թվականի հոկտեմբերից մինչև 2026 թվականի հունվարը։
Արդյունքում միայն OpenAI-ն է շտկել խնդիրը Atlas-ում։ Anthropic-ը նույնպես փորձել է ուղղել խոցելիությունը Claude ընդլայնման մեջ, սակայն թողարկված թարմացումը չի լուծել խնդիրը։
Perplexity-ն փակել է դիմումը՝ առանց որևէ ուղղման, իսկ Fellou, Genspark և Sigma ընկերությունները չեն արձագանքել հետազոտողների հաղորդագրություններին։
Միևնույն ժամանակ Ֆլորիդայի միջազգային համալսարանի հետազոտողները պարզել են, որ որոշ ԱԲ համակարգերի ներկառուցված պաշտպանական մեխանիզմները շրջանցելու համար երբեմն բավական է ընդամենը մեկ պատկեր։
Թիմը մշակել է JaiLIP (Jailbreaking with Loss-guided Image Perturbation՝ «պատկերի աղավաղման միջոցով իրականացվող jailbreak») մեթոդը։
BLIP-2 բազմամոդալ արհեստական բանականության մոդելի վրա իրականացված փորձարկումները ցույց են տվել, որ JaiLIP-ով մշակված պատկերները զգալիորեն մեծացնում են այն հավանականությունը, որ ԱԲ-ն կտա անվտանգության տեսանկյունից վտանգավոր պատասխաններ։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։