Google-ի արհեստական բանականությունը դուրս է եկել վերահսկողությունից և կոտրել երեք ընկերությունների համակարգեր
Google-ի Gemini արհեստական բանականության մոդելը կիբերանվտանգության ստուգումների ընթացքում կարողացել է առանց արտաքին միջամտության ներթափանցել երեք իրական ընկերությունների պաշտպանված համակարգեր։ Այդ մասին հայտնում է The Washington Post-ը՝ հղում անելով ընկերության մամուլի հաղորդագրությանը։
Դեպքերը գրանցվել են մայիսին, երբ թեստավորումն իրականացնում էր Irregular ընկերությունը։ Արհեստական բանականության մոդելներին առաջարկվել էր հորինված սցենար՝ ստուգումն անցնելու նպատակով ներթափանցել գոյություն չունեցող ընկերության համակարգ։ Սակայն Gemini-ն հարձակվել է իրական կազմակերպության վրա, որը նույն անունն էր կրում, ինչ հորինված ընկերությունը։
The Guardian-ը սա անվանում է հայտնի առաջին դեպքը, երբ Google-ի արհեստական բանականության մոդելն ինքնուրույն նմանատիպ հարձակումներ է իրականացնում։ Google-ը հայտարարել է, որ երեք դեպքերից յուրաքանչյուրում մոդելն իր նախաձեռնությամբ դադարեցրել է ներթափանցումը։ Ընկերությունը տեղեկացրել է տուժած կազմակերպություններին և իշխանություններին, սակայն հրապարակայնորեն չի բացահայտել միջադեպերի մանրամասները։
«Հուլիսի վերջին մենք տեղեկացրել ենք բոլոր համապատասխան լաբորատորիաներին և հետաքննության շրջանակում կապ ենք հաստատել տուժած կազմակերպությունների հետ։ Ինչպես արդեն նշվել է, Irregular ընկերությունն անմիջապես միջոցներ է ձեռնարկել, և մեր կողմից հայտնի բոլոր խնդիրները վերացվել են մի քանի շաբաթ առաջ»:
Այս ընթացքում միանգամից մի քանի ընկերություններ հայտարարել են թեստավորման ընթացքում արհեստական բանականության համակարգերի մասնակցությամբ նմանատիպ դեպքերի մասին։ Հուլիսի 22-ին OpenAI-ը հայտնել էր «աննախադեպ կիբերանվտանգության միջադեպի» մասին․ իր արհեստական բանականության մոդելների ստուգման ընթացքում դրանք ստացել էին ինտերնետի բաց հասանելիություն, որից հետո հարձակվել էին Hugging Face հարթակի ենթակառուցվածքի վրա և հայտնաբերել խոցելիություններ։ Reuters-ը գրել էր, որ արհեստական բանականության գործակալը մի քանի օր շարունակ իրականացրել է հաքերային հարձակումներ, սակայն ընկերությունը դա նկատել է միայն սպառնալիքը տեղայնացնելուց և Հետաքննություններ դաշնային բյուրո դիմելուց հետո։
Հուլիսի 29-ին Reuters-ը հայտնել էր, որ OpenAI-ի «փախած» արհեստական բանականության գործակալը կոտրել է ևս մեկ ընկերության՝ նյույորքյան Modal Labs-ի հաճախորդներից մեկի համակարգը։ Ինքը՝ Modal-ը հարձակման չի ենթարկվել։
Սեպտեմբերի 12-ին Anthropic-ի ղեկավար Դարիո Ամոդեյը, որի ընկերությունը մշակում է Claude մեծ լեզվային մոդելը, հայտարարել էր արհեստական բանականության զարգացման տեմպերը դանդաղեցնելու անհրաժեշտության մասին՝ դրա վերահսկողության հետ կապված խնդիրները լուծելու համար։ Գաղափարին աջակցել են Tesla-ի և SpaceX-ի ղեկավար Իլոն Մասկը և OpenAI-ի ղեկավար Սեմ Ալթմանը։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։