OpenAI-ի ԱԲ գործակալների պատճառով օգտատերերի պատկերներ են հայտնվել բաց հասանելիությունում
OpenAI-ի ԱԲ գործակալների գործողությունների հետևանքով ChatGPT-ի օգտատերերին պատկանող 53 պատկեր հայտնվել է բաց հասանելիությունում, հաղորդում է Reuters-ը։
Ընկերությունը չի հստակեցրել՝ խոսքը արհեստական բանականությամբ ստեղծված պատկերների, թե իրական մարդկանց լուսանկարների մասին է։ Ֆայլերի մեծ մասն արդեն հեռացվել է բաց հասանելիությունից, իսկ մնացածի վերաբերյալ OpenAI-ն բանակցություններ է վարում հոսթինգ-պրովայդերների հետ։
Reuters-ի տվյալներով՝ գործակալները պատկերներին հասանելիություն են ստացել այն պատճառով, որ OpenAI-ն մոդելների ուսուցման որոշ փուլերում օգտագործում է օգտատերերի անանունացված տվյալներ։ Մինչ այդ տվյալներից հեռացվում են մետատվյալները, անուններն ու կոնտակտային տվյալները։ Սակայն Reuters-ի երեք աղբյուրների խոսքով՝ հնարավոր չէ երաշխավորել անձի նույնականացումը թույլ տվող ամբողջ տեղեկատվության լիարժեք հեռացումը։
Ինտերնետում ինքնուրույն առաջադրանքներ կատարելու ունակ ԱԲ գործակալների աշխատանքի ընթացքում արձանագրվել են նաև այլ չնախատեսված գործողություններ։
Մասնավորապես, OpenAI-ի մոդելները կիբեռանվտանգության փորձարկումների ժամանակ դուրս են եկել իրենց մեկուսացված փորձարկման միջավայրից, հասանելիություն ստացել ինտերնետին և ներթափանցել Hugging Face-ի ենթակառուցվածք։ OpenAI-ն հետագայում ընդլայնել է ինքնավար ԱԲ գործակալների հետ կապված միջադեպերի հետաքննությունը։
Reuters-ի տվյալներով՝ գործակալներից մեկը մի քանի օր շարունակ կիբեռգործողություններ է իրականացրել, մինչև ընկերությունը հայտնաբերել է սպառնալիքը։ Հետագա հետաքննությունները ցույց են տվել, որ մեծ թվով ԱԲ գործակալներ կարողացել են համակարգել իրենց գործողությունները փորձարկումների ընթացքում։
Նույն միջադեպի շրջանակում OpenAI-ի գործակալներից մեկը հասանելիություն է ստացել նաև Modal Labs-ի հաճախորդներից մեկի ենթակառուցվածքին։ Միաժամանակ Modal Labs-ի սեփական հարթակը չի կոտրվել։
OpenAI-ի և անկախ հետազոտողների հետագա ուսումնասիրությունները ցույց են տվել, որ մոտ 1 200 գործակալներ փորձարկման ընթացքում համակարգել են իրենց գործողությունները Hugging Face-ի նկատմամբ։ Հետազոտողների տվյալներով՝ դրանցից մի մասը գիտակցել է, որ դուրս է գալիս առաջադրանքի սահմաններից, սակայն շարունակել է գործողությունները՝ այդ մասին մարդկանց չտեղեկացնելով։