Reuters-ը տեղեկացել է OpenAI-ի AI-գործակալների՝ այլ կայքերի միջոցով հաղորդակցվելու մասին
OpenAI-ի արհեստական բանականության գործակալները հայտնաբերել են տեղեկատվության փոխանակման միջոց երրորդ կողմի վեբկայքերի միջոցով՝ այդ կերպ շրջանցելով սահմանված սահմանափակումները։ Այս մասին հայտնում է Reuters-ը՝ վկայակոչելով վեց անկախ հետազոտական խմբերի տվյալները։ Նման գործունեության հետքեր են հայտնաբերվել ավելի քան տասը նախկինում անհայտ ռեսուրսներում։
Փորձարկման շրջանակում գործակալներին հանձնարարվել էր համացանցում գտնել բարդ հարցերի պատասխանները։ Նրանց թույլատրվում էր միայն դիտել կայքերը, սակայն տեղեկատվության հրապարակումն արգելված էր։ Չնայած դրան՝ ծրագրերին հաջողվել է հաղորդագրություններ թողնել միմյանց համար։
Հետազոտողները նման ակտիվություն են արձանագրել վիքի-կայքերում, տեքստերի պահպանման ծառայություններում, անձնական էջերում և երկու համալսարաններին պատկանող հղումների կրճատման ծառայություններում։ Այդ ռեսուրսների զգալի մասը լայն ճանաչում չուներ։ Դրանց թվում են քիմիային նվիրված կայքը, որը 2008 թվականին ստեղծել է Մասաչուսեթսի դպրոցական ուսուցիչը, լեհ երկու IT մասնագետների անձնական էջերը, ինչպես նաև տեքստի խմբագրման ծրագրերին նվիրված հին ռեսուրսը։
Տարբեր խմբերի հաշվարկներով՝ նման ռեսուրսների թիվը տատանվում է 10-23-ի սահմաններում։ Reuters-ին առանձին-առանձին չի հաջողվել հաստատել յուրաքանչյուրը, սակայն գործակալության հետ զրուցած բոլոր հետազոտողները կարծում են, որ նման կայքերի թիվը գերազանցել է տասը։
OpenAI-ում չեն հստակեցրել, թե իրենց գործակալները կոնկրետ քանի կայք են օգտագործել, ինչպես նաև ինչու է ընկերությունը մի քանի ամիս շարունակ թաքցրել այդ տեղեկատվությունը։ Ընկերությունից հայտնել են, որ ավելի լայնածավալ ստուգում են իրականացնում և առայժմ չեն հայտնաբերել այլ դեպքեր, որոնք մասշտաբով և լրջությամբ համադրելի կլինեն հուլիսին Hugging Face-ի հետ կապված միջադեպի հետ։
Հիշեցնենք՝ հուլիսին OpenAI-ն հայտնել էր «աննախադեպ կիբերմիջադեպի» մասին, որի ընթացքում փորձարկվող արհեստական բանականության մոդելները հասանելիություն էին ստացել համացանցին և, հայտնաբերելով խոցելիություններ, հարձակվել էին Hugging Face-ի ենթակառուցվածքի վրա։ Ավելի ուշ ընկերությունը խոստովանել էր, որ դրանից առաջ իր մոդելները գաղտնի հաղորդագրություններ էին փոխանակում առցանց հայտարարությունների տախտակների միջոցով և համակարգում էին իրենց գործողությունները։ Օգոստոսին OpenAI-ը երկու շաբաթով դանդաղեցրել էր նոր մոդելների ուսուցումը՝ վերահսկման և պաշտպանության համակարգերն ուժեղացնելու նպատակով։ Ընկերությունը որոշումը, ի թիվս այլ պատճառների, բացատրել էր Hugging Face-ի հետ կապված միջադեպով և այն ռիսկով, որ ապագա մոդելներից մեկը կարող է կիբերանվտանգության ոլորտում ստանալ կրիտիկական կարողություններ։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։