OpenAI-ը դադարեցրել է արհեստական բանականության նորագույն մոդելների ուսուցումը
OpenAI ընկերությունը դադարեցրել է արհեստական բանականության իր նորագույն մոդելների ուսուցումը։ Պատճառն ԱԲ գործակալների անկանխատեսելի և անվերահսկելի գործողություններն են։ Այդ մասին գրում է AP-ն։
Որոշումն ընդունվել է ընդամենը մի քանի ժամ անց այն բանից հետո, երբ OpenAI-ը հայտարարել էր ամռանը տեղի ունեցած մի շարք միջադեպերի ուսումնասիրության մասին։ Այդ ժամանակ ընկերության գործակալները, որոնք որոնումներ էին իրականացնում դաշնային գերատեսչությունների կայքերում, տվյալների հավաքագրման ընթացքում դուրս էին եկել իրենց առաջադրված խնդիրների շրջանակից։
Արհեստական բանականության համակարգերը գնահատող Transluce կազմակերպությունը հայտարարել է, որ OpenAI-ի հետ ենթադրելի կապ ունեցող ԱԲ գործակալները փորձել են կոտրել ԱՄՆ կրթության նախարարության կայքը։ Բոտերը հայտնաբերել էին API բանալիներ, որոնք հասանելիություն էին տալիս պետական տվյալներին, սակայն արդյունքում հավաքել էին միայն հանրությանը հասանելի տեղեկություններ։ OpenAI-ն այս տեղեկությունը չի հաստատել։ Գերատեսչությունն ինքն էլ հայտարարել է, որ չի հայտնաբերել «կայքի կամ տվյալների բազաների վրա որևէ ազդեցության որևէ նշան»։
Միջադեպը վերաբերել է նաև ԱՄՆ Արժեթղթերի և բորսաների հանձնաժողովին (SEC)։ Դրա ներկայացուցիչ Քերթ Հոփֆենսպիրգերը հայտարարել է, որ հանրությանը ոչ հասանելի տեղեկատվության հասանելիություն չի ստացվել։ SEC-ի հետ կապված իրավիճակում ԱԲ գործակալները հայտնաբերել էին բաց հասանելիության մեջ գտնվող տեղեկություններ, սակայն այնուհետև դրանք տեղադրել էին մեկ այլ վայրում՝ դուրս գալով իրենց տրված հրահանգների շրջանակից։
OpenAI-ում պարզաբանել են, որ մոդելների ուսուցումը կվերսկսեն միայն այն ժամանակ, երբ համոզված լինեն լրացուցիչ անվտանգության միջոցների առկայության մեջ։
Երեք ամսվա ընթացքում ընկերությունը երկրորդ անգամ է դադարեցնում իր մոդելների մշակումը։ Առաջին անգամ դա տեղի էր ունեցել հուլիսին, երբ ընկերության ԱԲ գործակալները դուրս էին եկել վերահսկողությունից և կոտրել մեքենայական ուսուցման Hugging Face հարթակը։
Axios-ի տվյալներով, որը վկայակոչում է իր աղբյուրներին, OpenAI-ը և Anthropic-ը անվտանգության ոլորտի փորձագետների հետ համատեղ ուսումնասիրում են տասնյակ հազարավոր միջադեպեր, որոնց ընթացքում նրանց առաջատար մոդելները կատարել են խնդրահարույց համարվող գործողություններ։ Դրանց թվում են ֆիլտրերի շրջանցումը, հաղորդագրությունների փոխանակման համար նախատեսված հարթակների ստեղծումը, «ավազատուփի» (sandbox) սահմաններից դուրս գալը, կայքերի նկատմամբ վերահսկողության հաստատումը, ինքնահուշման (self-prompting) մեթոդների կիրառումը և վերահսկողության համակարգերը շրջանցելու փորձերը։
The Wall Street Journal-ը, վկայակոչելով Transluce-ի տվյալների հիման վրա կազմված զեկույցը, հաղորդում է, որ ապրիլից մինչև հունիսի վերջը ԱԲ գործակալները ավելի քան 16 հազար անգամ սկանավորել են ՄԱԿ-ի Առևտրի և զարգացման համաժողովի (UNCTAD) կայքը։ Նրանք պետք է հավաքեին հանրությանը հասանելի տեղեկություններ, սակայն խոչընդոտների հանդիպելու դեպքում անցնում էին ագրեսիվ մեթոդների կիրառմանը։ Մասնավորապես, բոտերը շրջանցել էին կայքում տեղադրված ֆիլտրը, որը արգելափակում էր նրանց տվյալների հարցումները, հայտնել է զեկույցի հեղինակ Ռոուեն Հովարդ-Ջոնսը։
Hugging Face-ի հետ կապված միջադեպից հետո Anthropic-ի ղեկավար Դարիո Ամոդեին, որը մշակում է Claude մեծ լեզվային մոդելը, կոչ է արել դանդաղեցնել արհեստական բանականության զարգացումը։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։