OpenAI-ն կիբերանվտանգության միջադեպից հետո դանդաղեցրել է ԱԲ մոդելների մշակումը
OpenAI-ն ժամանակավորապես դանդաղեցրել է ԱԲ մոդելների մշակման և ուսուցման տեմպերը այն բանից հետո, երբ փորձարկվող ԱԲ գործակալը ներխուժել է Hugging Face-ի համակարգերը, գրում է The Guardian-ը։ Ընկերությունը հայտարարել է, որ վերանայում է հետազոտական և ուսուցման գործընթացները և ուժեղացնում անվտանգության պահանջները։
Նոր միջոցառումները ներառում են մոդելների փորձարկումների երկշաբաթյա դադար, ինչպես նաև լրացուցիչ ԱԲ համակարգերի օգտագործում՝ փորձարկվող գործակալների գործողությունները վերահսկելու համար։ OpenAI-ի որոշ խոշոր ուսուցման գործընթացներ շարունակում են մնալ դադարեցված։
Ընկերությունը հատկապես խստացրել է պահանջները Astra առաջիկա մոդելի նկատմամբ, որի ներքին գնահատումները ցույց են տվել զգալի առաջընթաց գործակալային ծրագրավորման և կիբերանվտանգության ոլորտներում։ OpenAI-ն նշում է, որ մոդելի հնարավորությունները կարող են մոտենալ «կիբերանվտանգության կրիտիկական շեմին»։
OpenAI-ի գլխավոր գործադիր տնօրեն Սեմ Ալթմանի խոսքով՝ ընկերությունն այժմ ավելի խիստ ապացույցներ է պահանջում, որ մոդելների վարքագիծը համապատասխանում է մարդկային վերահսկողության պահանջներին։ Այս գործընթացը ոլորտում հայտնի է որպես alignment («համապատասխանեցում»)։
Մշակման դանդաղեցումը տեղի է ունենում Anthropic-ի հետ սուր մրցակցության ֆոնին՝ ինչպես առաջադեմ ԱԲ մոդելների ստեղծման, այնպես էլ ԱՄՆ ֆոնդային շուկա դուրս գալու ուղղությամբ։ Միաժամանակ Վերմոնտի սենատոր Բեռնի Սանդերսը ԱԲ առաջատար ընկերություններին կոչ է արել դադարեցնել մոդելների զարգացումը՝ տեխնոլոգիայի նկատմամբ վերահսկողության ռիսկերի պատճառով։