OpenAI-ը ստեղծել է անկախ ստորաբաժանում՝ դադարեցնելու AI-ի վտանգավոր մոդելների թողարկումը
OpenAI-ն հայտարարել է իր անվտանգության և պաշտպանության կոմիտեն տնօրենների խորհրդի անկախ դիտորդ մարմնի վերակազմավորման մասին: Նոր կառույցը ստացել է աննախադեպ լիազորություններ, այդ թվում՝ անվտանգության նկատառումներով AI մոդելների թողարկումը կասեցնելու իրավունք։ Որոշումն ընդունվել է ընկերության ընթացակարգերի և անվտանգության միջոցառումների 90-օրյա վերանայումից հետո։
Փոխակերպված հանձնաժողովում, որը գլխավորում է Զիկո Կոլթերը, ընդգրկված են նաև Ադամ Դ’Անջելոն, Փոլ Նակասոնեն և Նիկոլ Սելիգմանը: Հատկանշական է, որ OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը այլևս թիմի անդամ չէ:
Նոր կառույցը ընկերության ղեկավարությունից տեղեկատվություն կստանա արհեստական բանականության մոդելների հիմնական թողարկումների անվտանգության գնահատման վերաբերյալ և տնօրենների խորհրդի ամբողջական կազմով կվերահսկեն դրանց գործարկումը, ներառյալ թողարկումը հետաձգելու իրավունքը մինչև անվտանգության խնդիրները լուծվեն:
Նոր կոմիտեի կառուցվածքը հարցեր է առաջացնում նրա անկախության վերաբերյալ՝ հաշվի առնելով, որ նրա բոլոր անդամները գտնվում են OpenAI-ի տնօրենների խորհրդում: Սա այն տարբերում է Meta վերահսկիչ խորհրդից, որի անդամները լիովին անկախ են կորպորացիայի տնօրենների խորհրդից:
OpenAI-ը հայտարարել է, որ մտադիր է ընդլայնել իր անվտանգության աշխատանքի վերաբերյալ տվյալների փոխանակումը և մեծացնել համակարգերն ինքնուրույն փորձարկելու ունակությունը: Սակայն այս մտադրությունների իրականացման կոնկրետ մեխանիզմները դեռևս չեն բացահայտվել։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։