Բաժին. Բիզնես

OpenAI-ը ստեղծել է անկախ ստորաբաժանում՝ դադարեցնելու AI-ի վտանգավոր մոդելների թողարկումը

OpenAI-ն հայտարարել է իր անվտանգության և պաշտպանության կոմիտեն տնօրենների խորհրդի անկախ դիտորդ մարմնի վերակազմավորման մասին: Նոր կառույցը ստացել է աննախադեպ լիազորություններ, այդ թվում՝ անվտանգության նկատառումներով AI մոդելների թողարկումը կասեցնելու իրավունք։ Որոշումն ընդունվել է ընկերության ընթացակարգերի և անվտանգության միջոցառումների 90-օրյա վերանայումից հետո։

Փոխակերպված հանձնաժողովում, որը գլխավորում է Զիկո Կոլթերը, ընդգրկված են նաև Ադամ Դ’Անջելոն, Փոլ Նակասոնեն և Նիկոլ Սելիգմանը: Հատկանշական է, որ OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը այլևս թիմի անդամ չէ:

Նոր կառույցը ընկերության ղեկավարությունից տեղեկատվություն կստանա արհեստական ​​բանականության մոդելների հիմնական թողարկումների անվտանգության գնահատման վերաբերյալ և տնօրենների խորհրդի ամբողջական կազմով կվերահսկեն դրանց գործարկումը, ներառյալ թողարկումը հետաձգելու իրավունքը մինչև անվտանգության խնդիրները լուծվեն:

Նոր կոմիտեի կառուցվածքը հարցեր է առաջացնում նրա անկախության վերաբերյալ՝ հաշվի առնելով, որ նրա բոլոր անդամները գտնվում են OpenAI-ի տնօրենների խորհրդում: Սա այն տարբերում է Meta վերահսկիչ խորհրդից, որի անդամները լիովին անկախ են կորպորացիայի տնօրենների խորհրդից:

OpenAI-ը հայտարարել է, որ մտադիր է ընդլայնել իր անվտանգության աշխատանքի վերաբերյալ տվյալների փոխանակումը և մեծացնել համակարգերն ինքնուրույն փորձարկելու ունակությունը: Սակայն այս մտադրությունների իրականացման կոնկրետ մեխանիզմները դեռևս չեն բացահայտվել։

Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։

Share