Բիզնես

USD BUY - 383.00-1.00 USD SELL - 387.00+0.00
EUR BUY - 445.00+0.00 EUR SELL - 454.00+6.00
OIL:  BRENT - 68.01+0.16 WTI - 65.53+0.55
COMEX:  GOLD - 3307.30-1.34 SILVER - 36.33-0.08
COMEX:  PLATINUM - 1400.50+1.83
LME:  ALUMINIUM - 2563.50-0.97 COPPER - 9712.50+0.47
LME:  NICKEL - 15074.00+1.82 TIN - 33193.00+1.53
LME:  LEAD - 2032.00+1.45 ZINC - 2704.50+0.65
FOREX:  USD/JPY - 144.41-0.35 EUR/GBP - 1.1695+0.09
FOREX:  EUR/USD - 1.1695+0.09 GBP/USD - 1.3734+0.25
STOCKS RUS:  RTSI - 1126.69+0.21
STOCKS US: DOW JONES - 42581.78+0.00 NASDAQ - 19630.97+0.00
STOCKS US: S&P 500 - 6025.17+0.00
STOCKS JAPAN:  NIKKEI - 40150.79+1.43 TOPIX - 2840.54+1.28
STOCKS CHINA:  HANG SENG - 24284.15-0.17 SSEC - 3424.23-0.70
STOCKS EUR:  FTSE100 - 8758.04+0.00 CAC40 - 7537.57+0.00
STOCKS EUR:  DAX - 23269.01+0.00
27/06/2025  CBA:  USD - 384.32-0.59 GBP - 527.56-0.77
27/06/2025  CBA:  EURO - 450.23-0.62
27/06/2025  CBA:  GOLD - 41006-58 SILVER - 452.11+9.51
Արհեստական բանականության համակարգերը սովորում են ստել և խաբել, պարզել են գիտնականները
11/06/2024 16:09
Կիսվել

Արհեստական բանականության համակարգերը սովորում են ստել և խաբել, պարզել են գիտնականները

Արհեստական բանականության մոդելներն ավելի ու ավելի են կատարելագործվում դիտավորյալ ստելու մեջ:

Վերջերս կատարված երկու ուսումնասիրություններ ՝ մեկը, որը հրապարակվել է այս շաբաթ PNAS ամսագրում, և մյուսը, որը հրապարակվել է անցյալ ամիս Patterns ամսագրում, ցույց են տալիս որոշ ապշեցուցիչ բացահայտումներ լեզվի մեծ մոդելների (LLM) և դրանց` դիտորդներին դիտավորյալ ստելու կամ խաբելու ունակության մասին:

PNAS-ում հրապարակված հոդվածում, AI-ի գերմանացի էթիկայի մասնագետ Թիլո Հագենդորֆը պնդում է, որ բարդ LLM-ները կարող են խրախուսել «մաքիավելիզմը» կամ դիտավորյալ մանիպուլյացիան, որը «կարող է առաջացնել խաբուսիկ վարք»:

Meta-ի Cicero մոդելը «Դիվանագիտություն» սեղանի քաղաքական խաղում դարձել է Patterns-ի ուսումնասիրության օբյեկտ: Ինչպես պարզել է ֆիզիկոսից, փիլիսոփայից և AI-ի անվտանգության երկու փորձագետներից բաղկացած հետազոտական խումբը, LLM-ն խաբեության միջոցով առաջ է անցել իր մարդկային մրցակիցներից:

IDram

Cicero-ն ոչ միայն հաջողության է հասել խաբելու մեջ, այլև, կարծես, սովորել է ավելի հաճախ ստել , որքան շատ են այն օգտագործում։ Այս իրավիճակը շատ ավելի մոտ է բացահայտ մանիպուլյացիայի։

Մոդելը, ինչպես նշում են հոդվածի հեղինակները, «զբաղվում է կանխամտածված խաբեությամբ, խախտում է այն պայմանավորվածությունները, որոնց նա համաձայնել է, եւ բացահայտ սուտ է խոսում: Այլ կերպ ասած,  Meta AI-ն սովորել է լինել խաբեության վարպետ»:

«Մինչ Meta-ին հաջողվել է սովորեցնել իր AI-ին հաղթել «Դիվանագիտություն» խաղում», – ասվում է MIT-ի ֆիզիկոսի հայտարարության մեջ, – «Meta-ն չի կարողացել սովորեցնել իր AI-ին ազնվորեն հաղթել»:

Ուսումնասիրության արդյունքների հրապարակումից հետո New York Post-ի հայտարարության մեջ Meta-ն ընդգծել է. «մեր հետազոտողների կառուցած մոդելները վերապատրաստվել են բացառապես «դիվանագիտություն» խաղի մեջ»:

Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։

27/06/2025
դրամ
Դոլար (USD)
384.32
-0.59
Եվրո (EUR)
450.23
-0.62
Ռուբլի (RUR)
4.8933
-0.02
Լարի (GEL)
141.11
-0.22
41006
-58
Արծաթ
452.11
+9.51