Բիզնես

USD BUY - 380.50+0.00 USD SELL - 383.50-0.50
EUR BUY - 441.00-2.00 EUR SELL - 447.00-3.00
OIL:  BRENT - 68.51+1.15 WTI - 64.49+1.13
COMEX:  GOLD - 3420.80+0.11 SILVER - 38.73-0.39
COMEX:  PLATINUM - 1342.60-1.56
LME:  ALUMINIUM - 2624.50+1.53 COPPER - 9796.50+0.74
LME:  NICKEL - 15100.00+1.15 TIN - 33809.00+1.16
LME:  LEAD - 1995.00+1.27 ZINC - 2818.00+1.90
FOREX:  USD/JPY - 147.8+0.59 EUR/GBP - 1.1622-0.79
FOREX:  EUR/USD - 1.1622-0.79 GBP/USD - 1.345-0.53
STOCKS RUS:  RTSI - 1127.29-0.25
STOCKS US: DOW JONES - 45282.47-0.77 NASDAQ - 21449.29-0.22
STOCKS US: S&P 500 - 6439.32-0.43
STOCKS JAPAN:  NIKKEI - 42394.40-0.97 TOPIX - 3071.99-1.08
STOCKS CHINA:  HANG SENG - 25524.92-1.18 SSEC - 3868.38-0.39
STOCKS EUR:  FTSE100 - 9321.40+0.00 CAC40 - 7843.04-1.59
STOCKS EUR:  DAX - 24273.12-0.37
26/08/2025  CBA:  USD - 382.51-0.31 GBP - 515.51-0.91
26/08/2025  CBA:  EURO - 445.43-2.01
26/08/2025  CBA:  GOLD - 41005-33 SILVER - 467.38-0.38
Արհեստական բանականության համակարգերը սովորում են ստել և խաբել, պարզել են գիտնականները
11/06/2024 16:09
Կիսվել

Արհեստական բանականության համակարգերը սովորում են ստել և խաբել, պարզել են գիտնականները

Արհեստական բանականության մոդելներն ավելի ու ավելի են կատարելագործվում դիտավորյալ ստելու մեջ:

Վերջերս կատարված երկու ուսումնասիրություններ ՝ մեկը, որը հրապարակվել է այս շաբաթ PNAS ամսագրում, և մյուսը, որը հրապարակվել է անցյալ ամիս Patterns ամսագրում, ցույց են տալիս որոշ ապշեցուցիչ բացահայտումներ լեզվի մեծ մոդելների (LLM) և դրանց` դիտորդներին դիտավորյալ ստելու կամ խաբելու ունակության մասին:

PNAS-ում հրապարակված հոդվածում, AI-ի գերմանացի էթիկայի մասնագետ Թիլո Հագենդորֆը պնդում է, որ բարդ LLM-ները կարող են խրախուսել «մաքիավելիզմը» կամ դիտավորյալ մանիպուլյացիան, որը «կարող է առաջացնել խաբուսիկ վարք»:

Meta-ի Cicero մոդելը «Դիվանագիտություն» սեղանի քաղաքական խաղում դարձել է Patterns-ի ուսումնասիրության օբյեկտ: Ինչպես պարզել է ֆիզիկոսից, փիլիսոփայից և AI-ի անվտանգության երկու փորձագետներից բաղկացած հետազոտական խումբը, LLM-ն խաբեության միջոցով առաջ է անցել իր մարդկային մրցակիցներից:

IDram

Cicero-ն ոչ միայն հաջողության է հասել խաբելու մեջ, այլև, կարծես, սովորել է ավելի հաճախ ստել , որքան շատ են այն օգտագործում։ Այս իրավիճակը շատ ավելի մոտ է բացահայտ մանիպուլյացիայի։

Մոդելը, ինչպես նշում են հոդվածի հեղինակները, «զբաղվում է կանխամտածված խաբեությամբ, խախտում է այն պայմանավորվածությունները, որոնց նա համաձայնել է, եւ բացահայտ սուտ է խոսում: Այլ կերպ ասած,  Meta AI-ն սովորել է լինել խաբեության վարպետ»:

«Մինչ Meta-ին հաջողվել է սովորեցնել իր AI-ին հաղթել «Դիվանագիտություն» խաղում», – ասվում է MIT-ի ֆիզիկոսի հայտարարության մեջ, – «Meta-ն չի կարողացել սովորեցնել իր AI-ին ազնվորեն հաղթել»:

Ուսումնասիրության արդյունքների հրապարակումից հետո New York Post-ի հայտարարության մեջ Meta-ն ընդգծել է. «մեր հետազոտողների կառուցած մոդելները վերապատրաստվել են բացառապես «դիվանագիտություն» խաղի մեջ»:

Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։

26/08/2025
դրամ
Դոլար (USD)
382.51
-0.31
Եվրո (EUR)
445.43
-2.01
Ռուբլի (RUR)
4.7582
+0.0139
Լարի (GEL)
141.88
+0.01
41005
-33
Արծաթ
467.38
-0.38