Ғалам ғажаптары • Бүгін, 08:15

ЖИ жалған ақпарат беруге бейім

20 рет
көрсетілді
1 мин
оқу үшін

«OpenAI» мен «Apollo Research» ғалымдары жасанды интеллект модельдерінің неге жалған ақпарат беретінін зерттеп, жүйені арнайы оқыту әдістерімен үйреткеннің өзінде, олар жаңа тәсілдермен өтірік ақпарат беруге бейім екенін анықтады.

ЖИ жалған ақпарат беруге бейім

Зерттеушілер ЖИ-дің шынайы мақсаттарын жасыруын биржалық брокердің заңды бұзуына ұқсас әрекет дейді. Бұл жерде брокер пайда табу үшін заңды бұзып, өзінің әрекетін жасырады, ал ЖИ модельдері тапсырмаларды орындағанын айтып, бірақ іс жүзінде оларды орындамайды. Бұл қарапайым алаяқтық түрі секілді іс-әрекет. Зерттеушілер бұның алдын алу үшін ЖИ жүйесіне алаяқтыққа қарсы ережелерді үйретіп, тапсырма орындалғаннан кейін оны тексеру жолдарын қарастырмақ.

 

Соңғы жаңалықтар

Семей-Астана тасжолы тазаланды

«Таза Қазақстан» • Кеше

Жылумен қамту - жауапты міндет

Жұмысшы мамандықтар жылы • Кеше

Алматыда дәмхана өртенді

Төтенше жағдай • Кеше