AI Safety

Екип оценява чувствителността към подсказки и степента на подмазвачество на една система за изкуствен интелект
Екипът проверява политиките за безопасност на ИИ преди прилагането им по време на изпълнение
Екип тества автономна система с изкуствен интелект в среда за безопасни изпитания

AI Finds a Way: когато изкуственият интелект намира пътища, които не сме предвидили

„AI Finds a Way“ събира 26 истории за непредвидимо поведение. Какво означават „reward hacking“, „evaluator manipulation“ и „контролирана автономност“ за бизнеса.

Прочетете повечеAI Finds a Way: когато изкуственият интелект намира пътища, които не сме предвидили
Инженер инсталира малък компютър за безопасност на изкуствения интелект в процесора
Човешки надзор над флотилия от дронове с агентна изкуствена интелигентност

Агентна изкуствена интелигентност и флотилии от дронове: автономността се нуждае от управление

Какво показват проектите NAMUR и PERSIST относно безопасното използване на агентна изкуствена интелигентност във флотилии от дронове – от човешкото одобрение до контролируемите инструменти и оценката.

Прочетете повечеАгентна изкуствена интелигентност и флотилии от дронове: автономността се нуждае от управление
Консултантът разглежда кога изкуственият интелект трябва да задава въпроси, преди да отговори
Ερευνητές ελέγχουν υποδομή για monitoring των activations σε LLMs
Μηχανικός ελέγχει κύκλωμα AI για ανεξάρτητη εποπτεία με OWMI

Μπορεί ένα AI να καταλάβει τι συμβαίνει μέσα του; Τι αποκαλύπτει το OWMI

Το OWMI δείχνει ότι η λεκτική αυτοαναφορά οκτώ open-weight μοντέλων έμεινε στην τύχη, παρότι το σήμα υπήρχε στις ενεργοποιήσεις τους.

Прочетете повечеΜπορεί ένα AI να καταλάβει τι συμβαίνει μέσα του; Τι αποκαλύπτει το OWMI