AI Safety

Ερευνητές ελέγχουν υποδομή για monitoring των activations σε LLMs

Μπορούν τα LLMs να κρύψουν τη σκέψη τους; Το benchmark που μετρά τον έλεγχο των activations

Το Activation Controllability Benchmark δείχνει ότι πολλά LLMs αλλάζουν το εσωτερικό τους σήμα με οδηγία, άρα το monitoring χρειάζεται layered safeguards.

Pročitajte višeΜπορούν τα LLMs να κρύψουν τη σκέψη τους; Το benchmark που μετρά τον έλεγχο των activations
Μηχανικός ελέγχει κύκλωμα AI για ανεξάρτητη εποπτεία με OWMI

Μπορεί ένα AI να καταλάβει τι συμβαίνει μέσα του; Τι αποκαλύπτει το OWMI

Το OWMI δείχνει ότι η λεκτική αυτοαναφορά οκτώ open-weight μοντέλων έμεινε στην τύχη, παρότι το σήμα υπήρχε στις ενεργοποιήσεις τους.

Pročitajte višeΜπορεί ένα AI να καταλάβει τι συμβαίνει μέσα του; Τι αποκαλύπτει το OWMI
Ομάδα αξιολογεί πότε ένας AI agent πρέπει να παρέμβει ή να παραμείνει σιωπηλός

Why2Speak: γιατί η εξήγηση ενός AI agent μπορεί να αλλάζει την απόφασή του

Το Why2Speak δείχνει γιατί το reasoning μπορεί να αλλάζει την πολιτική παρέμβασης ενός AI agent και ποιοι έλεγχοι χρειάζονται πριν από deployment.

Pročitajte višeWhy2Speak: γιατί η εξήγηση ενός AI agent μπορεί να αλλάζει την απόφασή του