AI Safety

Safety gating AI με ανθρώπινη εποπτεία σε κρίσιμη ψηφιακή ροή

Anian: όταν το AI σταματά να μιλά για να προστατεύσει τον χρήστη

Το Anian δείχνει πώς ένα ανεξάρτητο safety gate μπορεί να μπλοκάρει την παραγωγή AI, να συνδυάζει συντηρητικά τα σήματα κινδύνου και να ενεργοποιεί ανθρώπινη συνέχεια.

WeiterlesenAnian: όταν το AI σταματά να μιλά για να προστατεύσει τον χρήστη
Ομάδα παραγωγής ελέγχει εικόνα και ήχο για ασφάλεια multimodal AI

Multi2AV-Safety: γιατί τα multimodal AI φίλτρα χάνουν τον κίνδυνο στη σύνθεση

Το Multi2AV-Safety δείχνει γιατί τα multimodal AI φίλτρα χάνουν τον κίνδυνο που δημιουργείται από τη σύνθεση κειμένου, εικόνας, ήχου και βίντεο.

WeiterlesenMulti2AV-Safety: γιατί τα multimodal AI φίλτρα χάνουν τον κίνδυνο στη σύνθεση
Ομάδα αξιολογεί την prompt sensitivity και τη sycophancy ενός AI συστήματος

SyPS: όταν το ίδιο πρόβλημα κάνει το AI να αλλάζει κρίση ανάλογα με το prompt

Το SyPS δείχνει πώς κοινωνικές νύξεις αλλάζουν την κρίση των LLMs και πώς οι επιχειρήσεις μπορούν να ελέγχουν αυτή την αστάθεια πριν από το deployment.

WeiterlesenSyPS: όταν το ίδιο πρόβλημα κάνει το AI να αλλάζει κρίση ανάλογα με το prompt
Ομάδα ελέγχει αυτόνομο AI σύστημα σε περιβάλλον ασφαλών δοκιμών

AI Finds a Way: όταν η τεχνητή νοημοσύνη βρίσκει δρόμους που δεν προβλέψαμε

Το AI Finds a Way συγκεντρώνει 26 ιστορίες απρόβλεπτης συμπεριφοράς. Τι σημαίνουν reward hacking, evaluator manipulation και ελεγχόμενη αυτονομία για επιχειρήσεις.

WeiterlesenAI Finds a Way: όταν η τεχνητή νοημοσύνη βρίσκει δρόμους που δεν προβλέψαμε
Μηχανικός εγκαθιστά μικρό υπολογιστή για AI safety σε CPU

AI safety σε CPU: πώς η αδειοδότηση δεδομένων γίνεται μετρήσιμο πλεονέκτημα

Η AI safety σε CPU γίνεται πρακτική όταν συνδέονται άδειες δεδομένων, ανεξάρτητο benchmark, over-defense, rebalancing και πραγματικό latency.

WeiterlesenAI safety σε CPU: πώς η αδειοδότηση δεδομένων γίνεται μετρήσιμο πλεονέκτημα
Ανθρώπινη εποπτεία σε στόλο drones με agentic AI

Agentic AI και στόλοι drones: η αυτονομία χρειάζεται διακυβέρνηση

Τι δείχνουν τα έργα NAMUR και PERSIST για την ασφαλή χρήση agentic AI σε στόλους drones, από την ανθρώπινη έγκριση έως τα ελέγξιμα εργαλεία και την αξιολόγηση.

WeiterlesenAgentic AI και στόλοι drones: η αυτονομία χρειάζεται διακυβέρνηση