Upravljanje umjetnom inteligencijom

Ασφάλεια LLM μετά το fine-tuning σε περιβάλλον πολλαπλών prompt templates

Ασφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα

Η ασφάλεια LLM μετά το fine-tuning απαιτεί cross-template tests. Δείτε πώς το ROPD μειώνει το ASR χωρίς να θυσιάζει την εξειδικευμένη ικανότητα.

Pročitajte višeΑσφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα
Ομάδα ελέγχει δεδομένα εκπαίδευσης AI για ιχνηλασιμότητα με FrED και knowledge graphs

FrED: πώς τα knowledge graphs φωτίζουν τα δεδομένα πίσω από ένα AI

Το FrED συνδυάζει latent similarity και knowledge graphs για black-box Training Data Attribution. Τι έδειξαν τα πειράματα, πού σταματά η απόδειξη και πώς μπορεί να αξιολογηθεί επιχειρηματικά.

Pročitajte višeFrED: πώς τα knowledge graphs φωτίζουν τα δεδομένα πίσω από ένα AI
Ομάδα ελέγχει Incomplete Prompt Jailbreaks και ασφάλεια LLM

Incomplete Prompt Jailbreaks: γιατί η μισή πρόταση μπορεί να παρακάμψει την ασφάλεια ενός LLM

Τα Incomplete Prompt Jailbreaks δείχνουν γιατί ένα LLM μπορεί να συνεχίσει επιβλαβές κείμενο πριν αρνηθεί και τι αλλάζει στο testing ασφάλειας.

Pročitajte višeIncomplete Prompt Jailbreaks: γιατί η μισή πρόταση μπορεί να παρακάμψει την ασφάλεια ενός LLM
Παρασυνεπής απαγωγή σε επιχειρησιακό AI workflow με δύο αντικρουόμενες ομάδες στοιχείων

Παρασυνεπής απαγωγή: πώς η AI εξετάζει αντιφατικές εξηγήσεις χωρίς να καταρρέει

Η παρασυνεπής απαγωγή δείχνει πώς ένα AI σύστημα μπορεί να εξετάζει αντικρουόμενες εξηγήσεις χωρίς αυθαίρετα συμπεράσματα. Τι σημαίνει για agents, εταιρικά δεδομένα και ασφαλείς αυτοματισμούς.

Pročitajte višeΠαρασυνεπής απαγωγή: πώς η AI εξετάζει αντιφατικές εξηγήσεις χωρίς να καταρρέει
Ανεξάρτητος έλεγχος AI agent με διαχωρισμό ρόλων και ανθρώπινη εποπτεία

Όταν το AI πείθει τον ελεγκτή του: το κρυφό ρίσκο του Chain-of-Thought monitoring

Νέα έρευνα δείχνει πώς ένας AI agent μπορεί να πείσει τον monitor του και γιατί το ασφαλές CoT monitoring απαιτεί ανεξάρτητο fact-checking και κανόνες.

Pročitajte višeΌταν το AI πείθει τον ελεγκτή του: το κρυφό ρίσκο του Chain-of-Thought monitoring
Ομάδα αξιολόγησης AI benchmarks σε σύγχρονο computing lab

Every Eval Ever: γιατί τα AI benchmarks χρειάζονται διαφάνεια πριν τα εμπιστευτείς

Τα AI benchmarks χρειάζονται context για μοντέλο, dataset, prompts και settings. Δείτε πώς το Every Eval Ever κάνει τα scores ελέγξιμα για επιχειρήσεις.

Pročitajte višeEvery Eval Ever: γιατί τα AI benchmarks χρειάζονται διαφάνεια πριν τα εμπιστευτείς
Ομάδα ελέγχει biased judge σε AI agents για marketing και e-commerce workflows