Prompt Engineering

Ομάδα αξιολογεί την prompt sensitivity και τη sycophancy ενός AI συστήματος

SyPS: όταν το ίδιο πρόβλημα κάνει το AI να αλλάζει κρίση ανάλογα με το prompt

Το SyPS δείχνει πώς κοινωνικές νύξεις αλλάζουν την κρίση των LLMs και πώς οι επιχειρήσεις μπορούν να ελέγχουν αυτή την αστάθεια πριν από το deployment.

Lire la suiteSyPS: όταν το ίδιο πρόβλημα κάνει το AI να αλλάζει κρίση ανάλογα με το prompt
Ομάδα οργανώνει εταιρικά έγγραφα για ελεγχόμενο AI workflow

AI agents για εταιρικά έγγραφα: δομή στην ανάγνωση, πρόζα στη συγγραφή

Η δομή βοηθά τους AI agents να διαβάζουν εταιρικά έγγραφα, αλλά η πρόζα μπορεί να τους βοηθά να γράφουν καλύτερα. Τα όρια και οι έλεγχοι.

Lire la suiteAI agents για εταιρικά έγγραφα: δομή στην ανάγνωση, πρόζα στη συγγραφή
Ασφάλεια LLM μετά το fine-tuning σε περιβάλλον πολλαπλών prompt templates

Ασφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα

Η ασφάλεια LLM μετά το fine-tuning απαιτεί cross-template tests. Δείτε πώς το ROPD μειώνει το ASR χωρίς να θυσιάζει την εξειδικευμένη ικανότητα.

Lire la suiteΑσφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα
Ομάδα ελέγχει Incomplete Prompt Jailbreaks και ασφάλεια LLM

Incomplete Prompt Jailbreaks: γιατί η μισή πρόταση μπορεί να παρακάμψει την ασφάλεια ενός LLM

Τα Incomplete Prompt Jailbreaks δείχνουν γιατί ένα LLM μπορεί να συνεχίσει επιβλαβές κείμενο πριν αρνηθεί και τι αλλάζει στο testing ασφάλειας.

Lire la suiteIncomplete Prompt Jailbreaks: γιατί η μισή πρόταση μπορεί να παρακάμψει την ασφάλεια ενός LLM