LLM Evaluation

Αξιολόγηση αποκαλυπτόμενων προτιμήσεων σε AI μοντέλα και agents

Τα AI μοντέλα έχουν προτιμήσεις; Τι αποκαλύπτουν οι επιλογές τους

Τι αποκαλύπτει η μελέτη AI Revealed Preferences για τις επιλογές 20 μοντέλων και πώς μια επιχείρηση μπορεί να ελέγξει task selection, effort και position bias στους AI agents.

Read MoreΤα AI μοντέλα έχουν προτιμήσεις; Τι αποκαλύπτουν οι επιλογές τους
Επιστήμονας ελέγχει αυτοματοποιημένη προσαρμογή εργαστηριακού πρωτοκόλλου με AI

BenchBench-Protocol: πόσο καλά προσαρμόζουν τα AI τα πραγματικά εργαστηριακά πρωτόκολλα

Το BenchBench-Protocol μετατρέπει 149 πραγματικές αλλαγές πρωτοκόλλων σε benchmark και δείχνει τι χρειάζονται τα αξιόπιστα AI evals για επιχειρήσεις.

Read MoreBenchBench-Protocol: πόσο καλά προσαρμόζουν τα AI τα πραγματικά εργαστηριακά πρωτόκολλα
Ερευνητής συγκρίνει διαφορετικές διαμορφώσεις για αξιόπιστο AI benchmark harness

Δεν υπάρχει ουδέτερο AI benchmark: πώς το harness αλλάζει τον νικητή

Νέα μελέτη δείχνει ότι 26 έγκυρα evaluation harnesses μπορούν να αλλάξουν δραστικά τα scores και τον νικητή ενός LLM leaderboard. Τι σημαίνει για τις επιχειρήσεις.

Read MoreΔεν υπάρχει ουδέτερο AI benchmark: πώς το harness αλλάζει τον νικητή
Ομάδα ειδικών ελέγχει ανεξάρτητα ένα σύνθετο σύστημα για αξιολόγηση AI

Reasoning Jury: όταν μια «επιτροπή» AI εντοπίζει λάθη που ένας κριτής χάνει

Το Reasoning Jury συνδυάζει πολλαπλούς AI κριτές για να εντοπίζει λάθη σε reasoning traces. Δείτε benchmarks, κόστος και ασφαλές pilot για επιχειρήσεις.

Read MoreReasoning Jury: όταν μια «επιτροπή» AI εντοπίζει λάθη που ένας κριτής χάνει