SHAP

Ανθρώπινος έλεγχος συνδέσεων πριν από απόφαση AI υψηλού ρίσκου

AI agents στις αποφάσεις υψηλού ρίσκου: πιο πειστικοί, αλλά όχι πάντα πιο πιστοί

Μελέτη σε δεδομένα ΜΕΘ δείχνει ότι οι agentic εξηγήσεις γίνονται πιο συγκεκριμένες και καλύτερα θεμελιωμένες, χωρίς να είναι πάντα πιο πιστές στο προβλεπτικό μοντέλο.

WeiterlesenAI agents στις αποφάσεις υψηλού ρίσκου: πιο πειστικοί, αλλά όχι πάντα πιο πιστοί
Ομάδα πραγματοποιεί έλεγχο Explainable AI με robustness και fidelity

Explainable AI υπό έλεγχο: γιατί το υψηλό AUC δεν εγγυάται αξιόπιστες εξηγήσεις

Γιατί το υψηλό AUC δεν αρκεί και πώς robustness, fidelity και Trust Score ελέγχουν αν οι εξηγήσεις SHAP ή LIME είναι πραγματικά χρήσιμες.

WeiterlesenExplainable AI υπό έλεγχο: γιατί το υψηλό AUC δεν εγγυάται αξιόπιστες εξηγήσεις