Neuro-symbolic AI: γιατί αναπαράγεται μόλις το 6,5% της έρευνας

Μελέτη 1.304 εργασιών Neuro-Symbolic AI δείχνει γιατί η ύπαρξη κώδικα δεν αρκεί και πώς τα πλήρη artifacts κάνουν ένα AI σύστημα επαναλήψιμο.

Το 6,52% δεν σημαίνει ότι το υπόλοιπο 93,48% της έρευνας στο neuro-symbolic AI είναι λανθασμένο. Σημαίνει κάτι πιο συγκεκριμένο και επιχειρησιακά χρήσιμο: από 1.304 επιλέξιμες εργασίες, μια ανεξάρτητη ομάδα μπόρεσε να ανακτήσει πλήρως ή μερικώς το βασικό αποτέλεσμα μόνο σε 85 περιπτώσεις, χρησιμοποιώντας τα δημοσιευμένα artifacts και ένα προκαθορισμένο πρωτόκολλο. Αν εξετάσουμε μόνο τις 455 εργασίες που είχαν επαληθεύσιμο δημόσιο code artifact, το ποσοστό επιτυχίας ήταν 18,68%.

Η μελέτη αφορά το αυτοπροσδιοριζόμενο Neuro-Symbolic AI, δηλαδή συστήματα που συνδυάζουν νευρωνικές και συμβολικές μεθόδους. Δεν μετρά όλη την τεχνητή νοημοσύνη και δεν αξιολογεί άμεσα εμπορικά προϊόντα. Αποκαλύπτει όμως ένα κρίσιμο κενό ανάμεσα στο «υπάρχει κώδικας» και στο «το σύστημα μπορεί να ξανατρέξει, να μετρηθεί και να ελεγχθεί». Για μια επιχείρηση, αυτή είναι η διαφορά ανάμεσα σε ένα εντυπωσιακό demo και σε ένα AI workflow που μπορεί να συντηρηθεί.

Η σύντομη απάντηση

Η αναπαραγωγιμότητα δεν κρίνεται από την ύπαρξη ενός GitHub link. Χρειάζεται πλήρες, παγωμένο και ελέγξιμο πακέτο: κώδικας, δεδομένα, model weights, command αξιολόγησης, κλειδωμένο περιβάλλον και τεκμηρίωση. Στη μελέτη, όταν τα απαιτούμενα artifacts υπήρχαν, 85 από τις 92 προσπάθειες πέτυχαν.

Περιεχόμενα

Τι μετρά πραγματικά το 6,52%

Οι συγγραφείς ακολουθούν την ορολογία artifact review του ACM: διαφορετική ομάδα προσπαθεί να πάρει συνεπές αποτέλεσμα χρησιμοποιώντας τα artifacts της αρχικής ομάδας. Πρόκειται για same-artifact rerun, όχι για ανεξάρτητη επανυλοποίηση της ιδέας από την αρχή. Επομένως, μια αποτυχία δεν αποδεικνύει ότι η επιστημονική υπόθεση είναι ψευδής. Αποδεικνύει ότι το δημοσιευμένο πακέτο δεν επέτρεψε την ανάκτηση του κύριου αποτελέσματος μέσα στα όρια του συγκεκριμένου πρωτοκόλλου.

Η διάκριση είναι ουσιαστική. Αν λείπει ένα checkpoint, μια νέα ομάδα μπορεί θεωρητικά να εκπαιδεύσει ξανά το μοντέλο. Αυτό όμως εισάγει νέο random seed, νέα GPU, πιθανώς διαφορετικές βιβλιοθήκες και διαφορετικό training path. Δεν ελέγχει πλέον το ίδιο experimental object. Με τον ίδιο τρόπο, μια επιχείρηση που ξαναχτίζει από μνήμης ένα production pipeline δεν επαληθεύει την προηγούμενη έκδοση· δημιουργεί μια νέα.

Η έρευνα αξιολογεί, λοιπόν, τη δυνατότητα ελέγχου ενός δημοσιευμένου claim. Για εταιρικά AI συστήματα, η αντίστοιχη ερώτηση είναι αν ένας δεύτερος μηχανικός ή ένας εξωτερικός συνεργάτης μπορεί να ανακατασκευάσει την ακριβή έκδοση, να εκτελέσει το ίδιο evaluation set και να εξηγήσει μια απόκλιση χωρίς να βασίζεται σε άτυπη γνώση ενός μόνο ανθρώπου.

Πώς οργανώθηκε το audit σε έξι στάδια

Η βιβλιογραφική αναζήτηση έγινε στις 23 Μαΐου 2025 σε εννέα πηγές και επέστρεψε 5.497 εγγραφές. Μετά την αφαίρεση 3.018 διπλοτύπων έμειναν 2.479 μοναδικές εγγραφές. Από αυτές, 1.365 αυτοπροσδιορίζονταν ως neuro-symbolic και 1.304 πέρασαν τον πλήρη έλεγχο επιλεξιμότητας. Για 849 δεν βρέθηκε επαληθεύσιμο δημόσιο code artifact, οπότε στο στάδιο της πρακτικής επανεκτέλεσης μπήκαν 455 εργασίες.

Τα έξι στάδια κάλυπταν την κατασκευή του corpus, το screening, την επαλήθευση δημόσιου code artifact, την απογραφή των απαραίτητων στοιχείων, την επανεκτέλεση του κύριου πειράματος και τον τελικό έλεγχο των labels και των extracted data. Οι annotators μπορούσαν να διορθώσουν paths, να προσαρμόσουν παρωχημένες dependencies, να προσθέσουν ελαφρύ evaluation harness όταν έλειπε και να επισκευάσουν μικρά scripting errors. Δεν μπορούσαν να αλλάξουν εγγενές σφάλμα της αρχιτεκτονικής ή να ανακατασκευάσουν κρίσιμα artifacts που δεν είχαν δημοσιευτεί.

Το χρονικό όριο ήταν επτά ημέρες ανά εργασία. Τα jobs εκτελέστηκαν σε υποδομή του University of Maryland με ισχυρούς CPU κόμβους και, όπου χρειαζόταν, A100 ή H100 GPUs. Για πλήρη αναπαραγωγή απαιτούνταν ανάκτηση του κύριου metric εντός της δηλωμένης ανοχής ή του confidence interval, διατήρηση του βασικού claim και απουσία αρχιτεκτονικής διόρθωσης. Η μερική αναπαραγωγή σήμαινε ότι εκτελέστηκε ο πυρήνας και διατηρήθηκε το ποιοτικό συμπέρασμα, αλλά κάποιο headline αποτέλεσμα βγήκε εκτός ορίου ή ανακτήθηκε μόνο μέρος των κύριων πειραμάτων.

Οι αριθμοί πίσω από τον τίτλο

Από τις 455 προσπάθειες, 48 εργασίες αναπαράχθηκαν πλήρως και 37 μερικώς. Το σύνολο των 85 επιτυχιών αντιστοιχεί σε 18,68% των attempted reruns, με Wilson 95% confidence interval 15,4% έως 22,5%. Σε σχέση με τις 1.304 επιλέξιμες εργασίες, οι πλήρεις επιτυχίες ήταν 3,68% και οι πλήρεις ή μερικές 6,52%, με διάστημα 5,3% έως 8,0% για το σύνθετο αποτέλεσμα.

Το funnel της αναπαραγωγιμότητας στο Neuro-Symbolic AI

Τεκμηριωμένες τιμές από την τρέχουσα έκδοση v2 της μελέτης.

1.304επιλέξιμες εργασίες στο corpus
455εργασίες με επαληθεύσιμο δημόσιο code artifact
85πλήρεις ή μερικές επιτυχίες επανεκτέλεσης
92,4%επιτυχία όταν υπήρχαν τα απαιτούμενα artifacts

Οι παρονομαστές απαντούν σε διαφορετικές ερωτήσεις. Το 18,68% περιγράφει τι συνέβη στις 455 εργασίες που μπήκαν στο rerun cohort. Το 6,52% συγκρίνει τις 85 επιτυχίες με το πλήρες eligible corpus. Κανένα από τα δύο ποσοστά δεν επιτρέπεται να παρουσιαστεί ως «μόνο το 6,52% της AI είναι σωστό» ή ως εκτίμηση για όλη τη βιβλιογραφία μηχανικής μάθησης.

Γιατί το «code available» δεν αρκεί

Στο attempted set, 321 εργασίες ταξινομήθηκαν σε αποτυχίες που σχετίζονταν με ελλιπή, απόντα ή προβληματικά artifacts. Άλλες 42 μπλοκαρίστηκαν από repository που είχε χαθεί, γίνει ιδιωτικό, αδειάσει ή αποδειχθεί ακατάλληλο για το δηλωμένο πείραμα. Ακόμη επτά είχαν το ονομαστικό σύνολο artifacts, αλλά απέτυχαν λόγω περιβάλλοντος ή κώδικα. Η ύπαρξη link ήταν μόνο η είσοδος στον έλεγχο, όχι απόδειξη εκτελεσιμότητας.

Οι τρεις μεγαλύτερες κατηγορίες ήταν τα ελλείποντα model checkpoints ή weights με 89 περιπτώσεις, τα προβλήματα περιβάλλοντος ή προδιαγραφών με 79 και τα ελλιπή codebases με 67. Μαζί αντιστοιχούσαν σε 235 από τις 321 σχετικές αποτυχίες, δηλαδή 73,2%. Ακολουθούσαν ελλείποντα datasets, ατελής τεκμηρίωση και άλλα απαραίτητα στοιχεία.

Το μοτίβο είναι γνώριμο και εκτός ακαδημαϊκής έρευνας. Ένα pipeline μπορεί να λειτουργεί σήμερα, αλλά να εξαρτάται από unpinned packages, mutable URLs, ένα model file σε προσωπικό cloud account ή μια σειρά χειροκίνητων βημάτων που δεν έχουν καταγραφεί. Στο επόμενο deployment, μετά από αλλαγή dependency ή αποχώρηση συνεργάτη, η ομάδα δεν έχει πια το ίδιο σύστημα. Έχει μόνο τμήματα του.

Code available

Υπάρχει ένα repository, αλλά μπορεί να λείπουν checkpoints, δεδομένα, ακριβείς εκδόσεις, evaluation command ή σαφής διαδρομή από το clone έως το αποτέλεσμα.

Ονομαστική διαθεσιμότηταΑβέβαιος έλεγχος

Reproducible release

Η ακριβής έκδοση κώδικα, δεδομένων και μοντέλου είναι παγωμένη, το περιβάλλον κλειδωμένο και ένα τεκμηριωμένο command παράγει συγκρίσιμο report.

Επαναλήψιμο benchmarkAudit trail

Η πληρότητα αλλάζει την πιθανότητα επιτυχίας

Το ισχυρότερο πρακτικό εύρημα δεν είναι το 6,52%, αλλά η διαφορά που εμφανίστηκε όταν υπήρχε πλήρες πακέτο. Στην ομάδα των 92 εργασιών που ταξινομήθηκαν ότι διέθεταν τα απαιτούμενα artifacts, 85 πέτυχαν πλήρη ή μερική αναπαραγωγή. Το ποσοστό ήταν 92,4%, με Wilson 95% confidence interval 85,1% έως 96,3%.

Η μελέτη δεν αποδεικνύει ότι η πληρότητα είναι η μοναδική αιτία επιτυχίας. Οι ομάδες που συντηρούν καλύτερα artifacts μπορεί να έχουν και άλλες ισχυρές πρακτικές. Δείχνει όμως ότι, μέσα σε αυτό το audit, η δυνατότητα πραγματικής επανεκτέλεσης συνδεόταν πολύ πιο καθαρά με το artifact bundle από ό,τι με το prestige του venue ή τον αριθμό citations.

Κανόνας προμήθειας AI

Μην εγκρίνετε performance claim χωρίς καθαρό rerun

Ζητήστε παγωμένη έκδοση μοντέλου και δεδομένων, κλειδωμένο runtime, ακριβές evaluation command και αποθηκευμένο report. Αν ο προμηθευτής μπορεί να δείξει μόνο screenshots ή επιλεγμένα demos, το claim παραμένει μη επαληθευμένο.

Αυτό συνδέεται με μια ευρύτερη αρχή για το enterprise AI: η μονάδα αξιολόγησης είναι ολόκληρο το σύστημα, όχι μόνο το μοντέλο. Πηγές, preprocessing, prompt ή ruleset, model version, permissions, runtime και metric implementation πρέπει να αντιμετωπίζονται ως ενιαίο versioned object. Το ίδιο ισχύει όταν ένα σύστημα αντλεί live πληροφορία· το real-time web intelligence χρειάζεται source policy και provenance, όχι απλώς πρόσβαση στο διαδίκτυο.

Γιατί venue και citations δεν είναι ασφαλή proxy

Από το 2019 έως το 2024, το ετήσιο ποσοστό πλήρους ή μερικής επιτυχίας κινήθηκε περίπου από 10,3% έως 22,1%, χωρίς σταθερή ανοδική πορεία. Το 2025 ήταν μερικό έτος στο corpus και σωστά αντιμετωπίστηκε ως προσωρινό. Περισσότερες δημοσιεύσεις δεν σήμαιναν αυτομάτως καλύτερα releases.

Σε επίπεδο ευρείας κατηγορίας venue, τα συνέδρια είχαν 53 επιτυχίες σε 251 απόπειρες, τα journals 16 σε 97 και τα preprints 16 σε 107. Τα αντίστοιχα ποσοστά ήταν 21,1%, 16,5% και 15,0%. Τα confidence intervals επικαλύπτονταν και ο έλεγχος χ²=2,26 με df=2 και p=.32 δεν έδειξε ανιχνεύσιμη διαφορά σε αυτό το δείγμα.

Ούτε οι citations λειτούργησαν ως ασφαλής σύντομος δρόμος. Για 427 εργασίες με DOI-resolved counts, οι κατανομές είχαν μεγάλη επικάλυψη. Οι πλήρως αναπαραγώγιμες εργασίες είχαν υψηλότερο μέσο όρο citations, αλλά median 2, ενώ κατηγορίες αποτυχίας από weights ή environment είχαν επίσης μεγάλες ουρές. Δημοφιλία, κύρος και εκτελεσιμότητα είναι διαφορετικές ιδιότητες.

Τα έξι artifacts ενός εκτελέσιμου AI release

Η μελέτη συγκλίνει σε έξι στοιχεία που μετατρέπουν ένα claim σε ελέγξιμο πακέτο: πλήρης πηγαίος κώδικας, τα ακριβή datasets ή immutable snapshots, pretrained checkpoints, ένα script ή command που αναπαράγει τα metrics, machine-readable περιβάλλον και τεκμηρίωση που ενώνει όλα τα προηγούμενα σε ένα workflow.

Για εταιρική χρήση, η ίδια εξάδα μεταφράζεται σε versioned repository, immutable input snapshot, model ή ruleset version, automated evaluation, locked runtime και runbook. Χρειάζονται επίσης hashes, permissions, άδεια χρήσης, owner και σαφής πολιτική retention. Ένα URL που μπορεί να αλλάξει σιωπηρά δεν είναι artifact. Είναι εξάρτηση χωρίς εγγύηση ταυτότητας.

Η αρχειοθέτηση δεν είναι απλή γραφειοκρατία. Επιτρέπει στην ομάδα να απαντήσει γιατί μια έκδοση έδωσε διαφορετικό αποτέλεσμα, να συγκρίνει vendors στην ίδια βάση και να επιστρέψει σε γνωστή καλή κατάσταση. Σε πολυβηματικά συστήματα, πρέπει να αποθηκεύεται και η συμπεριφορά του workflow. Όπως δείχνει η ανάλυση για AI agents και tool calling, ένα πρώτο λάθος μπορεί να αλλάξει την κατάσταση όλων των επόμενων βημάτων, άρα το τελικό output δεν αρκεί για διάγνωση.

Τι αλλάζει στο business due diligence

Η μελέτη δεν αξιολόγησε εταιρικά deployments, επομένως η μεταφορά της στο procurement είναι εφαρμοστική ερμηνεία. Είναι όμως χρήσιμη: πριν μια επιχείρηση βασίσει κρίσιμη ροή σε AI, πρέπει να ζητά απόδειξη ότι το σύστημα μπορεί να ξαναχτιστεί και να ξαναμετρηθεί από καθαρό περιβάλλον. Για e-commerce αυτό μπορεί να αφορά recommendation, ranking ή demand forecasting. Για marketing, scoring, attribution ή generation με συγκεκριμένο evaluation set. Για CRM, μια πρόβλεψη churn χρειάζεται και αιτιολόγηση που οδηγεί στη σωστή ενέργεια, όπως εξηγεί η προσέγγιση του explainable AI στο CRM.

Το πρώτο due-diligence ερώτημα δεν είναι «ποιο μοντέλο χρησιμοποιείτε;», αλλά «ποια ακριβώς έκδοση αξιολογήθηκε και μπορώ να δω το report;». Ακολουθούν η προέλευση των δεδομένων, η αντιστοιχία του test set με το δικό σας use case, η συμπεριφορά σε αποτυχίες, η δυνατότητα rollback και το ποιος εγκρίνει αλλαγές. Ένα υψηλό benchmark score χωρίς provenance μπορεί να μην αντιπροσωπεύει καθόλου την παραγωγική ροή.

Η ανθρώπινη εποπτεία πρέπει επίσης να είναι μέρος του πακέτου και όχι εξωτερική υπόσχεση. Το human in the loop χρειάζεται συγκεκριμένα checkpoints, δεδομένα που βλέπει ο reviewer και σαφή δικαιώματα παύσης ή απόρριψης. Διαφορετικά, η τελική έγκριση γίνεται τυπική και δεν διορθώνει το έλλειμμα επαληθευσιμότητας.

Τι δεν αγοράζει η πληρότητα

Ένα πλήρες artifact bundle δεν αποδεικνύει ότι το AI είναι δίκαιο, ασφαλές, νόμιμο ή εμπορικά αποδοτικό. Αποδεικνύει ότι υπάρχει σταθερό αντικείμενο για έλεγχο. Πάνω σε αυτή τη βάση μπορούν να γίνουν validation, risk assessment και σύγκριση με πραγματικά business KPIs.

Επτά βήματα για πραγματικό release gate

Ένα checklist αποκτά αξία μόνο όταν οδηγεί σε εκτελέσιμο έλεγχο. Το release gate πρέπει να αποτυγχάνει με σαφή αιτία όταν λείπει κρίσιμο στοιχείο και να κρατά το report κάθε run. Η ακόλουθη ροή είναι κατάλληλη για πιλοτικά και production AI workflows.

Επτά βήματα για επαναλήψιμο AI release

  1. ScopeΟρίστε το claim που πρέπει να επαληθευτεί

    Καταγράψτε το business outcome, το metric, την αποδεκτή ανοχή και τις συνθήκες στις οποίες ισχύει. Αποφύγετε γενικές υποσχέσεις όπως «καλύτερη ακρίβεια» χωρίς baseline.

  2. SnapshotΠαγώστε inputs, code και model version

    Δώστε immutable αναγνωριστικά σε dataset, preprocessing, prompts ή rules, source code, checkpoints και configuration. Για ευαίσθητα δεδομένα, κρατήστε ελεγχόμενη πρόσβαση και ισχυρά hashes αντί για δημόσια έκθεση.

  3. RuntimeΚλειδώστε το περιβάλλον εκτέλεσης

    Χρησιμοποιήστε container ή machine-readable manifest με ακριβείς εκδόσεις, μαζί με hardware και system dependencies που επηρεάζουν το αποτέλεσμα.

  4. CommandΔώστε μία τεκμηριωμένη διαδρομή έως το report

    Ένα script ή pipeline πρέπει να στήνει το περιβάλλον, να τρέχει το evaluation και να παράγει τα metrics χωρίς κρυφά χειροκίνητα βήματα.

  5. Clean runΕκτελέστε σε καθαρό, ανεξάρτητο runner

    Μην επιβεβαιώνετε το release μόνο στο laptop του δημιουργού. Το rerun πρέπει να ξεκινά από νέο clone και να χρησιμοποιεί μόνο όσα δηλώνει το πακέτο.

  6. EvidenceΑποθηκεύστε versions, logs, metrics και αποκλίσεις

    Κρατήστε timestamp, hashes, environment, outputs, failures και reviewer decision. Έτσι ένα μελλοντικό drift μπορεί να αποδοθεί σε συγκεκριμένη αλλαγή.

  7. DecisionΣυνδέστε το αποτέλεσμα με προώθηση ή rollback

    Ορίστε thresholds ανά metric, ανθρώπινη έγκριση για κρίσιμες επιπτώσεις και σαφή κανόνα επιστροφής στην προηγούμενη επαληθευμένη έκδοση.

Αυτός ο μηχανισμός δεν χρειάζεται να είναι βαρύς από την πρώτη ημέρα. Μια μικρότερη επιχείρηση μπορεί να ξεκινήσει με ένα στενό use case, ένα frozen evaluation set και ένα nightly run. Το κρίσιμο είναι να μπορεί να συγκρίνει το ίδιο αντικείμενο στον χρόνο και να μη μετατρέπει κάθε έλεγχο σε νέο, μη τεκμηριωμένο πείραμα.

Τα όρια που αποτρέπουν την υπερερμηνεία

Το corpus περιορίζεται σε εργασίες που αυτοπροσδιορίζονταν ως Neuro-Symbolic AI, είχαν προσβάσιμο πλήρες κείμενο και ποσοτική αξιολόγηση. Το search cutoff ήταν 23 Μαΐου 2025. Η μελέτη δημοσιεύτηκε ως arXiv preprint και η τρέχουσα έκδοση v2 αναθεωρήθηκε στις 16 Οκτωβρίου 2026. Τα αποτελέσματα δεν πρέπει να επεκτείνονται σε όλη την AI βιβλιογραφία, σε LLMs γενικά ή σε κάθε εταιρικό σύστημα.

Οι αποτυχίες από ελλείποντα weights δεν ελέγχθηκαν με νέο training, επειδή αυτό θα άλλαζε το αντικείμενο της επανεκτέλεσης. Άλλη ομάδα με περισσότερο χρόνο, διαφορετικό hardware ή άμεση βοήθεια των συγγραφέων μπορεί να είχε διαφορετικό αποτέλεσμα. Επίσης, η κοινή ανοχή δεν έχει το ίδιο επιστημονικό νόημα για κάθε metric.

Η calibration pilot που έδωσε Cohen’s κ=0,82 αφορούσε δέκα εργασίες και δεν αποτελεί double annotation για όλες τις 455. Το 92,4% είναι παρατήρηση υπό συνθήκη, όχι πειραματική απόδειξη μοναδικής αιτιότητας. Παρ’ όλα αυτά, το πρωτόκολλο, τα paper-level records, οι missing-artifact annotations και τα analysis scripts έχουν αρχειοθετηθεί, επιτρέποντας έλεγχο της ίδιας της μελέτης.

Από το claim στον επαναλήψιμο έλεγχο

Το βασικό μήνυμα δεν είναι ότι η σύγχρονη AI αποτυγχάνει. Είναι ότι η αξιοπιστία χρειάζεται υλικά ίχνη. Ένας αλγόριθμος, ένα paper και ένα link δεν συνθέτουν από μόνα τους επαναλήψιμο σύστημα. Το σύστημα ολοκληρώνεται όταν ένας τρίτος μπορεί να βρει την ακριβή έκδοση, να ανακατασκευάσει το περιβάλλον, να εκτελέσει το test και να εξηγήσει γιατί το αποτέλεσμα συμφωνεί ή αποκλίνει.

Για μια επιχείρηση, αυτό μετατρέπει την AI αξιολόγηση από εντύπωση σε διαδικασία. Το benchmark γίνεται release gate, το artifact bundle γίνεται μέρος της τεχνικής παραλαβής και το report γίνεται κοινή γλώσσα ανάμεσα σε management, τεχνική ομάδα και προμηθευτή. Η πραγματική πρόοδος αρχίζει όταν το «δουλεύει» μπορεί να επαναληφθεί, να μετρηθεί και να αμφισβητηθεί με τα ίδια δεδομένα.

Αυτοματισμοί Επιχειρήσεων & AI

Σχεδιάστε AI workflows που μπορούν να ξανατρέξουν και να ελεγχθούν

Η TWO DOTS χαρτογραφεί δεδομένα, εκδόσεις, permissions, evaluation sets, monitoring και ανθρώπινα checkpoints πριν ένα AI workflow περάσει σε πραγματική λειτουργία. Έτσι το pilot αφήνει επαναλήψιμο μηχανισμό και όχι μόνο ένα επιτυχημένο demo.

Συχνές ερωτήσεις

Τι σημαίνει το 6,52% στη μελέτη;

Είναι οι 85 πλήρεις ή μερικές επιτυχίες σε σχέση με τις 1.304 επιλέξιμες εργασίες Neuro-Symbolic AI. Στις 455 εργασίες όπου επιχειρήθηκε rerun, το αντίστοιχο ποσοστό ήταν 18,68%.

Αποδεικνύει μια αποτυχία rerun ότι η εργασία είναι λανθασμένη;

Όχι. Δείχνει ότι το βασικό αποτέλεσμα δεν ανακτήθηκε με τα δημοσιευμένα artifacts και το συγκεκριμένο πρωτόκολλο. Μια νέα υλοποίηση ή νέο training είναι διαφορετικός έλεγχος.

Ποια artifacts έλειπαν συχνότερα;

Οι μεγαλύτερες κατηγορίες ήταν model checkpoints ή weights, προβλήματα περιβάλλοντος ή προδιαγραφών και ελλιπή codebases. Μαζί αντιστοιχούσαν στο 73,2% των 321 σχετικών αποτυχιών.

Πόσο συχνά πέτυχε το rerun με πλήρες artifact bundle;

Στις 92 εργασίες που ταξινομήθηκαν ότι είχαν τα απαιτούμενα artifacts, 85 αναπαράχθηκαν πλήρως ή μερικώς. Το ποσοστό ήταν 92,4% στο δείγμα της μελέτης.

Γιατί δεν αρκεί ένα GitHub link;

Επειδή το repository μπορεί να είναι νεκρό, ιδιωτικό, μη versioned ή να μην περιέχει δεδομένα, weights, κλειδωμένο περιβάλλον, evaluation command και επαρκείς οδηγίες.

Ποια έξι στοιχεία χρειάζεται ένα επαναλήψιμο AI release;

Πλήρη κώδικα, immutable δεδομένα, pretrained checkpoints, executable evaluation, machine-readable περιβάλλον και τεκμηρίωση που τα συνδέει σε μία σαφή ροή.

Εγγυάται η αναπαραγωγιμότητα ότι ένα AI είναι ασφαλές;

Όχι. Δημιουργεί σταθερή βάση για έλεγχο, αλλά χρειάζονται ξεχωριστές αξιολογήσεις για ασφάλεια, fairness, privacy, νομική συμμόρφωση και επιχειρηματικό αποτέλεσμα.

Ποιο είναι το πρώτο πρακτικό βήμα για μια επιχείρηση;

Να παγώσει ένα μικρό evaluation set μαζί με model, code, prompts και runtime και να απαιτήσει καθαρό rerun που παράγει αποθηκευμένο report πριν από κάθε production αλλαγή.

Ενημερωτικό Δελτίο

Εισάγετε τη διεύθυνση email σας παρακάτω για να εγγραφείτε στο ενημερωτικό δελτίο μας