Η σύντομη απάντηση: τα LLMs μπορούν να επιταχύνουν τη δομημένη εξαγωγή δεδομένων σε μια συστηματική βιβλιογραφική ανασκόπηση, αλλά η μέση ακρίβεια δεν αρκεί για αυτόνομη χρήση. Σε μελέτη 536 πλήρων papers, το GPT-5.0 έφτασε το 81,67% σε επίπεδο paper, ενώ σύνθετα πεδία που απαιτούσαν ερμηνεία έπεσαν έως το 37,4%. Η ασφαλής επιλογή είναι μια ροή όπου το AI κάνει την πρώτη εξαγωγή και ο άνθρωπος ελέγχει τις αμφίβολες ή κρίσιμες αποφάσεις.
Το ουσιαστικό εύρημα δεν είναι ότι ένα μοντέλο «διαβάζει papers σαν ερευνητής». Είναι ότι η ποιότητα αλλάζει δραματικά ανάλογα με το πεδίο, το schema, το έγγραφο και τον τρόπο αξιολόγησης. Για ερευνητικές ομάδες και επιχειρήσεις που εξετάζουν document AI, knowledge management, due diligence ή ανάλυση μεγάλων συλλογών εγγράφων, αυτό αλλάζει τον σχεδιασμό του έργου: η αυτοματοποίηση πρέπει να μετριέται ανά πεδίο και να διαθέτει σαφή διαδρομή ανθρώπινου ελέγχου.
Τι έδειξε η μελέτη σε 536 papers
Η εργασία «Leveraging Large Language Models for Systematic Literature Review of Disease Spread Models» αξιολόγησε αν τα GPT-4.1 και GPT-5.0 μπορούν να αναπαράγουν τη δομημένη εξαγωγή δεδομένων από 536 peer-reviewed εργασίες για agent-based μοντέλα εξάπλωσης της COVID-19. Οι ερευνητές δεν δοκίμασαν ολόκληρη τη διαδικασία μιας systematic literature review, ούτε ανέθεσαν στα μοντέλα να αποφασίσουν ποια μελέτη θα συμπεριληφθεί. Εξέτασαν ένα συγκεκριμένο στάδιο: την εξαγωγή 21 πεδίων από papers που είχαν ήδη επιλεγεί.
Η μέση ακρίβεια ανά paper ήταν 77,95% για το GPT-4.1 και 81,67% για το GPT-5.0 έναντι του ανθρώπινου reference. Η συμφωνία των δύο μοντέλων μεταξύ τους έφτασε το 82,43%. Αυτοί οι αριθμοί δείχνουν ότι η αυτοματοποιημένη πρώτη επεξεργασία είναι εφικτή σε μεγάλη κλίμακα, όχι ότι όλα τα παραγόμενα πεδία είναι εξίσου αξιόπιστα.
Η διαφορά υπέρ του GPT-5.0 ήταν 3,73 ποσοστιαίες μονάδες και στατιστικά σημαντική, με t(535)=6,44, p<0,001 και Cohen’s d=0,28. Το effect size, όμως, ήταν μικρό έως μέτριο. Με απλά λόγια, το νεότερο μοντέλο ήταν καλύτερο συνολικά, αλλά η αλλαγή μοντέλου δεν εξάλειψε τα δύσκολα σημεία της εργασίας.
Κρίσιμη διευκρίνιση: το 81,67% είναι μέση paper-level ακρίβεια πάνω σε συγκεκριμένο corpus, schema και μέθοδο βαθμολόγησης. Δεν αποτελεί γενικό ποσοστό αξιοπιστίας για κάθε συστηματική ανασκόπηση, κάθε γλώσσα ή κάθε επιχειρησιακό αρχείο.
Γιατί η συστηματική ανασκόπηση είναι απαιτητική
Μια συστηματική βιβλιογραφική ανασκόπηση δεν είναι μια γρήγορη περίληψη άρθρων. Χρειάζεται σαφές ερευνητικό ερώτημα, κριτήρια επιλεξιμότητας, αναπαραγώγιμη αναζήτηση, screening, αξιολόγηση πλήρους κειμένου, εξαγωγή δεδομένων, σύνθεση και διαφανή αναφορά. Το PRISMA λειτουργεί ως οδηγός αναφοράς, ώστε ο αναγνώστης να μπορεί να καταλάβει γιατί έγινε η ανασκόπηση, ποιες μέθοδοι εφαρμόστηκαν και πώς προέκυψαν τα αποτελέσματα.
Η πρωτογενής εργασία παραπέμπει σε προηγούμενες εκτιμήσεις σύμφωνα με τις οποίες μια συστηματική ανασκόπηση μπορεί να απαιτήσει τουλάχιστον 6 έως 16 μήνες και σημαντικό ανθρώπινο κόστος. Η εξαγωγή δεδομένων είναι ιδιαίτερα απαιτητική, επειδή ο reviewer δεν αντιγράφει πάντα μια έτοιμη φράση. Συχνά πρέπει να συνδυάσει πληροφορίες από διαφορετικές ενότητες, να ερμηνεύσει ασαφείς όρους και να αποφασίσει αν ένα κριτήριο πληρούται.
Αυτό εξηγεί γιατί τα LLMs έχουν επιχειρησιακό ενδιαφέρον. Μπορούν να επεξεργαστούν επαναλαμβανόμενα ένα μεγάλο corpus, να επιστρέψουν δομημένα πεδία και να καταγράψουν ενδιάμεσα αποτελέσματα. Η ταχύτητα, όμως, μετατρέπεται σε αξία μόνο όταν η διαδικασία διατηρεί τις πηγές, την έκδοση του prompt, την έκδοση του μοντέλου και την τελική ανθρώπινη απόφαση.
Πώς δημιουργήθηκε το ανθρώπινο reference
Το σύνολο αναφοράς προερχόταν από μια προηγούμενη συστηματική ανασκόπηση 536 δημοσιεύσεων για COVID-19 agent-based models, που κάλυπταν την περίοδο Ιανουάριος 2020 έως Δεκέμβριος 2023. Η αρχική έρευνα εξέτασε τη διαφάνεια, την επαναχρησιμοποίηση, τη διεπιστημονική συνεργασία, τη συμμετοχή stakeholders και την αξιολόγηση των μοντέλων.
Κάθε paper ανατέθηκε σε δύο ανεξάρτητους reviewers. Οι διαφωνίες περνούσαν σε τρίτο reviewer για consensus με έλεγχο του πρωτογενούς κειμένου. Η μέση ανθρώπινη συμφωνία ήταν 74%, με εύρος 68,8% έως 83,8%. Επομένως, το human ground truth δεν ήταν μια αλάνθαστη λίστα απαντήσεων, αλλά αποτέλεσμα εκπαιδευμένης κρίσης και οργανωμένης επίλυσης διαφορών.
Η χειροκίνητη εξαγωγή διήρκεσε περίπου έναν χρόνο, από τον Φεβρουάριο έως τον Δεκέμβριο του 2024. Το τελικό schema περιλάμβανε 21 πεδία, όπως σκοπό του μοντέλου, γεωγραφική περιοχή, πλατφόρμα ABM, πρωτόκολλο τεκμηρίωσης, παραδοχές, περιορισμούς, διαθεσιμότητα κώδικα, επαναχρησιμοποίηση υπάρχοντος μοντέλου, disciplines των συγγραφέων, stakeholder feedback, model evaluation και επικοινωνία αβεβαιότητας.
Τι πρέπει να κρατήσει μια ομάδα
Το reference χρειάζεται δικό του ποιοτικό έλεγχο
Αν οι ανθρώπινες ετικέτες προκύπτουν από αμφίσημους κανόνες ή διαφορετικές ερμηνείες, η αξιολόγηση του AI μπορεί να μετρά και ασυνέπεια του schema. Πριν από οποιαδήποτε αυτοματοποίηση, χρειάζονται σαφείς ορισμοί, παραδείγματα και διαδικασία επίλυσης διαφορών.
Πώς σχεδιάστηκε το LLM pipeline
Οι συγγραφείς χρησιμοποίησαν GPT-4.1 και GPT-5.0 σε zero-shot ρύθμιση, χωρίς fine-tuning πάνω στα ανθρώπινα δεδομένα. Κάθε πλήρες PDF επεξεργαζόταν σε μία κλήση ανά μοντέλο και παρήγαγε μία δομημένη εγγραφή. Συνολικά έγιναν 1.072 κύριες κλήσεις, δηλαδή 536 papers επί δύο μοντέλα.
Ένα κοινό prompt αναπαρήγαγε τη φόρμα εξαγωγής. Περιέγραφε κάθε μεταβλητή, περιόριζε τις επιτρεπόμενες κατηγορικές απαντήσεις και ζητούσε ένα μοναδικό JSON object χωρίς σχόλια ή νέες κατηγορίες. Το schema μείωνε την ελευθερία της εξόδου και επέτρεπε αυτόματο validation, αποθήκευση και σύγκριση.
Η εγκυρότητα του JSON ελεγχόταν σε τρία στάδια. Πρώτα γινόταν κανονικό parsing. Αν αποτύγχανε, εφαρμόζονταν κανόνες για brackets, εισαγωγικά και trailing commas. Αν και αυτό αποτύγχανε, ένα ελαφρύτερο μοντέλο διόρθωνε μόνο τη σύνταξη, χωρίς να αλλάζει τις τιμές των πεδίων. Με τη διαδικασία αυτή και τα 536 papers κατέληξαν σε έγκυρη δομημένη έξοδο.
Το reported execution cost ήταν σημαντικά χαμηλότερο από 10 δολάρια ανά πλήρες run μοντέλου. Το νούμερο αφορά τη συγκεκριμένη υπολογιστική εκτέλεση και όχι τον σχεδιασμό του schema, την ανάπτυξη, τον ποιοτικό έλεγχο ή την ανθρώπινη επίλυση αμφίβολων περιπτώσεων. Για ένα business case, το συνολικό κόστος ιδιοκτησίας πρέπει να περιλαμβάνει όλα αυτά τα στάδια.
Γιατί η ακρίβεια πρέπει να μετριέται ανά πεδίο
Δεν μπορούν όλα τα πεδία να βαθμολογηθούν με exact match. Μια μονοσήμαντη επιλογή «ναι/όχι» διαφέρει από μια λίστα disciplines ή ένα ελεύθερο όνομα πλατφόρμας. Οι ερευνητές χρησιμοποίησαν Jaccard index για multi-select πεδία και overlap coefficient για free-text πεδία. Στα single-choice πεδία, η βαθμολογία κατέληγε στην κλασική ακρίβεια: 1 για ίδια απάντηση και 0 για διαφορετική.
Ρητά πεδία
Χώρα, όνομα πλατφόρμας, URL κώδικα ή σαφής δήλωση σκοπού βρίσκονται συνήθως ως συγκεκριμένες πληροφορίες στο κείμενο. Είναι καλύτεροι υποψήφιοι για υψηλότερη αυτοματοποίηση, εφόσον διατηρείται η παραπομπή στο source.
Συγκεκριμένη πληροφορίαΕύκολη επαλήθευση
Ερμηνευτικά πεδία
Πολυσύνθετες κατηγορίες, αιτιώδεις κρίσεις και «check all that apply» απαιτούν συνδυασμό πολλών σημείων και domain judgment. Χρειάζονται χαμηλότερο όριο εμπιστοσύνης και συστηματικό human review.
Σύνθεση στοιχείωνΑνθρώπινη κρίση
Η μελέτη επιβεβαίωσε αυτή τη διαφορά. Τα free-text πεδία είχαν μέση απόδοση 81,6% για GPT-4.1 και 85,0% για GPT-5.0, ενώ τα single-choice 81,2% και 84,0%. Τα multi-choice έπεσαν στο 58,3% και 66,0%. Η δυσκολία δεν εξαρτήθηκε από το μήκος της απάντησης, αλλά από το πόση ερμηνεία απαιτούσε η κατηγορία.
Τα βασικά αποτελέσματα και τι σημαίνουν
Ακρίβεια και συμφωνία σε επίπεδο paper
Μέσοι όροι στα 536 papers της πρωτογενούς μελέτης. Δεν αποτελούν γενικό benchmark για κάθε document AI εφαρμογή.
77,95%GPT-4.1 έναντι ανθρώπινου referenceΤυπική απόκλιση 10,24%
81,67%GPT-5.0 έναντι ανθρώπινου referenceΤυπική απόκλιση 9,28%
82,43%Συμφωνία GPT-4.1 με GPT-5.0Τυπική απόκλιση 10,01%
Το υψηλότερο πεδίο έφτασε το 100%, αλλά και τα 536 ανθρώπινα records είχαν την ίδια θετική τιμή. Εφόσον δεν υπήρχε διακύμανση τάξης, το αποτέλεσμα δεν πρέπει να διαβαστεί ως ισχυρή απόδειξη διακριτικής ικανότητας. Στον αντίποδα, οι υποκατηγορίες των disciplines έδωσαν μόλις 32,4% για GPT-4.1 και 37,4% για GPT-5.0 έναντι ανθρώπου, με 49,4% συμφωνία μεταξύ των μοντέλων.
Η αξιολόγηση του μοντέλου ως multi-choice πεδίο είχε 53,9% για GPT-4.1 και 71,4% για GPT-5.0. Άρα το headline αποτέλεσμα κρύβει ένα μεγάλο εύρος κινδύνου. Σε παραγωγική ροή, κάθε πεδίο χρειάζεται δικό του metric, αποδεκτό threshold και κανόνα escalation. Ένας ενιαίος μέσος όρος μπορεί να κάνει μια αδύναμη κατηγορία να φαίνεται ασφαλέστερη από όσο είναι.
Η συμφωνία δύο μοντέλων ως σήμα ελέγχου
Η inter-model agreement μπορεί να λειτουργήσει ως χρήσιμο diagnostic. Αν δύο ανεξάρτητες εκτελέσεις ή δύο διαφορετικά μοντέλα διαφωνούν έντονα, το πεδίο μπορεί να είναι αμφίσημο, ασταθές, ευάλωτο σε διαφορετική ερμηνεία του prompt ή επηρεασμένο από document parsing. Αυτές οι εγγραφές είναι φυσικοί υποψήφιοι για ανθρώπινο έλεγχο.
Υψηλή συμφωνία μεταξύ μοντέλων δεν αποδεικνύει αλήθεια. Στο πεδίο για χρήση ή επέκταση υπάρχοντος μοντέλου, η μεταξύ τους συμφωνία ήταν 87,1%, ενώ η συμφωνία με τον άνθρωπο ήταν 77,6% και 80,0%. Αυτό δικαιολογεί έλεγχο και του reference, αλλά δεν αποδεικνύει ότι ο άνθρωπος έκανε λάθος. Τα μοντέλα μπορεί να μοιράζονται το ίδιο prompt artifact, το ίδιο πρόβλημα PDF parsing ή παρόμοια training-data exposure.
Κανόνας παραγωγής
Η συμφωνία είναι triage, όχι ετυμηγορία
Χρησιμοποίησέ την για να δρομολογείς εγγραφές: χαμηλή συμφωνία προς reviewer, υψηλή συμφωνία με διαθέσιμο source evidence προς γρήγορη επιβεβαίωση. Η τελική απόφαση πρέπει να παραμένει επαληθεύσιμη στο πρωτογενές έγγραφο.
Η λογική αυτή συνδέεται με ένα ευρύτερο μάθημα για production AI: το μοντέλο δεν είναι ολόκληρο το σύστημα. Η ποιότητα εξαρτάται από το harness, τους κανόνες, τα εργαλεία, το validation και το fallback. Το ίδιο μοτίβο φαίνεται και στην αξιολόγηση coding agents με διαφορετικό harness, όπου η περιβάλλουσα αρχιτεκτονική μεταβάλλει ουσιαστικά το αποτέλεσμα.
Οι περιορισμοί πίσω από το 81,67%
Η μελέτη έκανε μία εκτέλεση ανά paper και μοντέλο. Δεν υπήρχαν repeated runs που να μετρούν sampling variance. Το περιορισμένο JSON schema με σταθερές επιλογές μειώνει πρακτικά τη διακύμανση, αλλά δεν την εξαφανίζει. Μια παραγωγική αξιολόγηση πρέπει να επαναλαμβάνει τουλάχιστον ένα αντιπροσωπευτικό υποσύνολο και να καταγράφει τη σταθερότητα ανά πεδίο.
Τα PDFs αναλύονταν από τον parser της υπηρεσίας. Πολυστήλες σελίδες, πίνακες, υποσημειώσεις και παραρτήματα μπορεί να μην αποδόθηκαν πλήρως. Επομένως, ένα λάθος σε όνομα πλατφόρμας, διαθεσιμότητα κώδικα ή discipline δεν είναι κατ’ ανάγκη καθαρό reasoning failure. Μπορεί να έχει ξεκινήσει ένα βήμα νωρίτερα, στην εξαγωγή του περιεχομένου.
Δεν μπορούσε επίσης να αποκλειστεί ότι ορισμένα papers υπήρχαν στα training data των μοντέλων. Η εργασία το αναγνωρίζει ως περιορισμό, όχι ως λυμένο ζήτημα. Για αυτό η αξιολόγηση χρειάζεται datasets με γνωστή προέλευση, χρονικό διαχωρισμό όπου είναι δυνατό και σαφή διάκριση ανάμεσα σε ανάκληση, extraction και πραγματική ερμηνεία.
Τέλος, τα αποτελέσματα αφορούν ένα αγγλόφωνο corpus για COVID-19 ABMs και συγκεκριμένους ορισμούς πεδίων. Δεν πρέπει να μεταφερθούν αυτούσια σε νομικά έγγραφα, τεχνικά manuals, ελληνικές συμβάσεις ή customer-support αρχεία. Όπως δείχνει και η συζήτηση για την αναπαραγωγιμότητα στην AI έρευνα, η δυνατότητα επανάληψης της διαδικασίας και η τεκμηρίωση των artifacts είναι μέρος του αποτελέσματος.
Από την έρευνα σε επιχειρησιακή εφαρμογή
Η σωστή επιχειρησιακή μετάφραση δεν είναι «ανέβασε όλα τα έγγραφα σε ένα LLM». Είναι να ξεκινήσεις με ένα σαφές extraction contract. Για κάθε πεδίο χρειάζονται ορισμός, επιτρεπόμενες τιμές, παραδείγματα, πηγή τεκμηρίωσης και κανόνας για το πότε η πληροφορία θεωρείται απούσα ή αβέβαιη.
Έπειτα, τα πεδία ταξινομούνται με βάση το ρίσκο και την ερμηνευτική δυσκολία. Ένα URL ή μια ημερομηνία μπορεί να περάσει από αυτόματο format validation. Μια κατηγορία compliance, μια αιτιώδης κρίση ή μια απόφαση που επηρεάζει πελάτη χρειάζεται αυστηρότερο threshold και ανθρώπινη επιβεβαίωση. Το dashboard της ροής πρέπει να δείχνει source evidence, confidence, disagreement και status, όχι μόνο το τελικό label.
Η ώριμη ροή αποθηκεύει το αρχικό έγγραφο, την έκδοση του parser, το prompt, το schema, την έκδοση του μοντέλου, το raw output, τις αυτόματες διορθώσεις και την τελική απόφαση. Αυτό το audit trail επιτρέπει επανέλεγχο, regression testing και σύγκριση νέων εκδόσεων. Χωρίς traceability, η ταχύτητα δεν μετατρέπεται σε αξιόπιστη γνώση.
Για οργανισμούς που θέλουν να συνδέσουν document AI με CRM, ERP, support ή εσωτερικές βάσεις γνώσης, η αρχιτεκτονική πρέπει να περιλαμβάνει permissions, logging, retention policy και fallback. Οι αυτοματισμοί επιχειρήσεων με AI αποδίδουν όταν εντάσσονται σε μετρήσιμη διαδικασία και όχι όταν λειτουργούν ως απομονωμένο demo.
Επτά βήματα για αξιόπιστη ροή document AI
Πρακτική διαδρομή από το pilot στην παραγωγή
- Πεδίο εφαρμογήςΌρισε μία συγκεκριμένη απόφαση
Διάλεξε ένα corpus και ένα σαφές αποτέλεσμα, όπως εξαγωγή όρων συμβάσεων ή κατηγοριοποίηση αιτημάτων. Μην ξεκινάς με γενικό στόχο «να διαβάζει όλα τα έγγραφα».
- SchemeΓράψε ακριβείς ορισμούς ανά πεδίο
Καθόρισε τύπο, επιτρεπόμενες τιμές, παραδείγματα, edge cases και τι σημαίνει κενή ή άγνωστη τιμή. Το schema είναι λειτουργική προδιαγραφή, όχι μόνο JSON μορφή.
- ReferenceΔημιούργησε ανθρώπινο benchmark
Χρησιμοποίησε διπλή επισήμανση σε αντιπροσωπευτικό δείγμα και διαδικασία consensus. Κατέγραψε και τη συμφωνία των reviewers, ώστε να γνωρίζεις πόση αμφισημία έχει το ίδιο το task.
- PipelineΧώρισε parsing, extraction και validation
Μην αποδίδεις κάθε λάθος στο μοντέλο. Έλεγξε αν το κείμενο ανακτήθηκε σωστά, αν το output ακολουθεί το schema και αν οι τιμές υποστηρίζονται από συγκεκριμένο source evidence.
- MetricsΜέτρησε κάθε πεδίο ξεχωριστά
Υπολόγισε precision, recall ή κατάλληλο similarity metric ανά τύπο δεδομένων. Απόφυγε έναν μοναδικό μέσο όρο που μπορεί να κρύψει αποτυχία σε κρίσιμη κατηγορία.
- EscalationΔρομολόγησε αβεβαιότητα σε reviewer
Χρησιμοποίησε confidence, missing evidence, parser warnings και disagreement ως triggers. Ο reviewer πρέπει να βλέπει το σχετικό απόσπασμα και να μπορεί να διορθώσει ή να απορρίψει την πρόταση.
- ΛειτουργίαΠαρακολούθησε drift και regressions
Κράτησε versioned prompts και test set. Κάθε αλλαγή σε μοντέλο, parser ή schema πρέπει να περνά από επαναξιολόγηση πριν χρησιμοποιηθεί σε πραγματικές αποφάσεις.
Συμπέρασμα: augmentation πριν από αυτονομία
Η μελέτη δείχνει ότι η zero-shot εξαγωγή σε μεγάλη κλίμακα είναι τεχνικά εφικτή και μπορεί να προσφέρει μέτρια έως υψηλή συμφωνία με ένα επιμελημένο human reference. Δείχνει επίσης ότι η μέση ακρίβεια αποκρύπτει μεγάλες διαφορές ανά πεδίο. Το 81,67% δεν αρκεί για να αποφασίσει ένας οργανισμός αν μια ροή είναι ασφαλής.
Η πιο ώριμη αρχιτεκτονική σήμερα είναι LLM-assisted: το AI κάνει τη μαζική πρώτη εξαγωγή, οι κανόνες επιβάλλουν δομή, η διαφωνία και η έλλειψη evidence ενεργοποιούν triage, και οι άνθρωποι ελέγχουν τις αμφίβολες ή υψηλού ρίσκου αποφάσεις. Η αξία δεν βρίσκεται στην εξαφάνιση του reviewer, αλλά στη συγκέντρωση της ανθρώπινης προσοχής εκεί όπου η ερμηνεία έχει πραγματικό κόστος.
Για να γίνει αυτό βιώσιμα, η ομάδα πρέπει να αντιμετωπίσει το document AI ως ολόκληρο σύστημα: corpus, parser, schema, model, validation, audit trail και λειτουργικό ownership. Όταν αυτά σχεδιαστούν μαζί, η αυτοματοποίηση μπορεί να μειώσει τη χειρωνακτική επανάληψη χωρίς να κρύβει την αβεβαιότητα.
Αυτοματισμοί επιχειρήσεων & AI
Σχεδιάστε document AI με μετρήσιμο ανθρώπινο έλεγχο
Η TWO DOTS μπορεί να χαρτογραφήσει τα έγγραφά σας, να ορίσει schema και validation, και να συνδέσει τη ροή με τα συστήματα της επιχείρησης χωρίς να θυσιάζεται η ιχνηλασιμότητα.
Frequently Asked Questions (FAQs)
Τι ακριβώς αυτοματοποίησαν οι ερευνητές;
Αυτοματοποίησαν την εξαγωγή 21 δομημένων πεδίων από τα πλήρη PDF 536 ήδη επιλεγμένων papers. Δεν αυτοματοποίησαν στην ίδια μελέτη την αρχική αναζήτηση, το screening, την τελική σύνθεση ή ολόκληρη τη ροή PRISMA.
Ποιο μοντέλο είχε την υψηλότερη μέση ακρίβεια;
Το GPT-5.0 πέτυχε μέση paper-level ακρίβεια 81,67% έναντι του ανθρώπινου reference, ενώ το GPT-4.1 πέτυχε 77,95%. Η διαφορά ήταν στατιστικά σημαντική, αλλά το effect size ήταν μικρό έως μέτριο.
Σημαίνει το 81,67% ότι δεν χρειάζεται ανθρώπινος reviewer;
Όχι. Η απόδοση διέφερε έντονα ανά πεδίο και σε ορισμένες σύνθετες multi-choice κατηγορίες έπεσε στο 37,4%. Η ασφαλής χρήση απαιτεί human review για αμφίβολα, ερμηνευτικά ή υψηλού ρίσκου πεδία.
Γιατί τα multi-choice πεδία ήταν δυσκολότερα;
Απαιτούσαν συνδυασμό πολλών σημείων, ερμηνεία και domain judgment. Αντίθετα, πολλά free-text πεδία αφορούσαν ρητές πληροφορίες, όπως χώρα, όνομα πλατφόρμας ή σύνδεσμο κώδικα.
Πώς χρησιμοποιείται η συμφωνία μεταξύ δύο LLMs;
Ως diagnostic signal για triage. Η χαμηλή συμφωνία μπορεί να δείχνει αστάθεια ή αμφισημία, ενώ η υψηλή συμφωνία με απόκλιση από το reference δικαιολογεί επανέλεγχο. Δεν αποδεικνύει από μόνη της ποια απάντηση είναι σωστή.
Πόσο κόστισε το pipeline της μελέτης;
Οι συγγραφείς αναφέρουν κόστος σημαντικά χαμηλότερο από 10 δολάρια ανά πλήρες model run, βάσει tracked token usage. Η εκτίμηση δεν περιλαμβάνει ανάπτυξη, σχεδιασμό schema, ποιοτικό έλεγχο ή ανθρώπινη επίλυση διαφορών.
Ποιοι ήταν οι βασικοί τεχνικοί περιορισμοί;
Δεν έγιναν repeated runs, ο PDF parser μπορεί να έχασε στοιχεία από σύνθετα layouts και δεν αποκλείστηκε πιθανό training-data overlap με ορισμένα papers. Επιπλέον, το corpus και το schema ήταν πολύ συγκεκριμένα.
Πώς ξεκινά μια επιχείρηση ένα ασφαλές document AI pilot;
Ξεκινά με ένα σαφές use case, μικρό αντιπροσωπευτικό corpus, ανθρώπινο benchmark, schema ανά πεδίο και thresholds για escalation. Το pilot πρέπει να κρατά source evidence, versioned prompts και audit trail πριν συνδεθεί με παραγωγικά συστήματα.