With over 20 years of experience, we transform your digital presence. We specialize in website and E-Shop development, SEO and Digital Marketing, ERP software and smart automation that take your business to the next level.
Address:
154 Egnatia Street, Thessaloniki 546 36
Phone:
+30 231 231 4095
E-mail:
[email protected]
Ready for the next step?;
Το Recall-Anchored Distillation ξεχωρίζει την απώλεια γνώσης από την αποτυχία πρόσβασης μετά το fine-tuning και δείχνει πώς ελέγχεται η ανοικτή ανάκληση.
Το RAD στην AI απαντά σε ένα πρακτικό πρόβλημα: ένα μοντέλο μπορεί να διατηρεί μια πληροφορία, αλλά μετά το fine-tuning να μην την ανακαλεί ή να μην την εκφράζει στη μορφή που χρειάζεται ο χρήστης. Η μελέτη Knowing but Not Saying ξεχωρίζει την αναγνώριση από την ανοικτή ανάκληση και δείχνει γιατί η χαμηλότερη επίδοση σε exact match δεν αποδεικνύει από μόνη της ότι η γνώση διαγράφηκε.
Στο Llama-3.1-8B, το TriviaQA exact match έπεσε από 65,03 στη βασική έκδοση σε 43,95 μετά το τυπικό SFT. Με Recall-Anchored Distillation ανέβηκε σε 51,62, ενώ το MedMCQA έμεινε ανταγωνιστικό. Πρόκειται για μερική ανάκτηση σε συγκεκριμένο πείραμα, όχι για καθολική εγγύηση διατήρησης γνώσης.
Το supervised fine-tuning χρησιμοποιείται για να μάθει ένα γενικό μοντέλο να ακολουθεί συγκεκριμένες οδηγίες, να απαντά με ορισμένο format ή να λειτουργεί μέσα σε έναν επαγγελματικό τομέα. Η προσαρμογή είναι χρήσιμη, αλλά δεν είναι ουδέτερη: μπορεί να μεταβάλει τις θεματικές προτιμήσεις, το ύφος, τη συντομία, την τάση για επεξήγηση και τον τρόπο με τον οποίο ενεργοποιείται η γνώση της προεκπαίδευσης.
Η μελέτη εξετάζει LoRA fine-tuning πάνω στο MedMCQA, ένα σύνολο ιατρικών ερωτήσεων πολλαπλής επιλογής. Μετά την προσαρμογή, τα μοντέλα βελτιώνονται στον στόχο τους, αλλά υποχωρούν σε benchmarks ανοικτής ανάκλησης εκτός του ιατρικού domain. Η παρατήρηση έχει άμεση σημασία για customer support, πωλήσεις, εσωτερική γνώση και παραγωγή περιεχομένου: ένα aggregate score του στενού domain δεν αρκεί για να αποδείξει ότι ο γενικός βοηθός παρέμεινε αξιόπιστος.
Το πρώτο λάθος διάγνωσης είναι να ονομάζεται κάθε πτώση «καταστροφική λήθη». Αν το μοντέλο εξακολουθεί να επιλέγει τη σωστή απάντηση ανάμεσα σε υποψηφίους, αλλά αποτυγχάνει να την παράγει χωρίς βοήθεια, τότε το ορατό σφάλμα μπορεί να βρίσκεται στην πρόσβαση, στην elicitation συνθήκη ή στην τελική μορφή. Αυτή η διάκριση δεν αθωώνει το μοντέλο· αλλάζει την τεχνική θεραπεία και τον τρόπο αξιολόγησης.
Οι συγγραφείς χωρίζουν τη συμπεριφορά σε τρία παρατηρήσιμα επίπεδα. Η Recognition ελέγχει αν το μοντέλο μπορεί να επιλέξει ή να κατατάξει τη σωστή απάντηση ανάμεσα σε υποψηφίους. Η ανάκληση απαιτεί να παραγάγει την απάντηση χωρίς υποστήριξη υποψηφίων. Η έκφραση αφορά το αν αποδίδει τη γνώση στη μορφή που περιμένει ο χρήστης, ένα schema ή το metric.
Στο πλήρες TriviaQA, το Llama-3.1-8B έπεσε από 65,03 σε 43,95 exact match μετά το SFT, ενώ οι πολλαπλής επιλογής μετρήσεις MMLU έμειναν σταθερές ή βελτιώθηκαν ελαφρά. Επειδή όμως αυτά τα benchmarks διαφέρουν σε περιεχόμενο και format, η σύγκριση από μόνη της δεν αποδεικνύει ότι το ίδιο fact παραμένει προσβάσιμο.
Γι’ αυτό η εργασία κατασκευάζει και same-fact probes: το ίδιο αντικείμενο απάντησης ελέγχεται ως ανοικτή ερώτηση, ως επιλογή ανάμεσα σε υποψηφίους και ως ranking υπό teacher forcing. Εκεί η ανοικτή παραγωγή μειώνεται αισθητά, ενώ η multiple-choice accuracy αλλάζει οριακά και η κατάταξη του σωστού πρώτου token μένει κοντά στη βάση. Το evidence στηρίζει τον όρο factual access failure: επιλεκτική αποτυχία παραγωγής, όχι αυτόματη απόδειξη ότι το fact έπαψε να κωδικοποιείται.
Η διάκριση ταιριάζει με ένα ευρύτερο μάθημα από την αξιολόγηση agentic συστημάτων: το observed failure χρειάζεται decomposition πριν γίνει παρέμβαση. Η ίδια πειθαρχία εμφανίζεται στην αξιολόγηση skill lift για AI agents, όπου το αποτέλεσμα ενός εργαλείου συγκρίνεται με paired baseline αντί να αποδίδεται σε μία ασαφή «ικανότητα».
Η ανάλυση εξετάζει 300 περιπτώσεις TriviaQA στις οποίες η βασική έκδοση ήταν σωστή και η SFT έκδοση λάθος με βάση exact match. Τα outputs ταξινομήθηκαν σε τέσσερις κατηγορίες: λάθος οντότητα, αστοχία μορφής ή υπερβολική φλυαρία, σημασιολογικά αποδεκτή απάντηση που απορρίφθηκε από το metric και μη απάντηση ή άρνηση.
Οι αστοχίες format ή verbosity αντιστοιχούσαν στο 77,3% αυτού του επιλεγμένου δείγματος. Οι ετικέτες συμφώνησαν σε 97,3% των περιπτώσεων με ανεξάρτητο LLM judge που χρησιμοποίησαν οι συγγραφείς. Ένα απλό prompt τεσσάρων παραδειγμάτων ανέκτησε το 90,0% των ίδιων cases, ένδειξη ότι πολλές αποτυχίες ήταν ευαίσθητες στον τρόπο elicitation.
Τι μετρήθηκε στο RAD
Οι τιμές ανήκουν στα συγκεκριμένα experiments της εργασίας. Τα δύο ποσοστά αφορούν το επιλεγμένο δείγμα 300 Base-correct/SFT-wrong περιπτώσεων και δεν είναι γενικά rates για όλα τα LLMs.
Αυτά τα ποσοστά δεν σημαίνουν ότι το prompting λύνει κάθε factual error. Το sample επιλέχθηκε ακριβώς επειδή η βάση ήταν σωστή και το SFT output απέτυχε στο exact match, ενώ η εργασία καταγράφει και πραγματικές λάθος οντότητες. Σε production, η σημασιολογική κρίση, το schema validation και η ανθρώπινη επιθεώρηση πρέπει να συμπληρώνουν το exact match, όχι να το αντικαθιστούν με ένα άλλο μοναδικό metric.
Για να περιορίσουν τη μετατόπιση, οι ερευνητές προτείνουν Recall-Anchored Distillation. Το RAD συνδυάζει δύο ροές εκπαίδευσης: την κανονική supervised loss του target domain και μία OOD ροή με μη επισημασμένο γενικό κείμενο. Στη δεύτερη ροή, το προσαρμοσμένο μοντέλο μαθαίνει να παραμένει κοντά στη soft next-token distribution της αρχικής του έκδοσης.
Το anchor corpus περιλαμβάνει 10.000 ζεύγη prefix–continuation από Wikipedia-style κείμενο. Το prefix δίνει συμφραζόμενα και η συνέχεια ορίζει μόνο τις token positions όπου γίνεται η ευθυγράμμιση. Οι συγγραφείς φιλτράρουν ερωτήσεις, answer strings και aliases από PopQA και TriviaQA για να μειώσουν τον κίνδυνο contamination.
Η μέθοδος δεν ζητά gold OOD answers, νέο labeled factual dataset ή εξωτερικό judge. Ο teacher δεν δίνει μία σκληρή «σωστή» συνέχεια· παρέχει τη σχετική πιθανότητα πολλών πιθανών επόμενων tokens. Έτσι το preservation signal αφορά τη συμπεριφορά παραγωγής της βάσης πάνω σε γενικό κείμενο και όχι απλώς νέα έκθεση στο ίδιο corpus.
Η υλοποίηση αξιοποιεί τον διακόπτη του LoRA adapter. Με απενεργοποιημένο adapter, το παγωμένο base model λειτουργεί ως teacher και παράγει logits χωρίς gradients. Με ενεργοποιημένο adapter, η ίδια αρχιτεκτονική λειτουργεί ως student και δέχεται gradients. Δεν χρειάζεται δεύτερο πλήρες μοντέλο στη μνήμη.
Για τα target-domain batches υπολογίζεται η συνηθισμένη cross-entropy loss. Για κάθε OOD anchor batch, η ίδια ακολουθία περνά δύο φορές: πρώτα adapter-off και μετά adapter-on. Η student distribution ευθυγραμμίζεται με την base distribution μέσω reverse KL μόνο στα continuation tokens. Η ανά token ποινή γίνεται clipping, ώστε λίγες μεγάλες αποκλίσεις να μη μονοπωλούν το objective.
Η κοινή objective είναι LRAD = LSFT + αLKP. Οι προεπιλεγμένες τιμές της εργασίας είναι α = 1,5 και τ = 5,0. Τα ablations δείχνουν ότι θετική αγκύρωση βελτιώνει το TriviaQA και το PopQA, αλλά τα κέρδη δεν είναι μονοτονικά όσο αυξάνεται το α. Άρα το 1,5 είναι stable default του συγκεκριμένου setup, όχι καθολικά βέλτιστη ρύθμιση.
Μια φυσική εναλλακτική είναι να αναμειχθεί το ίδιο γενικό κείμενο στο fine-tuning με hard-label language-modeling loss. Η εργασία χρησιμοποιεί ακριβώς αυτό το replay ως baseline, ώστε να ξεχωρίσει την επίδραση της πρόσθετης έκθεσης σε κείμενο από την επίδραση της soft base distribution.
Standard SFT
Βελτιστοποιεί μόνο το MedMCQA supervision. Προσαρμόζει το target task, αλλά μπορεί να μετατοπίσει την ανοικτή OOD παραγωγή.
Same-text replay
Προσθέτει το ίδιο OOD anchor corpus ως hard next-token labels. Ελέγχει αν αρκεί απλώς περισσότερη γενική έκθεση.
RAD
Ταιριάζει τη student distribution με τη soft distribution του adapter-off base model πάνω στα continuation tokens.
Στο Llama-3.1-8B, το PopQA exact match ήταν 11,60 μετά το τυπικό SFT, έπεσε στο 3,40 με replay και ανέβηκε στο 15,20 με RAD. Στο TriviaQA, το RAD έφτασε 51,62 έναντι 43,95 του SFT και 32,87 του replay. Η σύγκριση στηρίζει ότι το χρήσιμο σήμα δεν είναι μόνο το anchor text, αλλά οι σχετικές πιθανότητες που αποδίδει η βάση στις πιθανές συνέχειες.
Το αποτέλεσμα δεν κάνει το replay άχρηστο σε κάθε context. Δείχνει ότι, σε αυτό το controlled setup και με ίση ποσότητα OOD κειμένου, το hard-label replay δεν προστάτευσε την ανοικτή factual παραγωγή όσο η distributional αγκύρωση. Κάθε νέα εφαρμογή χρειάζεται δικό της baseline και όχι αντιγραφή των τιμών σαν να ήταν universal benchmark.
Η αξιολόγηση καλύπτει Llama-3.1-8B, Qwen2.5-7B-Instruct και Qwen2.5-3B-Instruct, όλα προσαρμοσμένα με LoRA στο MedMCQA. Οι μετρήσεις περιλαμβάνουν MedMCQA accuracy, MMLU-Med και MMLU-Other, TruthfulQA-MC2 και ανοικτή ανάκληση σε TriviaQA και PopQA με exact match και token-level F1.
Στο Qwen2.5-7B-Instruct, το MedMCQA ήταν 61,99 με RAD έναντι 61,27 με SFT, ενώ το PopQA exact match αυξήθηκε από 4,95 σε 6,81. Η μεγαλύτερη αποκατάσταση αυτού του backbone εμφανίζεται στο TruthfulQA-MC2: 58,14 με RAD έναντι 49,03 με SFT, παραμένοντας χαμηλότερα από το 64,75 της βάσης.
Στο Qwen2.5-3B-Instruct, το TriviaQA exact match κατέρρευσε από 30,57 στη βάση σε 1,04 μετά το SFT και ανέβηκε σε 9,04 με RAD. Το MedMCQA ήταν 55,41 με RAD έναντι 55,75 με SFT. Πρόκειται για ουσιαστική αλλά μερική ανάκτηση: ούτε η αρχική factual επίδοση αποκαταστάθηκε ούτε το target score διατηρήθηκε απολύτως ίδιο.
Η μεταβολή διαφέρει ανά μοντέλο και metric. Αυτό είναι σημαντικό για το robust evaluation σε μεταβαλλόμενο context: η ομάδα χρειάζεται per-slice αποτελέσματα, checkpoints και failure categories, όχι μόνο έναν μέσο όρο που κρύβει πού συνέβη η βλάβη.
Επειδή teacher και student είναι δύο modes του ίδιου backbone, η διαφορά GPU memory έμεινε μέσα στο 1 GB στα τρία backbones. Υπάρχει όμως πρόσθετος χρόνος εκπαίδευσης από το adapter-off forward pass σε κάθε OOD batch. Η μεγαλύτερη αύξηση που αναφέρει η εργασία ήταν περίπου 1,4 ώρες, χωρίς αλλαγή της inference-time αρχιτεκτονικής σε σχέση με το LoRA SFT.
Η εργασία δεν παρουσιάζει deployment σε πραγματικό οργανισμό, SLA, security evaluation ή οικονομικό ROI. Το Wikipedia-style anchor corpus είναι σχεδιασμένο για factual continuation, όχι για κάθε μορφή συμπεριφοράς που μπορεί να θέλει να προστατεύσει μια επιχείρηση. Tone, tool use, refusal policy, multilingual consistency και domain-specific compliance απαιτούν χωριστές anchors και tests.
Επιπλέον, η μειωμένη exact-match επίδοση μπορεί να συνδυάζει διαφορετικές αιτίες. Το 77,3% αφορά συγκεκριμένο sample, όχι όλα τα failures του benchmark και όχι κάθε backbone. Η ώριμη αξιολόγηση κρατά το claim boundary ορατό, όπως και στο FlavourBench για επαναλήψιμα AI benchmarks and in CMB-0.4 για αναθεώρηση κριτηρίων.
Το πρώτο πρακτικό μάθημα είναι ότι ένα μόνο score κρύβει την αιτία της υποβάθμισης. Μια σοβαρή αξιολόγηση πρέπει να συγκρίνει ανοικτή απάντηση, πολλαπλή επιλογή ή ranking και σημασιολογική κρίση του ίδιου fact. Αν το σύστημα χάνει μόνο στο strict format, ίσως αντιμετωπίζει πρόβλημα έκφρασης. Αν αναγνωρίζει αλλά δεν ανακαλεί, χρειάζεται παρέμβαση στην παραγωγή ή στο training. Αν αποτυγχάνει σε όλες τις μορφές, η υπόθεση βαθύτερης απώλειας γίνεται ισχυρότερη.
Το δεύτερο μάθημα αφορά τα regression suites. Ένα customer-support model δεν πρέπει να ελέγχεται μόνο πάνω στα tickets της εταιρείας. Χρειάζεται OOD σύνολο που καλύπτει τις γενικές ικανότητες που δεν πρέπει να θυσιαστούν: βασικά facts, γλώσσες, refusal boundaries, citations, structured output και κρίσιμα εργαλεία. Η αξιολόγηση ανά γλώσσα είναι απαραίτητη, επειδή η διατήρηση στα αγγλικά δεν τεκμηριώνει διατήρηση στα ελληνικά.
Για συστήματα με μνήμη ή retrieval, η λανθασμένη διάγνωση μπορεί να οδηγήσει σε άσκοπη αλλαγή vector store ενώ το πρόβλημα βρίσκεται στην παραγωγή. Η διάκριση συμπληρώνει το ζήτημα της ανάκτησης στη μνήμη AI agents: άλλο να μη φτάνει το σωστό evidence στο context και άλλο να υπάρχει διαθέσιμο αλλά να μην εκφράζεται σωστά.
Το deployment decision
Μην εγκρίνετε fine-tuned LLM μόνο επειδή κέρδισε στο target benchmark
Ζητήστε same-fact probes σε recall, recognition και format, OOD regression suite ανά γλώσσα, ισχυρό Standard SFT και replay baseline, καθώς και rollback threshold. Το RAD είναι υποψήφια τεχνική όταν η διάγνωση δείχνει drift στην ανοικτή παραγωγή — όχι γενική λύση για κάθε αστοχία.
Τα guardrails πρέπει επίσης να ελέγχουν τη διαδρομή από πρόθεση σε έξοδο, όχι μόνο το τελικό string. Η αρχή συνδέεται με το Intent Horizon για βαθύτερους AI guardrails: constrained probes, traces και calibrated escalation μπορούν να αποκαλύψουν ότι το ίδιο σύστημα συμπεριφέρεται διαφορετικά κάτω από διαφορετικές συνθήκες πρόσβασης.
Η επιχειρησιακή υλοποίηση δεν χρειάζεται να ξεκινήσει με RAD. Πρέπει πρώτα να αποδείξει τι είδους failure υπάρχει, να παγώσει τα evaluation splits και να συγκρίνει την προτεινόμενη παρέμβαση με απλότερες λύσεις. Η προδιαγραφή του test είναι μέρος του συστήματος, όπως υπογραμμίζει και το SDAD για προδιαγραφή και επαλήθευση AI ανάπτυξης.
Επτά βήματα για να ελέγξετε factual access failure
Καταγράψτε facts, γλώσσες, refusal κανόνες, schemas και εργαλεία που πρέπει να διατηρηθούν μετά την εξειδίκευση.
Χρησιμοποιήστε τα ίδια prompts, decoding settings, aliases και seeds, ώστε η σύγκριση να μη μετακινείται μαζί με το μοντέλο.
Δοκιμάστε ανοικτή ανάκληση, επιλογή ή ranking και αυστηρό schema. Κρατήστε exact match μαζί με semantic review και όχι ως μοναδικό κριτή.
Ξεχωρίστε λάθος οντότητα, format ή verbosity, σημασιολογικά σωστή παραλλαγή και refusal. Η κατηγορία καθορίζει prompt, data ή training intervention.
Κρατήστε ίδιο OOD corpus και training budget όπου γίνεται. Έτσι ελέγχετε αν βοηθά η soft distribution ή απλώς η πρόσθετη έκθεση.
Αναλύστε target score, OOD recall, recognition, γλώσσα, latency, training memory και κόστος. Μην εγκρίνετε βελτίωση που κρύβει κρίσιμη υποβάθμιση.
Δημοσιεύστε μόνο όταν περνούν οι κρίσιμες regression κατηγορίες. Σε drift, επιστρέψτε στην προηγούμενη έκδοση και κρατήστε τα failed cases ως νέα tests.
Το monitoring μετά το release πρέπει να διατηρεί το ίδιο taxonomy. Ένα verbose answer, μια λάθος οντότητα και μια άρνηση δεν είναι μία ενιαία κατηγορία «hallucination». Η ακριβής ετικέτα μειώνει τον χρόνο διάγνωσης και βοηθά την ομάδα να αποφασίσει αν χρειάζεται prompt repair, data repair, νέα anchor examples ή εκ νέου fine-tuning.
Το RAD μεταφέρει τη συζήτηση από το ασαφές «το μοντέλο ξέχασε» στη μετρήσιμη ερώτηση «τι χάλασε ανάμεσα στη γνώση και στην τελική απάντηση;». Η εργασία δείχνει ότι domain SFT μπορεί να διατηρεί constrained recognition ενώ υποβαθμίζει την ανοικτή παραγωγή και ότι η soft distribution του base model μπορεί να περιορίσει μέρος αυτής της μετατόπισης.
Για μια επιχείρηση, το σημαντικότερο αποτέλεσμα δεν είναι ο συγκεκριμένος αλγόριθμος αλλά η διαγνωστική πειθαρχία: same-fact tests, πολλαπλά evaluation formats, baseline με ίδια δεδομένα, ακριβή claim boundaries και release gates. Η αξιόπιστη αυτοματοποίηση επιχειρήσεων με AI χρειάζεται να γνωρίζει όχι μόνο αν μια απάντηση ήταν λάθος, αλλά και ποιο στάδιο πρόσβασης, ανάκλησης ή έκφρασης απέτυχε.
Από το fine-tuning στο ελεγχόμενο release
Σχεδιάστε AI workflows με regression gates και σαφή διάγνωση αποτυχίας
Η TWO DOTS συνδέει επιχειρησιακά δεδομένα, μοντέλα, deterministic validation και ανθρώπινη έγκριση, ώστε η εξειδίκευση να μετριέται απέναντι στις ικανότητες που πρέπει να διατηρηθούν.
Frequently Asked Questions (FAQs)
Είναι η συμπεριφορική περίπτωση όπου ένα μοντέλο εξακολουθεί να αναγνωρίζει ή να κατατάσσει σωστά ένα fact υπό constrained evaluation, αλλά αποτυγχάνει να το παραγάγει σε ανοικτή απάντηση.
Όχι. Η εργασία βρίσκει genuine wrong-entity errors, αλλά και format, verbosity και exact-match failures. Χρειάζονται same-fact probes πριν αποδοθεί η πτώση σε διαγραφή γνώσης.
Χρειάζεται το supervised dataset του target domain και μη επισημασμένο OOD κείμενο σε ζεύγη prefix–continuation. Δεν απαιτεί gold OOD απαντήσεις ή εξωτερικό judge.
Η soft next-token distribution της βάσης αποτυπώνει τις σχετικές προτιμήσεις παραγωγής πριν από την προσαρμογή και λειτουργεί ως αγκύρωση για τον LoRA student.
Όχι. Στα τρία backbones ανακτά μέρος της χαμένης OOD factual παραγωγής, αλλά δεν επιστρέφει σταθερά στο base score και δεν εγγυάται διατήρηση κάθε ικανότητας.
Η inference-time αρχιτεκτονική παραμένει ίδια με το LoRA SFT. Το πρόσθετο κόστος βρίσκεται στην εκπαίδευση, επειδή κάθε OOD batch χρειάζεται ένα επιπλέον adapter-off forward pass.
Το replay χρησιμοποίησε το ίδιο OOD κείμενο ως hard next-token labels, ενώ το RAD διατήρησε τη soft distribution της βάσης. Στο συγκεκριμένο setup, το δεύτερο προστάτεψε καλύτερα την ανοικτή ανάκληση.
Να αξιολογεί χωριστά ανοικτή ανάκληση, recognition και format του ίδιου fact, με OOD regression suite, per-language slices, baselines και rollback threshold πριν από το release.
Sources
