TRACE: How AI Agents Learn from Every Change in Materials Discovery

TRACE proposes a practical change in the way AI agents learn: instead of just remembering which solution worked, they store Which action changed which result?. In materials discovery, this means that every evaluated modification becomes reusable knowledge for the next step, without the prediction replacing the actual measurement.

The work by Kang Zhou, Yujia Tong, Yong Tao, and Jingling Yuan examines a challenging multi-criteria problem: finding materials that must simultaneously meet multiple, often conflicting objectives. For a business, the interest is not limited to chemistry. TRACE offers a useful framework for agentic workflows that must learn from validated outcomes, preserve what already works, and make decisions based on more than one KPI.

What is TRACE, and what is changing?

TRACE, from the Transition-Aware Residual Control, is a search control framework for multi-criteria material discovery using LLM agents. It is not presented as an autonomous «scientist» and does not replace experimental validation. Its role is more specific: to make better use of each precise evaluation of a candidate material.

The central idea is that a final score hides the path that led to it. In contrast, a transition record links the initial candidate, the change made, the new candidate, and the measured differences in their attributes. Thus, the agent not only remembers «what it achieved,» but also gains insight into «what happened when we made that change.».

This memory model complements the broader discussion on AI agents that collaborate in research environments: Autonomy is valuable when the history of actions is verifiable, reusable, and linked to actual results.

Why the final score isn't enough

In a simple search, ranking candidates from best to worst may suffice. In materials discovery, however, a candidate may be strong in one property and unsuitable in another. A chemical modification that improves electrical, mechanical, or thermal behavior may simultaneously compromise an already satisfactory property.

The authors describe the environment as oracle-limited: Evaluation is performed using simulation, a trained surrogate model, reference data, or experimental measurement, and is considered a limited resource. Each numerical objective is converted into a normalized violation score. The sum of these violations is the total residual, that is, a measure of the distance from the feasible region.

The real goal isn’t a good average score, but a candidate who passes all the quantitative and non-quantitative assessments. The same logic applies to business workflows. An e-commerce system shouldn’t just increase the conversion rate if, at the same time, it undermines profit margins, inventory availability, returns, or the customer experience. This is a business analogy rather than an experimental result of the study, but it illustrates the same design problem.

Transition Memory as a Unit of Learning

TRACE records every successful local modification as a transition parent–edit–child. The commit includes the original candidate, the executable edit, the new candidate, the before and after properties, and their difference. Only a change that has been successfully built and evaluated provides verified information about its effect. Failed attempts remain in a backup file but are not used for property change monitoring.

Each completed transition also receives a utility that combines three elements: whether the candidate entered or remained within the numerically feasible region, how many constraints were satisfied or violated, and by how much the total residual was reduced. This distinguishes the physical change in properties from how useful that change was for the current mission.

When there are enough observations for the same edit, the system uses the average change in the properties. If there is little data, it falls back hierarchically to the average of the broader “operator” category and, if necessary, to the set of all available transitions. This logic allows for more general guidance at the outset and more specific guidance once sufficient support has been gathered.

An important safety measure is that the prediction is used only for ranking. It is not written to memory as the truth. Only the actual result of the oracle after execution updates the history. This is the same principle that makes feedback at the level of a specific energy or function: The diagnosis must be linked to the location where the change occurred.

Residual-aware selection without loss of progress

The most interesting part of TRACE occurs near the limits of feasibility. When a candidate fails to meet a single objective, simply reducing the total residual can be misleading. An edit might correct the last problematic target, but at the same time violate another one that had already been satisfied.

To address this, the framework divides the constraints into two groups: those that are still being violated and those that are already being met. An edit’s score rewards progress on the unmet criteria, imposes a penalty for damage to those already met, and adds a bonus when the proposed change exceeds the entire numerical feasibility threshold.

The same action, therefore, does not have a fixed value in every situation. Its usefulness depends on which problems remain unsolved and which achievements must be protected. For a production system, this means that the decision-making policy cannot simply ask, «Which action has historically been associated with a good outcome?» It must also ask, «Is it appropriate for the current situation?».

Global Exploration and Local Improvement

Η τοπική μνήμη έχει φυσικό όριο: γνωρίζει κυρίως τις περιοχές του χώρου υλικών που έχουν ήδη επισκεφθεί. Τα global proposals του LLM μπορούν να μετακινηθούν σε νέες συνθέσεις και οικογένειες, αλλά δεν προσφέρουν από μόνα τους σαφή απόδοση ευθύνης σε επίπεδο edit. Το TRACE διατηρεί και τις δύο διαδρομές.

Η global διαδρομή χρησιμοποιεί το LLM για ευρύτερες προτάσεις. Η local διαδρομή επιλέγει εκτελέσιμες τροποποιήσεις πάνω σε αξιολογημένους γονείς, αξιοποιώντας τη transition memory. Οι νέοι global υποψήφιοι μπορούν αργότερα να γίνουν γονείς για τοπικά edits, ενώ οι περιλήψεις της εμπειρίας επιστρέφουν ως ήπια στατιστική καθοδήγηση στο prompt του LLM. Αν η τοπική διαδρομή δεν μπορεί να ολοκληρώσει τις προγραμματισμένες προσπάθειες, η χωρητικότητα επιστρέφει στην παγκόσμια παραγωγή.

Στη μελέτη κατανομής budget για solid-state electrolytes, η ισορροπημένη αναλογία 1:1 μεταξύ LLM και Delta edits είχε hit rate 50,19%. Το LLM-only έφτασε 32,4%, ενώ το Delta-only 27,7%. Η ισορροπημένη ρύθμιση παρήγαγε 154 δομές και 73 μοναδικούς έγκυρους τύπους, έναντι 83 και 22 αντίστοιχα στη Delta-only εκδοχή. Τα αποτελέσματα αφορούν τη συγκεκριμένη εργασία και διαμόρφωση· δεν αποδεικνύουν ότι το 1:1 είναι καθολικά βέλτιστο.

What the LLEMABench experiments showed

Οι ερευνητές αξιολόγησαν το TRACE σε 14 πολυκριτηριακές εργασίες του LLEMABench, οι οποίες καλύπτουν ηλεκτρονικές, διηλεκτρικές, ενεργειακές, μηχανικές, ακουστικές και δομικές εφαρμογές. Οι κοντινότερες ελεγχόμενες συγκρίσεις με το LLEMA κράτησαν σταθερά το task, το backbone και το oracle, με περίπου ίδιο αριθμό υποψηφίων που έφταναν σε αξιολόγηση ιδιοτήτων.

Χρησιμοποιήθηκαν δύο 8-bit quantized backbones, Qwen2.5-14B-Instruct και Mistral-Small-3.2-24B-Instruct-2506, με πέντε runs ανά συνδυασμό task και backbone. Με Qwen, το TRACE βελτίωσε το hit rate σε 12 από τις 14 εργασίες. Ο macro-average hit rate αυξήθηκε από 18,13% σε 25,96%, ενώ ο μέσος stability rate από 5,90% σε 8,97%.

Με Mistral, το hit rate βελτιώθηκε σε 10 από τις 14 εργασίες. Ο macro-average hit rate ανέβηκε από 25,39% σε 28,74% και ο stability rate από 11,29% σε 12,25%. Τα αποτελέσματα δεν ήταν ομοιόμορφα: υπήρξαν μειώσεις σε ορισμένα task–backbone settings και μικτή εικόνα στα piezo energy harvesters. Οι μεγαλύτερες cross-backbone βελτιώσεις εμφανίστηκαν στα solid-state electrolytes, όπου το hit rate αυξήθηκε κατά 21,22 και 28,10 ποσοστιαίες μονάδες με Qwen και Mistral αντίστοιχα.

Στις τέσσερις long-horizon δοκιμές των 1.000 προγραμματισμένων προσπαθειών, οι έγκυρες ανακαλύψεις αυξήθηκαν από 182 σε 449 για wide-bandgap semiconductors, από 61 σε 292 για high-k dielectrics, από 97 σε 439 για hard, stiff ceramics και από 65 σε 212 για toxic-free perovskite oxides. Η ανάλυση αποδίδει το κέρδος τόσο σε περισσότερες ολοκληρωμένες αξιολογήσεις όσο και σε υψηλότερο ποσοστό υποψηφίων που ικανοποίησαν τους περιορισμούς.

Παράλληλα, το TRACE είχε χαμηλότερη επανάληψη τύπων. Στα wide-bandgap semiconductors η επανάληψη μειώθηκε από 43,96% σε 9,58% στις long-horizon τροχιές, ενώ στα high-k dielectrics από 14,75% σε 4,79%. Τα περισσότερα έγκυρα ευρήματα, επομένως, δεν προέκυψαν απλώς από επανάληψη των ίδιων τύπων.

What Do Ablations Reveal?

Το ablation study στα solid-state electrolytes σύγκρινε candidate-level feedback, random edits, history-guided επιλογή και πλήρες TRACE. Τα random edits αύξησαν το generation rate κατά 10,62 ποσοστιαίες μονάδες έναντι του candidate-level feedback, αλλά μείωσαν το hit rate κατά 4,35 μονάδες. Η δυνατότητα εκτέλεσης edits βοηθά να ολοκληρώνονται περισσότερες προτάσεις, δεν αρκεί όμως για καλύτερη ποιότητα αναζήτησης.

Η προσθήκη ιστορικού μεταβάσεων βελτίωσε έναντι των random edits το hit rate κατά 7,21 μονάδες και το stability rate κατά 3,93. Το πλήρες residual-aware TRACE πρόσθεσε άλλες 10,04 και 10,23 μονάδες αντίστοιχα, διατηρώντας generation rate 96,63%. Τα edits συνεισφέρουν στην ολοκλήρωση της αναζήτησης, ενώ η transition history και η residual-aware επιλογή ευθύνονται για τα κύρια κέρδη ποιότητας.

Η άμεση ανάλυση 882 post-warm-up μεταβάσεων σε τέσσερα tasks ενισχύει αυτή την εξήγηση. Η ακρίβεια κατεύθυνσης της προβλεπόμενης μεταβολής κυμάνθηκε από 61,12% έως 76,49%, ενώ το offline selection advantage από 54,31% έως 64,16%, πάνω από το τυχαίο σημείο αναφοράς του 50%.

The Limitations and Risks of the Approach

Ο estimator του TRACE μαθαίνει εμπειρικές κανονικότητες από παρατηρημένες μεταβάσεις. Αν η επίδραση ενός edit αλλάζει έντονα ανάλογα με τον υποψήφιο, η συγκέντρωση μέσων επιδράσεων μπορεί να χάσει σημαντικές διαφορές. Οι συγγραφείς προτείνουν ως μελλοντικές κατευθύνσεις περισσότερο parent-specific context και μοντελοποίηση αβεβαιότητας.

Τα ίδια τα παραδείγματα της εργασίας δείχνουν τον κίνδυνο. Η αντικατάσταση B με Al μετέτρεψε το B2S3 σε Al2S3 και μείωσε το κανονικοποιημένο residual από 0,298 σε μηδέν. Αντίθετα, η αντικατάσταση Al με B στο MgAl2O4 παρήγαγε Mg(BO2)2 και αύξησε το residual από μηδέν σε 2,816. Δεν υπάρχει «καλό edit» ανεξάρτητα από τον γονέα και την κατάσταση των περιορισμών.

Η τοπική περιοχή ενεργειών περιορίζεται κυρίως σε χημικά ασφαλείς, structure-preserving αντικαταστάσεις στοιχείων της ίδιας ομάδας. Δεν καλύπτει δημιουργία κενών, ανακατασκευή πλέγματος ή μεγαλύτερες δομικές αλλαγές. Επιπλέον, οι ιδιότητες προέρχονται από δεδομένα αναφοράς όπου υπάρχει αντιστοίχιση και διαφορετικά από task-specific surrogate oracle. Οι υπολογιστικά έγκυροι υποψήφιοι δεν μετατρέπονται αυτομάτως σε εργαστηριακά επιβεβαιωμένα υλικά.

Αυτή η διάκριση είναι κρίσιμη και σε εμπορικές εφαρμογές. Ένα action log χωρίς αρχική κατάσταση, τελικό αποτέλεσμα, provenance και μετρικές μπορεί να γίνει παραπλανητικό. Το audit trail σε περιβάλλοντα παραγωγής χρειάζεται να συνδέει κάθε απόφαση με τα δεδομένα και τους ελέγχους που τη στήριξαν.

What Does TRACE Mean for Business AI Agents?

Το άμεσο αντικείμενο είναι η ανακάλυψη υλικών, αλλά η αρχιτεκτονική ιδέα αφορά κάθε agent που παίρνει διαδοχικές αποφάσεις με ακριβό feedback. Μια ομάδα μπορεί να εξετάσει αν η μνήμη της καταγράφει μόνο outputs και scores ή αν συνδέει κάθε ενέργεια με την προηγούμενη κατάσταση, τη νέα κατάσταση, τις μεταβολές ανά KPI και την επιβεβαίωση από το πραγματικό σύστημα.

Το πρώτο μάθημα είναι ότι το feedback πρέπει να έχει σωστή ανάλυση. Για έναν agent εξυπηρέτησης, για παράδειγμα, δεν αρκεί το τελικό CSAT. Χρειάζεται να γνωρίζουμε ποια απάντηση, ποια ανάκτηση γνώσης ή ποια μεταβίβαση άλλαξε τον χρόνο επίλυσης, την ακρίβεια και την ικανοποίηση. Για έναν agent e-commerce, η μνήμη πρέπει να συνδέει μια συγκεκριμένη ενέργεια με conversion, περιθώριο, επιστροφές και stock-out risk.

Το δεύτερο μάθημα είναι να διαχωρίζεται η εξερεύνηση από τη βελτιστοποίηση. Η δημιουργική ή global πρόταση ανοίγει νέες περιοχές λύσεων. Η local διαδρομή εκμεταλλεύεται όσα έχει ήδη μάθει το σύστημα. Η ισορροπία τους πρέπει να μετριέται ανά use case και όχι να επιβάλλεται από μία σταθερή αναλογία.

Το τρίτο μάθημα είναι να αξιολογείται το πλήρες funnel: πόσες προσπάθειες προγραμματίστηκαν, πόσες εκτελέστηκαν, πόσες αξιολογήθηκαν, πόσες πέρασαν όλους τους περιορισμούς και πόσο διαφορετικές ήταν μεταξύ τους. Αυτό συμπληρώνει την οικονομική οπτική του AI ROI ανά εργασία: αξία δεν είναι μόνο η ποιότητα του τελικού output, αλλά και το κόστος των αποτυχημένων ενεργειών, των επαναλήψεων και της ανθρώπινης επανεξέτασης.

Τέλος, η παρακολούθηση δεν τελειώνει στο deployment. Το NIST AI RMF δίνει έμφαση στην καταγραφή και στην παρακολούθηση της συμπεριφοράς σε παραγωγή, επειδή οι συνθήκες και οι κίνδυνοι μεταβάλλονται. Για agentic συστήματα, αυτό σημαίνει σαφή όρια, μετρήσιμες παρεμβάσεις και μηχανισμό ανάκλησης ή ανθρώπινης έγκρισης όταν η πραγματική επίδοση αποκλίνει από τις προϋποθέσεις σχεδιασμού.

Practical Framework for Implementation

Η μετάφραση του TRACE σε επιχειρηματικό σύστημα δεν απαιτεί να αντιγραφεί ο αλγόριθμος της εργασίας. Απαιτεί να σχεδιαστεί μια αξιόπιστη αλυσίδα κατάστασης, ενέργειας, αποτελέσματος και επαλήθευσης. Η ακόλουθη σειρά λειτουργεί ως έλεγχος αρχιτεκτονικής για επαναλήψιμα συστήματα εργασίας με AI agents.

The visual presentation of multiple KPIs is also important. One A dashboard designed to support decision-making It must distinguish between improvements, the deterioration of targets that had already been met, and the percentage of actions that were never subject to a valid evaluation.

From the Memory of Results to the Memory of Consequences

TRACE proposes a shift worth noting: from remembering «what worked» to remembering «what changed when we did this.» On LLEMABench, this approach improved search performance on the majority of tasks and produced significantly more valid discoveries in four long-horizon tests. At the same time, the results remained task-dependent, and the local action language was limited.

Mature interpretation does not mean that an LLM «discovers on its own» new material. It means that an agentic workflow can become more effective when it maintains a verified, structured transition memory, protects already satisfied goals, and combines broad exploration with controlled local optimization. For a business, this is more useful than a general promise of autonomy: it transforms feedback into a controllable decision-making framework.