Mit über 20 Jahren Erfahrung verwandeln wir Ihre digitale Präsenz. Wir sind spezialisiert auf Website- und E-Shop-Entwicklung, SEO und digitales Marketing, ERP-Software und intelligente Automatisierung, die Ihr Unternehmen auf die nächste Stufe heben.
Η ασφαλής υιοθέτηση AI agents ξεκινά με κοινό περιβάλλον, σταδιακή αυτονομία και ορατούς ελέγχους.
Ένα τετράωρο workshop σε 37 ειδικούς έδειξε ότι η επιτυχία της Agentic AI δεν εξαρτάται μόνο από το μοντέλο. Εξαρτάται από το αν οι άνθρωποι αποκτούν ασφαλή πρόσβαση, μαθαίνουν σταδιακά τις δυνατότητες των agents, εργάζονται πάνω σε οικείες ροές και μπορούν να ξεχωρίσουν το επαληθευμένο αποτέλεσμα από ένα πειστικό λάθος.
Η εργασία του Gene Ontology Consortium αφορά βιοεπιμελητές, αλλά τα ευρήματά της μεταφέρονται άμεσα στον σχεδιασμό επιχειρησιακών αυτοματισμών με AI. Ομάδες marketing, e-commerce, περιεχομένου ή customer support αντιμετωπίζουν το ίδιο πρακτικό πρόβλημα: πρέπει να αξιοποιήσουν agents χωρίς να μετατρέψουν κάθε εργαζόμενο σε developer και χωρίς να δώσουν σε ένα μη ελεγχόμενο σύστημα πρόσβαση σε κρίσιμα δεδομένα ή ενέργειες.
Το πραγματικό εμπόδιο ήταν η πρόσβαση και η εκπαίδευση
Οι βιολογικές βάσεις δεδομένων και οι οντολογίες χρειάζονται συνεχή επιμέλεια από ανθρώπους που συνδυάζουν βιβλιογραφία, δεδομένα και γνώση του πεδίου. Οι AI agents μπορούν να βοηθήσουν στην αναζήτηση, στη δομημένη επεξεργασία και στη χρήση εργαλείων. Η υιοθέτησή τους όμως συναντά εμπόδια που είναι γνώριμα και στις επιχειρήσεις: τοπικές εγκαταστάσεις, περιορισμούς IT, συνδρομές, API keys, άνισο τεχνικό υπόβαθρο και φόβο για αναξιόπιστες απαντήσεις.
Ο στόχος του workshop δεν ήταν να επιβάλει ένα συγκεκριμένο προϊόν. Ήταν να διδάξει τις βασικές αρχές της agentic εργασίας και να δημιουργήσει κοινότητα πρακτικής. Το Claude Code επιλέχθηκε ως έτοιμο agent harness, επειδή υποστήριζε εργαλεία, skills και μεγάλο context. Οι συγγραφείς το παρουσιάζουν ως επιλογή υλοποίησης, όχι ως το κεντρικό συμπέρασμα της μελέτης.
Αυτή η διάκριση προστατεύει μια ομάδα από το λάθος σημείο εκκίνησης. Η ερώτηση δεν είναι μόνο «ποιο μοντέλο θα αγοράσουμε;», αλλά «ποια εργασία θα αναλάβει, ποια δικαιώματα χρειάζεται και πώς θα ελέγχεται;». Η ίδια λογική ισχύει και όταν σχεδιάζουμε κατάσταση εκτέλεσης για AI agents: το εργαλείο είναι ένα μέρος του συστήματος, όχι ολόκληρο το σύστημα.
Ένα κοινό browser sandbox αντί για 37 εγκαταστάσεις
Η ομάδα έστησε κοινό JupyterHub στο cloud. Κάθε συμμετέχων συνδεόταν με τα υπάρχοντα διαπιστευτήρια GitHub και λάμβανε απομονωμένο workspace, προρυθμισμένο με το ίδιο εκπαιδευτικό υλικό και μια συνεδρία agent μέσα σε terminal του browser. Δεν χρειαζόταν τοπική εγκατάσταση, ξεχωριστή συνδρομή ή προσωπική διαχείριση API keys.
Η απλότητα για τον συμμετέχοντα δεν εξαφάνισε την πολυπλοκότητα. Τη μετέφερε στους διοργανωτές, οι οποίοι ανέλαβαν κεντρικό gateway, έλεγχο πρόσβασης, budgets, κοινή διαμόρφωση και απομόνωση χρηστών. Σε αντίθεση με έναν agent που τρέχει στον προσωπικό υπολογιστή και κληρονομεί τα δικαιώματά του, το workshop περιόριζε κάθε χρήστη σε ξεχωριστό λογαριασμό Unix στον server.
Για μια επιχείρηση, το εύρημα δεν σημαίνει ότι πρέπει να αντιγράψει αυτούσια την αρχιτεκτονική. Δείχνει όμως ότι η εκπαίδευση γίνεται δικαιότερη και μετρήσιμη όταν όλοι ξεκινούν από το ίδιο ελεγχόμενο περιβάλλον. Ένα sandbox με προσωρινά δεδομένα, περιορισμένα credentials και μη παραγωγικά endpoints επιτρέπει στην ομάδα να μάθει τη ροή χωρίς να διακινδυνεύει πραγματικές εγγραφές.
Τέσσερις ασκήσεις που αύξαναν σταδιακά την αυτονομία
Το πρόγραμμα είχε τέσσερα διαδοχικά modules. Στην πρώτη άσκηση, οι συμμετέχοντες συνομιλούσαν με τον agent και του ζητούσαν να δημιουργεί, να επεξεργάζεται και να μεταφράζει αρχεία. Ο στόχος ήταν να εξοικειωθούν με το terminal και να δουν ότι ένας agent δεν παράγει μόνο κείμενο, αλλά ενεργεί πάνω σε αρχεία μέσω εργαλείων.
Η δεύτερη άσκηση πρόσθεσε εξωτερικές πηγές. Οι επιμελητές αναζητούσαν άρθρα στο PubMed, όρους της Gene Ontology μέσω του Ontology Lookup Service, παρήγαγαν CSV και συνέκριναν το αποτέλεσμα με υπάρχουσες επισημάνσεις. Μαζί με τα MCP services εισήχθη και η υποχρέωση να αξιολογούν κριτικά τι επέστρεψε κάθε εργαλείο.
Στην τρίτη άσκηση, ο agent έγραφε Python για το PANTHER API, ώστε να συγκρίνει μοριακές λειτουργίες ομόλογων γονιδίων σε διαφορετικά είδη. Οι συμμετέχοντες δεν έγραφαν οι ίδιοι κάθε γραμμή κώδικα. Έπρεπε όμως να ορίσουν τον στόχο, να εξετάσουν το αποτέλεσμα και να ζητήσουν διορθώσεις. Η δεξιότητα μετακινήθηκε από τη σύνταξη εντολών προς την προδιαγραφή, τον έλεγχο και την αξιολόγηση.
Η τέταρτη άσκηση συνέδεσε όλα τα προηγούμενα. Οι επιμελητές έλεγχαν ένα ελλιπές βιολογικό μοντέλο στο GO-CAM, αναζητούσαν τεκμήρια και επέτρεπαν στον agent να προτείνει ή να εκτελεί αλλαγές σε δοκιμαστικό server. Η αυτονομία αυξήθηκε μόνο αφού είχε προηγηθεί εξοικείωση με αρχεία, πηγές και scripting.
Εκπαίδευση με αποσπασματικά prompts
Ο χρήστης βλέπει μεμονωμένα παραδείγματα, χωρίς σταθερό περιβάλλον, πραγματικά δεδομένα ή σαφή διαδρομή από την απάντηση στην ενέργεια. Μαθαίνει να ζητά output, όχι να ελέγχει ένα workflow.
Χωρίς progressionΑσαφής αξιολόγηση
Εκπαίδευση με αυξανόμενη αυτονομία
Κάθε module προσθέτει μία νέα δυνατότητα και έναν αντίστοιχο έλεγχο: αρχεία, πηγές, κώδικας και τελικά σύνδεση με πραγματικό εργαλείο σε test περιβάλλον.
Σταδιακό ρίσκοΜετρήσιμος έλεγχος
Το sidecar pattern κρατά τον ειδικό μέσα στη ροή
Στην τελευταία άσκηση, ο agent δεν αντικατέστησε το εργαλείο επιμέλειας. Λειτουργούσε δίπλα του. Ο χρήστης έδινε οδηγίες σε κειμενικό interface, ενώ έβλεπε τις αλλαγές να εμφανίζονται στο γνώριμο γραφικό περιβάλλον Noctua και μπορούσε να επέμβει από εκεί. Οι συγγραφείς ονομάζουν αυτή την προσέγγιση «shared control» ή «sidecar».
Το pattern έχει άμεση αξία για marketing και e-commerce, επειδή δεν προϋποθέτει αντικατάσταση του CMS, του CRM ή του product information system. Ο agent λειτουργεί ως πρόσθετο επίπεδο εκτέλεσης, ενώ ο επαγγελματίας παραμένει στο interface όπου γνωρίζει πώς να επιθεωρήσει, να διορθώσει ή να απορρίψει μια αλλαγή.
Στο workshop, 35 από τους 37 συμμετέχοντες, δηλαδή 95%, πραγματοποίησαν τουλάχιστον μία agentic κλήση προς το Noctua. Καταγράφηκαν περισσότερες από χίλιες σχετικές κλήσεις εργαλείων και εννέα συμμετέχοντες δημιούργησαν νέα GO-CAM μοντέλα πέρα από τις προβλεπόμενες ασκήσεις. Οι συμμετέχοντες θεώρησαν αυτή την άσκηση την πιο σχετική με την καθημερινή εργασία τους.
Η πιο χρήσιμη αστοχία ήταν η σιωπηλή υποβάθμιση
Η μελέτη κατέγραψε έναν κίνδυνο που συχνά κρύβεται πίσω από ένα ομαλό demo. Σε άσκηση όπου ο agent έπρεπε να προσθέσει πραγματικά abstracts σε πίνακα με PMIDs, αρκετοί συμμετέχοντες παρατήρησαν ότι τα κείμενα έμοιαζαν πειστικά αλλά δεν ήταν τα πραγματικά abstracts.
Η εξέταση των traces έδειξε ότι ο PubMed MCP server αποτύγχανε περιστασιακά στην αυθεντικοποίηση, πιθανώς λόγω πολλών ταυτόχρονων χρηστών. Ο agent στρεφόταν τότε σε διαφορετικό API, το οποίο επέστρεφε περικομμένα δεδομένα, και συμπλήρωνε τα κενά από τη γνώση του μοντέλου χωρίς καθαρή προειδοποίηση. Η εργασία περιγράφει το μοτίβο ως weak fallback ή silent degradation: το σύστημα συνεχίζει σε υποδεέστερη λειτουργία χωρίς να εμφανίζει την υποβάθμιση.
Κρίσιμο release gate
Ένα workflow δεν είναι επιτυχημένο επειδή ολοκληρώθηκε χωρίς exception
Το αποτέλεσμα πρέπει να δηλώνει ποια πηγή χρησιμοποιήθηκε, αν ενεργοποιήθηκε fallback, ποια πεδία επαληθεύτηκαν και πότε απαιτείται διακοπή. Η σιωπηλή ολοκλήρωση με χειρότερα δεδομένα είναι αποτυχία ποιότητας, όχι επιτυχία αυτοματισμού.
Σε ένα εμπορικό workflow, το αντίστοιχο μπορεί να είναι ένας agent που δεν βρίσκει την εγκεκριμένη περιγραφή προϊόντος στο PIM και δημιουργεί μόνος του τεχνικά χαρακτηριστικά, ή ένα support assistant που χάνει την πολιτική επιστροφών και απαντά από γενική γνώση. Η σωστή συμπεριφορά είναι να εμφανίσει την έλλειψη πηγής και να σταματήσει πριν από την παραγωγική ενέργεια.
Δύο στρώματα προστασίας απέναντι στις παραισθήσεις
Οι συγγραφείς προτείνουν συνδυασμό δύο στρατηγικών. Η πρώτη είναι προληπτική: ο agent χρησιμοποιεί εργαλεία αναζήτησης, όπως PubMed ή OLS, ώστε να ανακτά πραγματικά στοιχεία αντί να βασίζεται στην εσωτερική μνήμη του μοντέλου. Η δεύτερη είναι αναδρομική: πριν κλείσει ο agentic κύκλος, ντετερμινιστικοί validators ελέγχουν το αποτέλεσμα. Στο συγκεκριμένο πεδίο αναφέρονται οι LinkML term και reference validators.
Στο workshop ενσωματώθηκε κυρίως η πρώτη στρατηγική, για λόγους απλότητας. Το περιστατικό με τα κατασκευασμένα abstracts έδειξε γιατί η ανάκτηση από μόνη της δεν αρκεί. Ένα εργαλείο μπορεί να αποτύχει, να επιστρέψει ελλιπή δεδομένα ή να ενεργοποιήσει fallback. Η ύπαρξη connector δεν ισοδυναμεί με έγκυρο αποτέλεσμα.
Για μια ομάδα e-commerce, η αντίστοιχη αρχιτεκτονική είναι ξεκάθαρη: ο agent ανακτά στοιχεία από το PIM και ένας ανεξάρτητος validator ελέγχει SKU, υποχρεωτικά πεδία, επιτρεπόμενους ισχυρισμούς και τιμές πριν από τη δημοσίευση. Σε αποφάσεις υψηλού αντίκτυπου, ο validator δεν αντικαθιστά την ανθρώπινη εποπτεία του AI agent, αλλά εμποδίζει προβλέψιμες τεχνικές αστοχίες να φτάσουν στον πελάτη.
Τι έδειξαν τα μετρήσιμα αποτελέσματα
Από τους 37 ενεργούς συμμετέχοντες, 21 ολοκλήρωσαν και τις τέσσερις ασκήσεις, δηλαδή 57%. Δέκα έφτασαν έως την τρίτη άσκηση, τέσσερις έως τη δεύτερη και δύο έμειναν στην πρώτη. Η κύρια διαρροή εμφανίστηκε ανάμεσα στο scripting με PANTHER και στο τελικό GO-CAM module.
Η ανάλυση κάλυψε 153 αρχεία session traces και 5.816 κλήσεις εργαλείων, περίπου 38 ανά session. Το Bash αντιστοιχούσε στο 47% των κλήσεων, το OLS MCP και η ανάγνωση αρχείων από 13%, ενώ οι εγγραφές και επεξεργασίες αρχείων στο 14%. Καταγράφηκαν 57 συμβάντα λανθασμένης χρήσης εργαλείου, περίπου 1% του συνόλου. Τα περισσότερα ακολουθήθηκαν από αυτοδιόρθωση του agent.
Μετρημένα στοιχεία του workshop
Η συμμετοχή, η πρόοδος και τα σφάλματα σε μία εικόνα
Οι τιμές προέρχονται από την πρωτογενή εργασία και αφορούν το συγκεκριμένο τετράωρο workshop. Δεν αποτελούν γενικό benchmark παραγωγικότητας για κάθε εταιρική ομάδα.
37
ενεργοί συμμετέχοντες
57%
ολοκλήρωσαν και τις 4 ασκήσεις
95%
έκαναν τουλάχιστον 1 κλήση στο Noctua
1%
tool-misuse events στις 5.816 κλήσεις
Οι αριθμοί χρειάζονται προσεκτική ερμηνεία. Η εργασία περιγράφει μία συγκεκριμένη επιστημονική κοινότητα και παρουσιάζει προκαταρκτικό feedback, όχι ελεγχόμενο πείραμα παραγωγικότητας. Τα traces δείχνουν πού εμφανίστηκε τριβή και ποια μέτρα επέτρεψαν σε χρήστες με διαφορετικό τεχνικό υπόβαθρο να χειριστούν σύνθετες ροές.
Context, υποδομή και κόστος είναι μέρος του σχεδιασμού
Κάθε ενεργή συνεδρία κατανάλωνε περίπου 450–500 MB RAM. Η τελική εγκατάσταση χρησιμοποίησε AWS r6i.8xlarge με 256 GB RAM και 32 vCPUs. Το συνολικό κόστος αναφέρεται περίπου στα 388 δολάρια: περίπου 8 δολάρια για τέσσερις ώρες υποδομής και 379,70 δολάρια για κλήσεις μοντέλων μέσω Vertex AI. Οι τιμές αφορούν αυτή τη ρύθμιση και δεν είναι πρόβλεψη κόστους για άλλο έργο.
Το context αποδείχθηκε εξίσου σημαντικό όριο. Καταγράφηκαν 71 compaction events σε 32 από τους 37 συμμετέχοντες, δηλαδή στο 86% των ενεργών χρηστών. Τρεις εξάντλησαν πλήρως το context και συνέχισαν σε νέα συνεδρία. Οι διοργανωτές είχαν δώσει οδηγίες για προληπτικό καθάρισμα ανάμεσα στις ασκήσεις, αλλά η εφαρμογή τους ήταν άνιση.
Η διαχείριση context είναι λειτουργική απαίτηση. Μεγάλες συνεδρίες μπορούν να χάσουν οδηγίες ή ενδιάμεσα αποτελέσματα μετά τη συμπύκνωση. Ο διαχωρισμός μιας εργασίας σε στάδια, η αποθήκευση checkpoints και η ρητή κατάσταση εκτέλεσης είναι ασφαλέστερα από μια ατελείωτη συνομιλία. Περισσότερο context δεν εγγυάται και καλύτερο έλεγχο, όπως δείχνει και η ανάλυση για το LLM oversight σε μεγάλες ακολουθίες.
Το UX ενός εργαλείου επηρεάζει την εμπιστοσύνη
Οι δοκιμές πριν από το workshop αποκάλυψαν προβλήματα που δεν σχετίζονταν με την ποιότητα του μοντέλου: flickering στο terminal, δυσκολία αντιγραφής κειμένου, onboarding prompts, spinner tips και μηνύματα αυτόματης ενημέρωσης. Οι διοργανωτές αφαίρεσαν μεγάλο μέρος αυτού του θορύβου, αλλά ορισμένα ζητήματα παρέμειναν.
Ιδιαίτερα σημαντική ήταν η κόκκινη ένδειξη όταν ο agent δοκίμαζε λανθασμένη παράμετρο και μετά αυτοδιορθωνόταν. Για έναν developer αυτό μπορεί να είναι φυσιολογική εξερεύνηση. Για έναν ειδικό άλλου κλάδου μοιάζει με σοβαρή αποτυχία, επειδή βλέπει το error αλλά όχι πάντα την ανάκαμψη.
Ένα επιχειρησιακό interface πρέπει επομένως να δείχνει αν ένα σφάλμα διορθώθηκε, αν το τελικό αποτέλεσμα επαληθεύτηκε και αν χρειάζεται ανθρώπινη παρέμβαση. Η εμπιστοσύνη δεν χτίζεται κρύβοντας τα errors. Χτίζεται παρουσιάζοντας την κατάσταση της ροής με τρόπο που επιτρέπει στον χρήστη να καταλάβει τι συνέβη και ποια απόφαση παραμένει δική του.
Ένα πρακτικό πλαίσιο εκπαίδευσης εταιρικών ομάδων
Η μελέτη δεν δίνει έτοιμη εταιρική πιστοποίηση. Προσφέρει όμως μια δομή που μπορεί να μετατραπεί σε πρακτικό πρόγραμμα onboarding. Κάθε επίπεδο προσθέτει μία κατηγορία δυνατότητας, έναν αντίστοιχο κίνδυνο και έναν έλεγχο που πρέπει να περάσει πριν προχωρήσει η ομάδα.
Έξι βήματα για ασφαλές Agentic AI workshop
Schritt 1Ορίστε ένα συγκεκριμένο workflow
Ξεκινήστε από πραγματική εργασία, όπως ενημέρωση καταλόγου, έλεγχος περιεχομένου ή ταξινόμηση αιτημάτων. Καταγράψτε τι διαβάζει ο agent, τι αλλάζει και ποια απόφαση δεν επιτρέπεται να πάρει μόνος του.
Schritt 2Δώστε κοινό και απομονωμένο περιβάλλον
Χρησιμοποιήστε test δεδομένα, μη παραγωγικά endpoints, προσωρινά credentials και όρια κόστους. Όλοι οι συμμετέχοντες πρέπει να ξεκινούν από την ίδια διαμόρφωση.
Schritt 3Αυξήστε σταδιακά την αυτονομία
Περάστε από ανάγνωση και επεξεργασία αρχείων σε επαληθεύσιμες πηγές, μικρούς μετασχηματισμούς και τέλος ελεγχόμενη σύνδεση με το πραγματικό εργαλείο.
Schritt 4Κάντε κάθε fallback ορατό
Η ροή πρέπει να δηλώνει αποτυχία πηγής, αλλαγή connector, ελλιπή δεδομένα και χρήση μοντέλου για συμπλήρωση. Κρίσιμη πηγή που λείπει πρέπει να προκαλεί stop, όχι σιωπηλή υποβάθμιση.
Schritt 5Χωρίστε ανάκτηση και validation
Ελέγξτε ανεξάρτητα identifiers, υποχρεωτικά πεδία, επιτρεπόμενες τιμές και πολιτικές. Μην αφήνετε το ίδιο generative βήμα να δημιουργεί και να εγκρίνει το αποτέλεσμα.
Schritt 6Μετρήστε την ποιότητα της ροής
Καταγράψτε ολοκλήρωση ασκήσεων, tool errors, recoveries, compactions, fallbacks και ανθρώπινες διορθώσεις. Η ταχύτητα έχει αξία μόνο όταν συνοδεύεται από επαληθεύσιμο αποτέλεσμα.
Τι κρατά μια επιχείρηση πριν ξεκινήσει
Πρώτον, μειώστε το τεχνικό κόστος εισόδου. Αν η εκπαίδευση αναλώνεται σε εγκαταστάσεις και keys, μετράτε την ανομοιογένεια των υπολογιστών και όχι την ικανότητα της ομάδας να αξιολογεί έναν agent. Δεύτερον, ξεκινήστε με οικεία δεδομένα και τελειώστε με υπαρκτό workflow. Η συνάφεια κορυφώθηκε όταν ο agent συνδέθηκε με το πραγματικό εργαλείο των επιμελητών.
Τρίτον, σχεδιάστε για ορατή αποτυχία. Η ροή πρέπει να δηλώνει πότε μια πηγή λείπει, πότε ενεργοποιείται fallback και ποιο μέρος του αποτελέσματος έχει επαληθευτεί. Τέταρτον, βάλτε validators πριν από κάθε μη αναστρέψιμη ή παραγωγική ενέργεια. Πέμπτον, μετρήστε όχι μόνο το τελικό output, αλλά και τη συμπεριφορά του συστήματος στη διαδρομή.
Η κοινή ικανότητα χρήσης AI agents δεν αγοράζεται μαζί με ένα μοντέλο. Χτίζεται με πρόσβαση, προοδευτική μάθηση, ασφαλή υποδομή, checkpoints και χώρο για την κρίση του ειδικού. Το πρακτικό ερώτημα για μια επιχείρηση δεν είναι «ποιο AI σκέφτεται καλύτερα;», αλλά «ποια ροή επιτρέπει στους ανθρώπους μας να καταλαβαίνουν και να ελέγχουν τι έκανε;».
Agentic AI με ασφαλή υιοθέτηση
Σχεδιάστε workshop πάνω στη δική σας πραγματική ροή
Η TWO DOTS οργανώνει ελεγχόμενα AI workflows με test περιβάλλον, περιορισμένα δικαιώματα, versioned οδηγίες, validators και ανθρώπινα approval gates. Η εκπαίδευση συνδέεται με το εργαλείο που ήδη χρησιμοποιεί η ομάδα, χωρίς πειράματα πάνω σε παραγωγικά δεδομένα.
Ήταν τετράωρο, πρακτικό workshop για 37 μέλη της κατανεμημένης κοινότητας του Gene Ontology Consortium, με τέσσερις ασκήσεις που προχωρούσαν από βασική χρήση εργαλείων έως ελεγχόμενη επιμέλεια GO-CAM.
Γιατί χρησιμοποιήθηκε JupyterHub;
Για να δοθεί σε κάθε συμμετέχοντα απομονωμένο, προρυθμισμένο περιβάλλον μέσα στον browser, χωρίς τοπική εγκατάσταση, ατομικές συνδρομές ή διαχείριση API keys.
Τι σημαίνει sidecar pattern για έναν AI agent;
Ο agent λειτουργεί δίπλα στο υπάρχον εργαλείο. Ο χρήστης δίνει οδηγίες σε κειμενικό interface, βλέπει τις αλλαγές στο γνώριμο UI και μπορεί να ελέγξει ή να διορθώσει το αποτέλεσμα.
Ποιο ήταν το βασικό πρόβλημα αξιοπιστίας;
Όταν το εργαλείο PubMed απέτυχε, ο agent χρησιμοποίησε πηγή με περικομμένα δεδομένα και συμπλήρωσε κενά με πειστικά αλλά μη πραγματικά abstracts, χωρίς καθαρή προειδοποίηση.
Πώς περιορίζονται οι παραισθήσεις σε ένα agentic workflow;
Με δύο ανεξάρτητα στρώματα: εργαλεία που ανακτούν πραγματικές πηγές πριν από την απάντηση και ντετερμινιστικούς validators που ελέγχουν το αποτέλεσμα πριν ολοκληρωθεί η ενέργεια.
Πόσοι ολοκλήρωσαν όλες τις ασκήσεις;
21 από τους 37 ενεργούς συμμετέχοντες, δηλαδή 57%, ολοκλήρωσαν και τα τέσσερα modules μέσα στο τετράωρο workshop.
Τι έδειξε η ανάλυση εργαλείων;
Σε 153 session traces καταγράφηκαν 5.816 tool calls και 57 συμβάντα λανθασμένης χρήσης εργαλείου, περίπου 1% του συνόλου. Τα περισσότερα ακολουθήθηκαν από αυτοδιόρθωση του agent.
Μπορεί το πλαίσιο να εφαρμοστεί σε επιχειρησιακές ομάδες;
Η μελέτη δεν το δοκίμασε σε εμπορικές ομάδες, αλλά οι αρχές της είναι εφαρμόσιμες: κοινό sandbox, σταδιακές ασκήσεις, verified sources, validators, sidecar σύνδεση με υπάρχον εργαλείο και ανθρώπινα approval gates.