Η ανάγκη για κατάλληλη αρχιτεκτονική στην τεχνητή νοημοσύνη (AI) γίνεται ολοένα και πιο επιτακτική, καθώς ένα στέλεχος της Salesforce αποκαλύπτει 12 κανόνες για το agentic AI, εστιάζοντας στις αιτίες που οδηγούν σε αποτυχίες στα projects αυτά.
Ο John Taschek, εκτελεστικός αντιπρόεδρος και chief market strategy officer της Salesforce, προτείνει ένα νέο πλαίσιο 12 κανόνων, το οποίο στοχεύει στο να εξηγήσει γιατί τόσα πολλά AI agents αποτυγχάνουν όταν επιχειρούν να λειτουργήσουν σε παραγωγικό περιβάλλον. Σύμφωνα με την ανάλυση του Taschek, οι περισσότερες αποτυχίες δεν οφείλονται στην ίδια την τεχνητή νοημοσύνη αλλά στη δομή και την αρχιτεκτονική που την υποστηρίζει.
Γιατί τα περισσότερα pilots «σκάνε» στην παραγωγή
Οι περισσότερες αποτυχίες στα projects που αφορούν την τεχνητή νοημοσύνη είναι συνήθως αποτέλεσμα αρχιτεκτονικών λαθών, παρά ελαττωματικών μοντέλων. Η ανάλυση δείχνει ότι οι ομάδες που αναπτύσσουν AI agents συχνά δεν έχουν οικοδομήσει σωστά τα θεμέλια των δεδομένων τους. Ειδικότερα, η πιο κοινή αιτία αποτυχίας είναι η χρήση “βρώμικων”, κατακερματισμένων ή ξεπερασμένων δεδομένων. Ενα χαρακτηριστικό εύρημα από έρευνα της Salesforce αποκαλύπτει ότι περισσότεροι από τους μισούς εργαζόμενους γραφείου στις ΗΠΑ εκφράζουν σκεπτικισμό σχετικά με την αξιοπιστία των AI applications, με τους κατοίκους των αναδυόμενων οικονομιών να φαίνονται πιο ανοιχτοί στην υιοθέτησή τους.
Τι δείχνουν οι έρευνες για την υιοθέτηση
Παρά τις προκλήσεις, πολλές επιχειρήσεις καταφέρνουν να υιοθετήσουν επιτυχώς AI agents. Στις ΗΠΑ, πάνω από το 80% των κυβερνητικών υπηρεσιών χρησιμοποιούν ήδη AI, ενώ έρευνες της IDC καταδεικνύουν ότι για τον δημόσιο τομέα, το agentic AI έχει γίνει στρατηγική προτεραιότητα. Η Accenture υποδεικνύει ότι οι επιχειρήσεις πρέπει να επιτύχουν γρήγορες και σταθερές νίκες για να χτίσουν θετική δυναμική, μεταβαίνοντας από το «κατακερματισμένο» στο «συστημικό» AI.
Σύμφωνα με τη Salesforce, η οποία έχει ήδη πάνω από 20.000 ενεργές εγκαταστάσεις AI agents, ένα ενδιαφέρον μάθημα αναδύεται: σε αντίθεση με το παραδοσιακό λογισμικό όπου το 90% της δουλειάς ολοκληρώνεται πριν την ανάπτυξη, στους AI agents το 90% της πραγματικής εργασίας έρχεται μετά την παραγωγή, μέσω συνεχιζόμενης διαχείρισης και βελτίωσης.
Οι 12 κανόνες αναλυτικά
Οι 12 κανόνες του John Taschek είναι σχεδιασμένοι με γνώμονα μια vendor-neutral προσέγγιση και εμπνευσμένοι από τους κανόνες του Edgar F. Codd για τα σχεσιακά συστήματα βάσεων δεδομένων, διαρθρώνονται σε τέσσερα επίπεδα.
Θεμέλιο — σύστημα δεδομένων/context:
- Κανόνας 1 – Ενιαία ιχνηλασιμότητα δεδομένων: Κάθε δεδομένο θα πρέπει να έχει σαφή προέλευση, αλλαγές και δικαιώματα χρήσης.
- Κανόνας 2 – Πρόσβαση σε real-time δεδομένα: Οι agents πρέπει να λειτουργούν με δεδομένα σε πραγματικό χρόνο, όχι με παλαιότερα snapshots.
- Κανόνας 3 – Σημασιολογικά μεταδεδομένα: Οι agents θα πρέπει να κατανοούν τη σημασία των δεδομένων, με σαφείς ορισμούς για έννοιες όπως «πελάτης σε κίνδυνο».
Πυρήνας — σύστημα δράσης:
- Κανόνας 4 – Observability / ιχνηλασιμότητα συμπεριφοράς: Κάθε απόφαση που λαμβάνεται από τον agent πρέπει να καταγράφεται και να είναι κατανοητή.
- Κανόνας 5 – Συνεχής adversarial έλεγχος: Ο agent πρέπει να υποβάλλεται συνεχώς σε δοκιμές για edge cases και κακόβουλα σενάρια.
- Κανόνας 6 – Multi-step reasoning: Ο agent μπορεί να αναλύει σύνθετους στόχους και να προσαρμόζεται αναλόγως, αντί να ακολουθεί απλώς ένα στατικό σενάριο.
- Κανόνας 7 – Hybrid deterministic governance: Ζητήματα νομικής και ασφάλειας θα πρέπει να είναι ριζωμένα, ώστε να αποφευχθούν παραβάσεις από τον agent.
Λειτουργίες — σύστημα εργασίας:
- Κανόνας 8 – Agnostic orchestration: Ο agents από διάφορους προμηθευτές πρέπει να συνεργάζονται χωρίς να χρειάζεται καθόλου ειδική υποδομή.
- Κανόνας 9 – Συνέργεια ανθρώπου-agent: Σε περιπτώσεις χαμηλής βεβαιότητας ή ανίχνευσης συναισθηματικού context, ο agent πρέπει να παραδίδει τα καθήκοντα σε ανθρώπους.
- Κανόνας 10 – Sovereign agency: Η επιχείρηση πρέπει να διατηρεί τον έλεγχο αναφορικά με την τοποθεσία των δεδομένων, την επιλογή του μοντέλου και τις πολιτικές ασφαλείας.
- Κανόνας 11 – Outcome-based parity: Οι agents πρέπει να αξιολογούνται με βάση το τι επιτυγχάνουν (π.χ. κέρδη, επίλυση προβλημάτων), κι όχι με το πόσο συχνά εκτελούν καθήκοντα.
Κορυφή — σύστημα εμπιστοσύνης:
- Κανόνας 12 – Trusted agency: Η πιο κρίσιμη αρχή, που απαιτεί από τον agent να αποκτήσει την εμπιστοσύνη που χρειάζεται μέσω διαφανών και δίκαιων διαδικασιών.
Πού «σπάει» η αλυσίδα στην πράξη
Πολλές από τις πιλοτικές εφαρμογές φαίνονται υποσχόμενες σε ελεγχόμενο περιβάλλον, αλλά καταρρέουν όταν αντιμετωπίζουν πραγματικά δεδομένα. Χωρίς τους τρεις πρώτους κανόνες της ιχνηλασιμότητας και της προέλευσης των δεδομένων, οι agents δεν μπορούν να κατανοήσουν τα δεδομένα που επεξεργάζονται, με αποτέλεσμα συχνά να δίνουν λανθασμένες ή παράξενες απαντήσεις. Σε καταστάσεις όπου δεν υπάρχει ιχνηλασιμότητα, δεν είναι δυνατή η αναγνώριση του τι έχει πάει στραβά.
Η απουσία των κατάλληλων διαδικασιών μπορεί να οδηγήσει σε ελλείψεις ασφαλείας και νομικών ελέγχων που στην πράξη καθυστερούν ή ακυρώνουν deployments, ειδικά σε ρυθμιζόμενους τομείς.
Η άποψη του TechNoid.gr
Το μήνυμα πίσω από την έννοια του «agentic AI» είναι σαφές: η αποτελεσματικότητα της τεχνητής νοημοσύνης εξαρτάται άμεσα από την ποιότητα των δεδομένων και τις διαδικασίες ασφαλείας γύρω της. Για κάθε επιχείρηση που σκέφτεται να προσφέρει AI agents σε υπηρεσίες όπως εξυπηρέτηση πελατών ή πωλήσεις, το κρίσιμο σημείο είναι ότι η διαδικασία διαχείρισης και βελτίωσης μετά την ανάπτυξη είναι αυτή που θα καθορίσει την επιτυχία. Οι κανόνες που προτείνονται αποτελούν χρήσιμο οδηγό για τον σχεδιασμό και την υλοποίηση AI συστημάτων που θα μπορούσαν να αποδώσουν θετικά αποτελέσματα.
