Το “tokenmaxxing” φαινόταν σαν η φυσική εξέλιξη της παραγωγικότητας, μέχρι τη στιγμή που οι CFOs άρχισαν να μετρούν τους πραγματικούς λογαριασμούς. Στο TechNoid είδαμε εταιρείες να καίνε το 40% του προϋπολογισμού R&D σε tokens, ανακαλύπτοντας ότι η αλόγιστη χρήση τεχνητής νοημοσύνης δεν φέρνει απαραίτητα αντίστοιχα αποτελέσματα. Η νέα AI Spend Console του Rippling έρχεται να βάλει φρένο σε αυτή την αιμορραγία, αποκαλύπτοντας το κρυφό κόστος της ανεξέλεγκτης πρόσβασης σε LLMs.
- Το Rippling αποκαλύπτει ότι εταιρείες έφτασαν να ξοδεύουν έως και το 40% του budget προσωπικού R&D μόνο σε AI tokens.
- Η νέα AI Spend Console περιορίζει τη σπατάλη παρακολουθώντας την παραγωγικότητα ανά υπάλληλο και κατευθύννοντας τα αιτήματα σε φθηνότερα, αποδοτικότερα μοντέλα.
- Η εποχή που όλοι είχαν απεριόριστη πρόσβαση στα ακριβέστερα frontier μοντέλα τελειώνει, καθώς η μέτρηση του ROI γίνεται πλέον αυστηρή προϋπόθεση.
Η φούσκα των tokens
Όταν οι επιχειρήσεις υιοθέτησαν μαζικά εργαλεία όπως το Cursor, το OpenAI και το Anthropic, η οδηγία ήταν μία: δουλέψτε γρηγορότερα χρησιμοποιώντας τεχνητή νοημοσύνη χωρίς περιορισμούς. Όπως επισημαίνει η επίσημη ανακοίνωση του Rippling, η τακτική αυτή οδήγησε σε μηνιαίες αυξήσεις δαπανών της τάξης του 80%, με ορισμένους μηχανικούς να καίνε έως και 50.000 δολάρια τον μήνα σε prompt requests.
Το βασικό πρόβλημα εντοπίστηκε στο γεγονός ότι οι πάροχοι υποδομών δεν έχουν κανένα κίνητρο να περιορίσουν την κατανάλωση. Αντίθετα, οι εργαζόμενοι έτειναν εξ ορισμού να χρησιμοποιούν πάντα τα νεότερα και πιο ακριβά frontier μοντέλα, ακόμα και για απλές εργασίες που θα μπορούσαν να λυθούν με κλασικά scripts ή ελαφρύτερα εργαλεία.
Η στρατηγική του routing
Η λύση στο πρόβλημα δεν είναι η διακοπή της χρήσης AI, αλλά ο έξυπνος διαμεσολαβητής (AI gateway). Σύμφωνα με τα στοιχεία που δημοσίευσε ο CEO του Rippling, Parker Conrad, οι δοκιμές έδειξαν ότι ανοιχτά μοντέλα όπως το Z.ai’s GLM 5.2 προσφέρουν έως και 85% χαμηλότερο κόστος με σχεδόν πανομοιότυπη απόδοση σε σύγκριση με τις ακριβότερες εναλλακτικές.
Μέσω ενός κεντρικού συστήματος routing, τα αιτήματα των υπαλλήλων κατευθύνονται αυτόματα στο πιο οικονομικό μοντέλο που μπορεί να φέρει εις πέρας τη συγκεκριμένη δουλειά. Με αυτόν τον τρόπο, το Rippling κατάφερε να διατηρήσει τον όγκο κατανάλωσης στα 600 δισεκατομμύρια tokens τον μήνα, ρίχνοντας όμως το συνολικό κόστος λειτουργίας στο 37% των αρχικών επιπέδων.
Η επόμενη μέρα στο ROI
Η εποχή που τα εργαλεία τεχνητής νοημοσύνης αντιμετωπίζονταν σαν το εταιρικό Slack ή το email έχει περάσει ανεπιστρεπτί. Τα dashboards παραγωγικότητας συνδέουν πλέον απευθείας τα έξοδα σε tokens με μετρήσιμα αποτελέσματα, όπως γραμμές κώδικα, pull requests ή επιτυχημένα customer onboardings.
Αν οι επιχειρήσεις δεν μπορούν να αποδείξουν ότι η κατανάλωση AI αυξάνει μετρήσιμα την αποδοτικότητα συγκεκριμένων ρόλων, η πρόσβαση θα περιορίζεται δραστικά. Ήδη, η διαφημιστική καμπάνια του Rippling σατιρίζει την αλόγιστη σπατάλη με μετρητά να καταλήγουν σε καταστροφείς εγγράφων, σηματοδοτώντας μια πιο ώριμη αλλά και αυστηρή φάση για την αγορά.
Η άποψή μας στο TechNoid
Στο TechNoid πιστεύουμε ότι το φαινόμενο του “tokenmaxxing” λειτούργησε αρχικά ως μια αναγκαία περίοδος πειραματισμού, αλλά η ασυδοσία στις εταιρικές πιστωτικές κάρτες έπρεπε να τελειώσει. Οι πάροχοι μοντέλων AI επωφελήθηκαν από την έλλειψη ελέγχου, χρεώνοντας βαριά τη νευρικότητα των εταιρειών να μην μείνουν πίσω στην κούρσα της τεχνητής νοημοσύνης. Η δημιουργία κατώφλιων, η χρήση εναλλακτικών open-weight μοντέλων και η σύνδεση του κόστους με την πραγματική παραγωγικότητα δεν είναι απλώς μέτρα εξοικονόμησης· είναι ο μόνος τρόπος για να παραμείνει η χρήση του AI βιώσιμη μακροπρόθεσμα. Αν η ομάδα σου χρησιμοποιεί frontier LLMs για να γράψει απλά emails, ο CFO σου σύντομα θα σου κόψει την πρόσβαση — και θα έχει απόλυτο δίκιο.
Συχνές Ερωτήσεις για την κοστολόγηση και διαχείριση AI tokens στις επιχειρήσεις
Τι είναι το tokenmaxxing στις επιχειρήσεις;
Είναι η τάση των εταιρειών να διοχετεύουν απεριόριστους πόρους και προϋπολογισμούς σε tokens τεχνητής νοημοσύνης, επιτρέποντας στους εργαζομένους να χρησιμοποιούν ακριβά frontier μοντέλα για κάθε εργασία.
Τι ακριβώς κάνει η AI Spend Console του Rippling;
Παρακολουθεί και περιορίζει τη σπατάλη σε tokens, χαρτογραφώντας ποιοι υπάλληλοι ή ομάδες ξοδεύουν περισσότερα και αν η χρήση αυτή μεταφράζεται σε πραγματική παραγωγικότητα.
Γιατί οι πάροχοι AI δεν βοηθούν στον έλεγχο του κόστους;
Οι εταιρείες ανάπτυξης μοντέλων έχουν οικονομικό κίνητρο να καταναλώνονται περισσότερα και ακριβότερα tokens, γι’ αυτό και σπάνια παρέχουν εκ των προτέρων προηγμένα εργαλεία ελέγχου δαπανών.
Πώς βοηθάει το AI routing στη μείωση των εξόδων;
Κατευθύνει αυτόματα τα εκάστοτε prompts στο φθηνότερο και επαρκέστερο μοντέλο για κάθε εργασία, αποφεύγοντας τη άσκοπη χρήση υπερβολικά ισχυρών και ακριβών LLMs.
Υπάρχουν φθηνότερες εναλλακτικές αντί των ακριβών frontier μοντέλων;
Ναι, πολλά ανοιχτά μοντέλα (open-weight), όπως το Z.ai’s GLM 5.2, προσφέρουν συγκρίσιμη απόδοση σε coding και άλλες εργασίες με ελάχιστο κλάσμα του κόστους.
Θα χάσουν την πρόσβαση στο AI οι απλοί υπάλληλοι;
Αν οι εταιρείες δεν καταφέρουν να συνδέσουν την κατανάλωση tokens με μετρήσιμα αποτελέσματα παραγωγικότητας, η πρόσβαση πιθανότατα θα περιοριστεί σημαντικά.
Πού μπορεί να ενσωματωθεί ένα σύστημα ελέγχου AI spend;
Μπορεί να λειτουργήσει αυτόνομα ως stand-alone προϊόν ενσωματωμένο σε υπάρχοντα συστήματα HR ή ως μέρος ευρύτερων πλατφορμών διαχείρισης ανθρώπινου δυναμικού.
Διαβάστε επίσης την ανάλυσή μας για το πως τα σύγχρονα δίκτυα 5G διαχειρίζονται τον φόρτο δεδομένων.
