Η Thinking Machines Lab, η startup της πρώην CTO της OpenAI Mira Murati, μας συστήνει το Inkling, ένα από τα πιο ισχυρά open-weight μοντέλα στους ΗΠΑ. Με την εξαιρετική πολυτροπική κατανόηση και απαιτήσεις υλικού που προκαλούν δέος, το Inkling ανοίγει νέες προοπτικές στον τομέα της τεχνητής νοημοσύνης.
- Η Thinking Machines Lab, η startup της πρώην CTO της OpenAI Mira Murati, παρουσίασε το πρώτο της AI μοντέλο με την ονομασία Inkling.
- Αποτελεί πλέον το ισχυρότερο open-weight μοντέλο των ΗΠΑ, ξεπερνώντας το Nemotron 3 Ultra της Nvidia.
- Διαθέτει 975 δισεκατομμύρια παραμέτρους (MoE) και άδεια χρήσης Apache 2.0.
Αρχιτεκτονική Mixture-of-Experts (MoE)
Το Inkling δεν αποτελεί ένα παραδοσιακό, πυκνό νευρωνικό δίκτυο, αλλά βασίζεται στην αρχιτεκτονική Mixture-of-Experts (MoE), ενεργοποιώντας μόλις 41 δισεκατομμύρια από τα 975 δισεκατομμύρια διαθέσιμες παραμέτρους ανά αίτημα. Εκπαιδεύτηκε σε ένα συνδυασμένο σύνολο δεδομένων 45 τρισεκατομμυρίων tokens, που περιλάμβαναν κείμενο, εικόνες, ήχο και βίντεο, χρησιμοποιώντας τα συστήματα Nvidia GB300 NVL72.
Απαιτήσεις hardware
Η λειτουργία του Inkling απαιτεί αυστηρές απαιτήσεις υλικού. Η πλήρης μορφή του καταναλώνει πάνω από 2TB VRAM, απαιτώντας οκτώ κάρτες Nvidia B300 ή 16 H200 για εκτέλεση. Υπάρχει, ωστόσο, και μια έκδοση NVFP4 που μειώνει τις απαιτήσεις στα 600 GB VRAM, καθώς και η Inkling-Small με 12 δισεκατομμύρια παραμέτρους.
Πολυτροπικότητα από τη βάση
Το Inkling έχει σχεδιαστεί από την αρχή ως πολυτροπικό μοντέλο, ενσωματώνοντας ιεραρχικούς κωδικοποιητές για εικόνα και ήχο. Όλες οι μορφές δεδομένων μεταφέρονται σε έναν κοινό κρυφό χώρο, επιτρέποντας την ταυτόχρονη κατανόηση κειμένου, εικόνας και φωνής με τη μεγαλύτερη διακριτικότητα.
Επιδόσεις, Agentic Reasoning και ο ανταγωνισμός
Το Inkling θέτει νέα δεδομένα στα open-weight μοντέλα, κατέχοντας 41η θέση στον τομέα του. Αν και υπολείπεται των κλειστών μοντέλων όπως το GPT-5.6 της OpenAI, υπερέχει στις αυτόνομες εκτελέσεις με σημαντικά λιγότερες απαιτήσεις tokens.
Η άποψή μας στο TechNoid
Στη TechNoid, επισημαίνουμε ότι το Inkling δεν είναι απλά μια ανταγωνιστική πρόταση στα κλειστά μοντέλα αλλά μια στρατηγική απάντηση στις κινεζικές λύσεις. Οι δυνατότητες τοπικής εγκατάστασής του και η ελευθερία που προσφέρει το καθιστούν ιδανικό για μεγάλες επιχειρήσεις που θέλουν να έχουν τον έλεγχο των δεδομένων τους. Θεωρούμε ότι οι απαιτήσεις υλικού ίσως περιορίσουν τη χρήση του από μικρότερους προγραμματιστές, όμως ανοίγουν τον δρόμο για καινοτόμες εφαρμογές σε περιβάλλοντα όπου η ασφάλεια και η προσαρμογή είναι καθοριστικές.
Τι είναι το Inkling;
Το Inkling είναι ένα open-weight AI μοντέλο που αναπτύχθηκε από την Thinking Machines Lab με 975 δισεκατομμύρια παραμέτρους.
Ποιες είναι οι απαιτήσεις hardware για το Inkling;
Η πλήρης μορφή απαιτεί πάνω από 2TB VRAM, ενώ υπάρχουν και εκδόσεις που μειώνουν τις απαιτήσεις.
Πώς λειτουργεί η αρχιτεκτονική MoE;
Η MoE ενεργοποιεί συγκεκριμένους experts από ένα μεγάλο σύνολο παραμέτρων, μειώνοντας το υπολογιστικό φορτίο.
Ποιες είναι οι πολυτροπικές δυνατότητες του Inkling;
Ενσωματώνει ήχους, κείμενα και εικόνες σε ένα κοινό κρυφό χώρο, επιτρέποντας την ταυτόχρονη κατανόηση.
Πού μπορώ να βρω το Inkling;
Είναι διαθέσιμο για κατέβασμα στο Hugging Face και προσφέρεται μέσω του Tinker API.
Πώς συγκρίνεται το Inkling με άλλα μοντέλα;
Υπολείπεται των κλειστών μοντέλων αλλά υπερέχει στα agentic reasoning και στην απόδοση tokens.
Ποιες είναι οι εφαρμογές του Inkling;
Μπορεί να χρησιμοποιηθεί σε περιβάλλοντα επιχειρήσεων για τη συγγραφή κώδικα και την ανάλυση δεδομένων.
