The Next Big Thing: Οπτική AI TPU
Δωρεάν τεχνολογική ιδέα αξίας δισεκατομμυρίων, δωρεάν εδώ στο Tomgineer. Ακούτε εκεί στην Apple, Google, Microsoft, Meta που σπάτε τα κεφάλια σας ποιο είναι το επόμενο Big Thing?
Όποιος κατασκευάσει αυτό το κουτάκι έχει δημιουργήσει το νέο iPhone. Θα συνταράξει την αγορά προκαλώντας ενθουσιασμό που έχουμε να δούμε από τις εποχές που ο Steve Jobs ανακοίνωνε επί σκηνής το iPhone.
Τι είναι αυτό το κουτάκι;
Πάμε αρχικά στις προδιαγραφές:
- Έχει διάσταση 10x10 εκατοστά
- Έχει απλό μινιμαλιστικό Design με σχεδιαστικό ύφος Jony Ive
- Έχει μόνο μια θύρα USB-C
- Κοστίζει 299€
Τι κάνει αυτό το κουτάκι
Μέσα στη συσκευή αυτή υπάρχει ένα οπτικός επεξεργαστής AI. Δεν λειτουργεί δηλαδή με κλασικά τρανζίστορ όπως όλες οι CPU και GPU σήμερα. Λόγω του ότι λειτουργεί σε αστρονομικά υψηλές συχνότητες με φως καταναλώνει πολύ λιγότερη ενέργεια από μια GPU. Αποτέλεσμα είναι να αρκεί το ρεύμα από το USB-C και δεν χρειάζεται ιδιαίτερη ψύξη.
TPU είναι ο απόλυτα εξειδικευμένος επεξεργαστής για τεχνητή νοημοσύνη. Δεν είναι μια γενικής χρήσης CPU, ούτε μια GPU για γραφικά. Είναι ένα chip φτιαγμένο εξαρχής για έναν και μόνο σκοπό: να εκτελεί αστραπιαία τους μαθηματικούς υπολογισμούς που απαιτούν τα νευρωνικά δίκτυα. Πολλαπλασιασμοί πινάκων, tensors, inference, training. Εκεί που μια CPU τα παίζει τελείως και μια GPU μετατρέπεται σε τοστιέρα, μια TPU αποδίδει πολλαπλάσια με πολύ μεγαλύτερη ενεργειακή αποδοτικότητα. Είναι ο επιταχυντής πίσω από σύγχρονα AI συστήματα, από αναγνώριση εικόνας και φωνής μέχρι μεγάλα γλωσσικά μοντέλα. Με απλά λόγια: είναι hardware σχεδιασμένο αποκλειστικά για να σκέφτεται σε AI ταχύτητες.
Πως μπορεί να κουμπώσει σήμερα απευθείας στα τοπικά LLM και Diffusion Models για εικόνες και βίντεο;
Αναφέρομαι σε τοπικά Open Source LLMs και συστήματα όπως το ComfyUI ή το Forge όπως και κάθε άλλο για εικόνες και βίντεο. Τι έχουν κοινό τα περισσότερα από αυτά;
Λειτουργούν με Python και συγκεκριμένα το PyTorch. Τι είναι το PyTorch? Λογισμικό ανοιχτού κώδικα που έχει ήδη 27.000 Forks (https://github.com/pytorch/pytorch).
Ο κατασκευαστής του προϊόντος που αναφέρω απλά θα κάνει Forκ το PyTorch να χρησιμοποιεί το κουτάκι και όχι κάποια GPU της AMD ή της nVidia.
Η απόδοση της TPU θα είναι περίπου λόγω της οπτικής τεχνολογίας και της εξειδίκευσης σε νευρωνικά δίκτυα περίπου 10 φορές μεγαλύτερη μιας RTX 5090.
Για 299€.
Αγαπητέ Κινέζε όταν υλοποιήσεις την ιδέα μπορείς να μου στείλεις ένα Email και να μου μεταβιβάσεις κάνα ψιλικό που σου έδωσα την ιδέα; Ευχαριστώ.
