Έπεσε και η NSA. Κάτι πολύ περίεργο συμβαίνει εδώ
- Δημοσιεύτηκε
- Τελευταία προβολή
- Χρόνος ανάγνωσης
- 4.7 λεπ.
- Λέξεις
- 941
Από τις μεγαλύτερες τράπεζες μέχρι το απόρρητο δίκτυο της NSA, οι δυσλειτουργίες διαδέχονται η μία την άλλη. Η επίσημη εξήγηση ακούγεται καθησυχαστική. Είναι όμως;
Μόλις χθες έγραφα το «Η Αμερική διαλύεται και μαζί της και ο υπόλοιπος κόσμος» αναλύοντας το χάλι των τελευταίων ημερών και χθες βλέπω ότι αποφάσισε να κατεβάσει ρολά και η NSA, η National Security Agency των Ηνωμένων Πολιτειών.
Ναι, αυτή που παρακολουθεί τις επικοινωνίες του μισού πλανήτη, αναλύει δεδομένα με το τσουβάλι και διαθέτει τεχνολογική υποδομή που κοστίζει περισσότερο από το ΑΕΠ αρκετών χωρών συνολικά.
Το απόρρητο εσωτερικό της δίκτυο, γνωστό ως NSANet, παρουσίασε σοβαρή διακοπή λειτουργίας, με αποτέλεσμα να επηρεαστεί η διακίνηση διαβαθμισμένων πληροφοριών και να ζητηθεί από υπαλλήλους να καθυστερήσουν την προσέλευσή τους στις εγκαταστάσεις του Fort Meade. Μιλάμε για την υπηρεσία που υποτίθεται ότι μπορεί να εντοπίσει έναν τρομοκράτη από το πώς αναπνέει δίπλα στο κινητό του, αλλά χθες δυσκολευόταν να συνδέσει τους δικούς της υπαλλήλους.
Φαντάζομαι τον αναλυτή να προσπαθεί να ανοίξει έναν φάκελο με την ένδειξη TOP SECRET και τα Windows να του απαντούν «Something went wrong. Please try again later». Παγκόσμια υπερδύναμη, πυρηνικό οπλοστάσιο, δορυφόροι, τεχνητή νοημοσύνη και τελικά το μεγαλύτερο πρόβλημα της ημέρας είναι ότι δεν ανοίγει ο κοινόχρηστος φάκελος.
Η επίσημη εξήγηση ήταν ακόμη πιο απολαυστική: προγραμματισμένη συντήρηση και προσωρινή υποβάθμιση υπηρεσιών. Σύμφωνα με τις αναφορές, το πρόβλημα πιθανότατα σχετιζόταν με ενημερώσεις λογισμικού, ενώ δεν υπήρχαν ενδείξεις κυβερνοεπίθεσης. Η NSA διαβεβαίωσε ότι οι κρίσιμες επιχειρησιακές δυνατότητές της παρέμειναν πλήρως λειτουργικές, χάρη στα πολλαπλά συστήματα εφεδρείας.
Δηλαδή, στην υπηρεσία που διαθέτει περισσότερα επίπεδα ασφαλείας από όσα έχει ένα κρεμμύδι, κάποιος έκανε ένα συνηθισμένο update και το προσωπικό άρχισε να πηγαίνει στη δουλειά με ραντεβού. Κάπου εκεί φαντάζομαι έναν ταλαίπωρο system administrator, με τρεις καφέδες, δύο άδεια κουτιά Red Bull και έναν στρατηγό πάνω από το κεφάλι του, να εξηγεί ότι «στο test environment δούλευε κανονικά».
Και το ωραιότερο; Μετά τις τράπεζες, τις αεροπορικές εταιρείες και τις υπηρεσίες της Microsoft, κατέβηκε και το δίκτυο της NSA. Αν συνεχίσουμε με αυτόν τον ρυθμό, σε λίγο οι μυστικές υπηρεσίες θα ανταλλάσσουν διαβαθμισμένες πληροφορίες με ταχυδρομικά περιστέρια. Τουλάχιστον εκεί δεν χρειάζεται να εγκαταστήσεις updates.
Ας υποθέσουμε ότι ήταν απλώς ένα ακόμη update
Γιατί όμως τόσα πολλά προβλήματα τελευταία; Γιατί καταλήγουν σε παραγωγικά συστήματα αναβαθμίσεις που μοιάζουν όλο και πιο «ανώριμες»; Γιατί υποδομές δισεκατομμυρίων, με πολλαπλές δικλίδες ασφαλείας, εφεδρικά συστήματα και ολόκληρους στρατούς μηχανικών, καταφέρνουν να γονατίζουν από κάτι τόσο συνηθισμένο όσο ένα software update;
Παλαιότερα, οι αναβαθμίσεις ακολουθούσαν έναν σχετικά προβλέψιμο κύκλο ανάπτυξης λογισμικού. Εντοπιζόταν ένα πρόβλημα, γραφόταν το αντίστοιχο patch, δοκιμαζόταν, περνούσε από ελεγχόμενο και σταδιακό deployment, παρακολουθούνταν η συμπεριφορά του και, φυσικά, ακολουθούσαν τα γνωστά patches των patches για να διορθώσουν όσα έσπασαν οι προηγούμενες διορθώσεις. Μια διαδικασία που κάθε προγραμματιστής με μερικά χρόνια στην πλάτη του γνωρίζει πολύ καλά. Είχε τα προβλήματά της, είχε τις αποτυχίες της, αλλά είχε και κάτι εξαιρετικά σημαντικό: ο άνθρωπος μπορούσε, τουλάχιστον θεωρητικά, να παρακολουθεί και να κατανοεί τον κύκλο των αλλαγών.
Σήμερα όμως έχουμε μπει σε μια εντελώς διαφορετική εποχή. Συστήματα τεχνητής νοημοσύνης αναλύουν τεράστιες ποσότητες κώδικα, ανακαλύπτουν ευπάθειες και εντοπίζουν πιθανά σημεία εκμετάλλευσης με ταχύτητες πολλαπλάσιες των ανθρώπινων δυνατοτήτων. Στην απέναντι πλευρά, άλλα συστήματα AI παράγουν διορθώσεις, ξαναγράφουν συναρτήσεις, τροποποιούν βιβλιοθήκες και δημιουργούν patches με την ίδια εξωφρενική ταχύτητα. Έχουμε δηλαδή μηχανές που βρίσκουν τρύπες και άλλες μηχανές που τρέχουν να τις κλείσουν. Και στη μέση τον άνθρωπο, που μέχρι να ανοίξει το πρώτο pull request, έχουν δημιουργηθεί άλλα εκατό.
Το πρόβλημα είναι ότι η ταχύτητα παραγωγής και τροποποίησης κώδικα αρχίζει να ξεπερνά κατά πολύ την ανθρώπινη δυνατότητα ουσιαστικού ελέγχου. Ποιος θα διαβάσει όλες αυτές τις αλλαγές; Ποιος θα κατανοήσει τις αλληλεπιδράσεις τους με εκατοντάδες εξαρτήσεις, παλαιότερα συστήματα, διαφορετικές αρχιτεκτονικές και άγνωστες παραμέτρους; Ποιος θα πραγματοποιήσει τον εξαντλητικό έλεγχο που απαιτείται όταν η επόμενη ευπάθεια έχει ήδη εντοπιστεί και η επόμενη διόρθωση περιμένει στην ουρά; Οι παραδοσιακές διαδικασίες ελέγχου σχεδιάστηκαν για ρυθμούς ανθρώπινης ανάπτυξης λογισμικού. Όχι για μια ασταμάτητη βιομηχανία αυτοματοποιημένης παραγωγής αλλαγών.
Στην ουσία, πλησιάζουμε σε μια μορφή Vibe-Coded Patches, όπου ο ανθρώπινος παράγοντας κινδυνεύει να περιοριστεί σε έναν τυπικό ρόλο έγκρισης. Το περίφημο human-in-the-loop μετατρέπεται σταδιακά σε human-somewhere-near-the-loop. Το AI ανακαλύπτει την ευπάθεια, το AI προτείνει τη διόρθωση, το AI γράφει τον κώδικα, το AI δημιουργεί τα tests και ένα ακόμη AI αξιολογεί τα αποτελέσματα. Κάπου στο τέλος υπάρχει κι ένας άνθρωπος που πατάει Approve, ελπίζοντας ότι τα τέσσερα προηγούμενα συστήματα ήξεραν τι έκαναν.
Και το πιο ενδιαφέρον είναι ότι αυτή η διαδικασία δημιουργεί έναν αυτοτροφοδοτούμενο κύκλο. Όσο τα AI επιταχύνουν τον εντοπισμό ευπαθειών, τόσο αυξάνεται η πίεση για ταχύτερες διορθώσεις. Όσο επιταχύνονται οι διορθώσεις, τόσο περιορίζεται ο διαθέσιμος χρόνος για ανθρώπινη αξιολόγηση. Και όσο περιορίζεται η αξιολόγηση, τόσο περισσότερο βασιζόμαστε σε αυτοματοποιημένα εργαλεία για να ελέγξουν τον κώδικα που παρήγαγαν άλλα αυτοματοποιημένα εργαλεία. Ένας τεχνολογικός φαύλος κύκλος στον οποίο η ταχύτητα έχει αρχίσει να υποκαθιστά την κατανόηση.
Αυτό δεν αποδεικνύει ότι η συγκεκριμένη διακοπή της NSA προκλήθηκε από AI-generated κώδικα. Είναι όμως μια πολύ σοβαρή υπόθεση για το πού μπορεί να οδηγείται συνολικά η βιομηχανία λογισμικού. Και αν πράγματι αρχίζουμε να χάνουμε τον ανθρώπινο έλεγχο πάνω στον ρυθμό των αλλαγών, τότε τα σημερινά περιστατικά ίσως αποδειχθούν απλώς το προοίμιο.
Έχουμε να δούμε πολλά ακόμα. Και φοβάμαι ότι το επόμενο μεγάλο bug θα έχει περάσει όλα τα automated tests με απόλυτη επιτυχία.
(Έχω την ατυχία να ασχολούμαι με τον κώδικα όλη μου τη ζωή και να γνωρίζω. Φυσικά και χρησιμοποιώ AI για να με βοηθάει. Γνωρίζω όμως πολύ καλά τις δυνατότητες, τις αδυναμίες, τα λογικά και αρχιτεκτονικά λάθη, τα παραληρήματα και τις υπόλοιπες εκπλήξεις που μπορεί να παράγει. Γι’ αυτό δεν χρησιμοποιώ ποτέ αυτούσιο κώδικα χωρίς προσωπικό έλεγχο, ούτε επιτρέπω στα συστήματα αυτά να αποφασίζουν και να ενεργούν ανεξέλεγκτα. Πόσοι όμως από όσους χρησιμοποιούν AI είναι έμπειροι senior developers; Και τι πιέσεις δέχονται καθημερινά για να παραδίδουν όλο και περισσότερο κώδικα σε όλο και λιγότερο χρόνο;)