Από το PGP στο Mythos: Μια σύντομη ιστορία ελέγχου εξαγωγών που δεν σταμάτησαν κανέναν
Την περασμένη Παρασκευή, επικαλούμενη μη καθορισμένες ανησυχίες εθνικής ασφάλειας, ο Λευκός Οίκος διέταξε την Anthropic να περιορίσει την εξαγωγή των ισχυρών μοντέλων τεχνητής νοημοσύνης Fable και Mythos σε οποιονδήποτε εκτός των Ηνωμένων Πολιτειών, καθώς και σε ξένους υπηκόους εντός της χώρας. Λίγο αργότερα, ο γίγαντας της τεχνητής νοημοσύνης απέσυρε βιαστικά και τα δύο μοντέλα, τα οποία παραμένουν μη διαθέσιμα σε οποιονδήποτε εδώ και μία εβδομάδα.
Το επεισόδιο αποτελεί την πρώτη πραγματική δοκιμασία του αν η αμερικανική κυβέρνηση μπορεί να χρησιμοποιήσει ελέγχους εξαγωγών για να περιορίσει την τεχνητή νοημοσύνη αιχμής, όπως έχει προσπαθήσει — με πολύ άνισα αποτελέσματα — να περιορίσει την κρυπτογράφηση και το λογισμικό κατασκοπείας στο παρελθόν. Όσο δραματικό κι αν ακούγεται, το πώς θα επιλυθεί αυτή η αντιπαράθεση θα μπορούσε να διαμορφώσει όχι μόνο την πρόσβαση της Anthropic σε ξένες αγορές αλλά και τον κανόνα που θα πρέπει να ακολουθήσουν άλλα εργαστήρια τεχνητής νοημοσύνης.
To παρασκήνιο της απαγόρευσης
Από τότε που η Anthropic λάνσαρε το Mythos τον Απρίλιο, η εταιρεία το προώθησε ως ένα είδος κυβερνομηχανής της καταστροφής που θα μπορούσε να προκαλέσει όλεθρο στο διαδίκτυο αν κυκλοφορούσε πολύ ευρέως — γι' αυτό, πριν από την απαγόρευση, μόνο περίπου 150 επιλεγμένες εταιρείες και κυβερνητικοί οργανισμοί είχαν πρόσβαση σε αυτό. Ο στόχος ήταν να βοηθηθούν οι υπερασπιστές να ασφαλίσουν το λογισμικό και τις υπηρεσίες τους πριν οι κακοί αποκτήσουν παρόμοιες δυνατότητες.
Τι πυροδότησε λοιπόν την απαγόρευση; Δύο γεγονότα, σύμφωνα με αναφορές. Πρώτον, η Anthropic έδωσε σε μια νοτιοκορεατική εταιρεία τηλεπικοινωνιών πρόσβαση στο Mythos μέσω του περιορισμένου προγράμματος συνεργατών της, και Αμερικανοί αξιωματούχοι ανησύχησαν όταν εντόπισαν την εταιρεία ως ύποπτη για δεσμούς με την Κίνα. (Η εταιρεία, που ευρέως αναφέρεται ως SK Telecom, έχει αρνηθεί οποιαδήποτε σύνδεση με την Κίνα.) Ο Διευθύνων Σύμβουλος της Amazon, Andy Jassy, φέρεται επίσης να ειδοποίησε την κυβέρνηση αφού οι ερευνητές της Amazon, όπως είπε, βρήκαν τρόπο να παρακάμψουν τις διασφαλίσεις του Fable 5. Η Anthropic αμφισβητεί τον χαρακτηρισμό «παραβίαση», αποκαλώντας το ένα στενό, ήδη διορθωμένο ζήτημα.
Το αποτέλεσμα ήταν το ίδιο: το Υπουργείο Εμπορίου εξέδωσε οδηγία ελέγχου εξαγωγών και η Anthropic αναγκάστηκε να περιορίσει άμεσα την πρόσβαση στα προϊόντα της — μέσα σε περίπου 90 λεπτά από την ειδοποίηση, σύμφωνα με ορισμένες πηγές.
Η ιστορία των αποτυχημένων ελέγχων εξαγωγών
Τίποτα από αυτά δεν είναι καινούργιο. Οι κυβερνήσεις προσπαθούν να χρησιμοποιήσουν ελέγχους εξαγωγών για να περιορίσουν τη διάδοση αυτού που θεωρούν επικίνδυνη κυβερνοτεχνολογία εδώ και δεκαετίες, αλλά το ιστορικό τους είναι στην καλύτερη περίπτωση μέτριο.
Η αμερικανική κυβέρνηση βρισκόταν πίσω από ίσως την πιο θεαματική αποτυχία αυτής της προσέγγισης στις αρχές έως τα μέσα της δεκαετίας του 1990. Εκείνη την εποχή, επιστήμονες υπολογιστών ανέπτυσσαν τεχνολογίες κρυπτογράφησης για την ασφάλεια δεδομένων καθώς ταξίδευαν μέσω διαδικτύου. Ένα από αυτά τα προϊόντα κρυπτογράφησης ήταν το Pretty Good Privacy, ή PGP, ένα δημοφιλές λογισμικό που μπορούσε να κρυπτογραφήσει δεδομένα και να τα καταστήσει ουσιαστικά αδύνατο να αποκρυπτογραφηθούν.
Η αμερικανική κυβέρνηση είδε αρχικά το PGP ως επικίνδυνο όπλο, φοβούμενη ότι θα εμπόδιζε τις υπηρεσίες πληροφοριών της να παρακολουθούν emails. Για να σταματήσει τη διανομή του PGP, το τελωνείο των ΗΠΑ άνοιξε ποινική έρευνα εναντίον του δημιουργού του, Phil Zimmermann, για φερόμενη παραβίαση ελέγχων εξαγωγής όπλων. Εκείνος απάντησε δημοσιεύοντας τον πηγαίο κώδικα του PGP ως τυπωμένο βιβλίο, πυροδοτώντας αυτό που είναι γνωστό σήμερα ως οι «Πόλεμοι Κρυπτογράφησης» (Crypto Wars).
Ο Zimmermann κέρδισε αργότερα μια κρίσιμη μάχη όταν η έρευνα έκλεισε, ανοίγοντας τον δρόμο για κρίσιμους αλγόριθμους κρυπτογράφησης από άκρο σε άκρο, όπως αυτόν που χρησιμοποιούν δισεκατομμύρια χρήστες των Signal και WhatsApp.
Η Συμφωνία Wassenaar και τα κενά της
Αργότερα, στις αρχές της δεκαετίας του 2010, ερευνητές άρχισαν να ανακαλύπτουν δυτικής κατασκευής λογισμικό κατασκοπείας που χρησιμοποιούνταν εναντίον αντιφρονούντων στη Μέση Ανατολή. Σε απάντηση, αρκετές κυβερνήσεις συμφώνησαν να επεκτείνουν τη Συμφωνία Wassenaar, μια διεθνή συνθήκη που περιορίζει την εξαγωγή λογισμικού και τεχνολογιών διπλής χρήσης.
Η ιδέα ήταν να ταξινομηθεί το λογισμικό παρακολούθησης και hacking ως διπλής χρήσης, αναγκάζοντας τους κατασκευαστές λογισμικού κατασκοπείας να λάβουν άδειες εξαγωγής για να πωλούν τα προϊόντα τους στο εξωτερικό.
Αλλά η Wassenaar είχε πάντα δύο εγγενείς αδυναμίες. Υπάρχουν αρκετές χώρες που δεν συμμετέχουν στη συμφωνία, συμπεριλαμβανομένου του Ισραήλ, όπου βρίσκονται μερικοί από τους πιο ενεργούς κατασκευαστές λογισμικού κατασκοπείας στον κόσμο. Η συμφωνία εξαρτάται επίσης από το κατά πόσον οι χώρες την εφαρμόζουν σε εταιρείες εντός των συνόρων τους κατά τη δική τους διακριτική ευχέρεια.
Για ένα διάστημα, η ιταλική κυβέρνηση επέτρεψε σε έναν από τους κορυφαίους κατασκευαστές λογισμικού κατασκοπείας της χώρας, την Hacking Team, άδεια να εξάγει τα εργαλεία της σε όλο τον κόσμο, παρά το ιστορικό της εταιρείας να πωλεί λογισμικό κατασκοπείας σε καταπιεστικές κυβερνήσεις που το χρησιμοποιούσαν για να παραβιάζουν δημοσιογράφους και ακτιβιστές ανθρωπίνων δικαιωμάτων.
Αρκετοί κατασκευαστές λογισμικού κατασκοπείας, όπως η Intellexa — ένα κυρωμένο κοινοπρακτικό δίκτυο εταιρειών λογισμικού κατασκοπείας — απλώς μετέφεραν τις δραστηριότητές τους σε χώρες με χαλαρούς ελέγχους εξαγωγών. Άλλοι προσπάθησαν να μεταφερθούν στη Σαουδική Αραβία για παρόμοιους λόγους.
Υπήρξαν και κάποιες επιτυχίες. Η γερμανική εταιρεία λογισμικού κατασκοπείας FinFisher έκλεισε το 2022 μετά από πολυετή έρευνα Γερμανών εισαγγελέων κατά της εταιρείας για φερόμενη πώληση λογισμικού κατασκοπείας στην Τουρκία χωρίς άδεια εξαγωγής.
Τι σημαίνει αυτό για την τεχνητή νοημοσύνη
Μέχρι τη στιγμή της γραφής, το αδιέξοδο μεταξύ της Anthropic και της κυβέρνησης Τραμπ παραμένει. Υπάρχει μια εύλογη πιθανότητα η κυβέρνηση να υποχωρήσει και να άρει τον περιορισμό προς όφελος της διατήρησης της ανταγωνιστικότητας των αμερικανικών εταιρειών τεχνητής νοημοσύνης παγκοσμίως — μια κίνηση που θα ισοδυναμούσε με σιωπηρή παραδοχή ότι εργαστήρια τεχνητής νοημοσύνης αλλού, συμπεριλαμβανομένης της Κίνας, θα φτάσουν πιθανότατα σε παρόμοιες δυνατότητες ανεξάρτητα από το τι περιορίζουν οι ΗΠΑ.
Εναλλακτικά, οι αμερικανικές εταιρείες τεχνητής νοημοσύνης θα μπορούσαν να καταλήξουν να χρειάζονται κυβερνητική έγκριση πριν εξυπηρετήσουν ξένους πελάτες — μια επιβάρυνση συμμόρφωσης που θα πλήξει αναπόφευκτα τα κέρδη τους.
Λαμβάνοντας υπόψη τις προηγούμενες εμπειρίες των παγκόσμιων κυβερνήσεων με την προσπάθεια ελέγχου της εμβέλειας του λογισμικού, οι κυβερνητικοί έλεγχοι εξαγωγών είναι απίθανο να αποτελέσουν τη σωστή προσέγγιση για να σταματήσουν κακόβουλους παράγοντες από το να κάνουν κατάχρηση ισχυρών κυβερνοτεχνολογιών διπλής χρήσης.