Ο Ντόναλντ Τραμπ ανακοίνωσε ότι κορυφαίες εταιρείες τεχνητής νοημοσύνης συμφώνησαν σε εθελοντικά πρότυπα για τον έλεγχο των frontier μοντέλων. Η συμφωνία βάζει τις ίδιες τις εταιρείες στο επίκεντρο της εποπτείας, την ώρα που η Ουάσιγκτον αναζητά τρόπο να περιορίσει τους κινδύνους χωρίς να επιβραδύνει την ανάπτυξη της τεχνολογίας.
Τι προβλέπει το νέο accord
Στη συνάντηση στον Λευκό Οίκο, ο Τραμπ και ο πρόεδρος της Βουλής των Αντιπροσώπων Μάικ Τζόνσον δήλωσαν ότι αρκετοί μεγάλοι παίκτες του κλάδου υπέγραψαν ένα εθελοντικό πλαίσιο αρχών. Το κείμενο περιγράφει προσδοκίες για τις εταιρείες που εκπαιδεύουν και αναπτύσσουν frontier μοντέλα, χωρίς να αποτελεί ομοσπονδιακό νόμο.
Ο Τζόνσον το παρουσίασε ως σύνολο προτύπων και δεσμεύσεων που οι εταιρείες αναλαμβάνουν οικειοθελώς. Ο Τραμπ, από την πλευρά του, το χαρακτήρισε «ηθικά δεσμευτικό» και υποστήριξε ότι οι επιχειρήσεις θα πρέπει να λογοδοτούν αν κάτι πάει στραβά.
Εσωτερικοί έλεγχοι και εξωτερικοί auditors
Σύμφωνα με τις πληροφορίες που παρουσίασε ο Axios, ο πυρήνας της συμφωνίας είναι η δημιουργία ισχυρών εσωτερικών διαδικασιών για την αξιολόγηση και τον έλεγχο των συστημάτων AI. Οι εταιρείες αναμένεται να εξετάζουν τους κινδύνους των μοντέλων τους και να εντοπίζουν προβλήματα πριν από την ανάπτυξή τους.
Ο Μαρκ Ζάκερμπεργκ αναφέρθηκε επίσης σε εξωτερικούς auditors και σε πολλαπλά επίπεδα ελέγχου. Η ιδέα είναι να μη βασίζεται η ασφάλεια μόνο στις ομάδες που κατασκευάζουν τα μοντέλα, αλλά να υπάρχει και ανεξάρτητη εξέταση των διαδικασιών και των αποτελεσμάτων τους.
Το κενό της επιβολής
Το μεγαλύτερο ερώτημα αφορά το τι συμβαίνει όταν μια εταιρεία δεν τηρεί τις δεσμεύσεις της. Οι πλήρεις λεπτομέρειες του accord δεν είχαν δημοσιοποιηθεί και το πεδίο εφαρμογής, όπως και οι μηχανισμοί επιβολής, παρέμεναν ασαφείς.
Αυτό είναι το βασικό μειονέκτημα της αυτορρύθμισης. Ένας εσωτερικός έλεγχος μπορεί να είναι χρήσιμος, αλλά δεν έχει την ίδια ισχύ με έναν δεσμευτικό κανόνα, έναν ανεξάρτητο εποπτικό φορέα ή μια σαφή διαδικασία κυρώσεων. Χωρίς διαφάνεια για τα κριτήρια, τα ευρήματα και τις διορθωτικές ενέργειες, το κοινό θα δυσκολεύεται να κρίνει αν οι δεσμεύσεις έχουν πραγματικό αποτέλεσμα.
Πηγές που μίλησαν στον Axios εξέφρασαν αμφιβολίες ότι η αυτοεποπτεία αρκεί για να λύσει τα προβλήματα ασφάλειας που αντιμετωπίζει ο κλάδος. Οι ανησυχίες αυτές γίνονται εντονότερες όσο τα μοντέλα αποκτούν μεγαλύτερη αυτονομία και χρησιμοποιούνται σε κρίσιμες υποδομές, κώδικα και κυβερνοασφάλεια.
Μια νέα ονομασία για την ίδια τεχνολογία
Ο Τραμπ ανακοίνωσε ακόμη ότι θέλει να αποκαλεί την τεχνητή νοημοσύνη «SI», από το super intelligence. Η αλλαγή ονομασίας δεν μεταβάλλει τις τεχνικές ή νομικές υποχρεώσεις των εταιρειών, αλλά δείχνει τον τρόπο με τον οποίο η κυβέρνηση θέλει να πλαισιώσει τη συζήτηση: ως ανταγωνισμό για την επόμενη γενιά πολύ ισχυρών συστημάτων.
Το αν η εθελοντική συμφωνία θα εξελιχθεί σε λειτουργικό μηχανισμό ασφάλειας θα εξαρτηθεί από τις λεπτομέρειες που δεν έχουν ακόμη ανακοινωθεί. Κρίσιμα θα είναι η ανεξαρτησία των ελέγχων, η δημοσίευση μετρήσιμων αποτελεσμάτων και η ύπαρξη συνεπειών όταν μια εταιρεία αποτυγχάνει να αντιμετωπίσει έναν γνωστό κίνδυνο.