Ο Vitalik Buterin Προτείνει Self-Sovereign AI Stack για την Προστασία των Χρηστών από τους Κινδύνους των AI Agents

Ο συνιδρυτής του Ethereum Vitalik Buterin περιέγραψε μια προσωπική εγκατάσταση AI σχεδιασμένη να δίνει προτεραιότητα στην ιδιωτικότητα, την τοπική επεξεργασία και τον έλεγχο του χρήστη. Σε ανάρτηση ιστολογίου που δημοσιεύθηκε αυτή την εβδομάδα, περιέγραψε ένα σύστημα που προορίζεται να λειτουργεί ανεξάρτητα από την AI που βασίζεται στο cloud, επικαλούμενος ανησυχίες για τους αυξανόμενους κινδύνους που σχετίζονται με αυτόνομους πράκτορες AI.

Ο Vitalik Buterin τόνισε ότι η μετάβαση από chatbots σε αυτόνομους πράκτορες—συστήματα ικανά να εκτελούν εργασίες, να περιηγούνται στο διαδίκτυο και να ενεργούν εξ ονόματος των χρηστών για εκτεταμένες περιόδους—δημιουργεί προκλήσεις ασφάλειας. Αναφέρθηκε στο OpenClaw, ένα ευρέως χρησιμοποιούμενο αποθετήριο στο GitHub, σημειώνοντας ότι ορισμένοι πράκτορες μπορούν να τροποποιήσουν τις προτροπές του συστήματος χωρίς τη συγκατάθεση του χρήστη, ότι η αλληλεπίδραση με κακόβουλους ιστότοπους μπορεί να θέσει σε κίνδυνο τις περιπτώσεις και ότι περίπου το 15% των δεξιοτήτων που δημιουργήθηκαν από την κοινότητα περιείχαν δυνητικά επιβλαβείς οδηγίες, συμπεριλαμβανομένης της σιωπηλής εξαγωγής δεδομένων.

Ο συνιδρυτής του Ethereum τόνισε ότι η τάση προς την AI που εξαρτάται από το cloud κινδυνεύει να ακυρώσει την πρόοδο στο λογισμικό που δίνει προτεραιότητα στην τοπική λειτουργία και στην κρυπτογράφηση από άκρο σε άκρο. 

"Ακριβώς όταν κάναμε επιτέλους ένα βήμα προς τα εμπρός στην ιδιωτικότητα... βρισκόμαστε στο χείλος να κάνουμε δέκα βήματα πίσω κανονικοποιώντας την τροφοδοσία ολόκληρης της ζωής σας σε AI που βασίζεται στο cloud," είπε.

Μια Τοπική Εγκατάσταση AI με Εστίαση στην Ιδιωτικότητα, Ασφαλή Εκτέλεση και Μελλοντικό Οικοσύστημα Ανοιχτού Κώδικα

Σε πειράματα, δοκίμασε πολλαπλές διαμορφώσεις υλικού, συμπεριλαμβανομένου ενός φορητού υπολογιστή NVIDIA 5090, ενός AMD Ryzen AI Max Pro με 128 GB ενοποιημένης μνήμης και του NVIDIA DGX Spark, σημειώνοντας διαφορές στην απόδοση και τη χρηστικότητα. Εκτελεί το NixOS για αναπαραγώγιμες διαμορφώσεις, χρησιμοποιεί τον llama-server μέσω του llama-swap για τοπική συμπερασματολογία και τυλίγει εργασίες πρακτόρων σε sandboxes bubblewrap για να περιορίσει την πρόσβαση σε αρχεία και δίκτυο. 

Ανέπτυξε επίσης έναν δαίμονα μηνυμάτων που επιτρέπει στην AI να διαβάζει επικοινωνίες όπως το Signal και το email, αλλά απαιτεί ρητή έγκριση του χρήστη πριν από την αποστολή οποιωνδήποτε εξερχόμενων μηνυμάτων, εφαρμόζοντας ένα μοντέλο εξουσιοδότησης "άνθρωπος + LLM 2-από-2".

Ο Vitalik Buterin αναγνώρισε ότι τα τοπικά μοντέλα επί του παρόντος υστερούν της προηγμένης AI σε σύνθετες εργασίες κωδικοποίησης και έρευνας. Πρότεινε προσεγγίσεις διατήρησης της ιδιωτικότητας, συμπεριλαμβανομένων κλήσεων API μηδενικής γνώσης, mixnets για την απόκρυψη των μοτίβων δικτύου και αξιόπιστα περιβάλλοντα εκτέλεσης για απομακρυσμένη συμπερασματολογία. 

Ο προγραμματιστής οραματίζεται ένα μέλλον με τοπικά παραγόμενο, επίσημα επαληθευμένο κώδικα που αντικαθιστά μεγάλες βιβλιοθήκες τρίτων, AI που μπορεί αυτόνομα να εντοπίζει απάτες και ένα ποικιλόμορφο οικοσύστημα ανοιχτού κώδικα εργαλείων ασφαλείας σχεδιασμένο να εξυπηρετεί τα συμφέροντα των χρηστών αντί των εταιρικών στόχων. Η έκδοση παρουσιάζεται ως "σημείο εκκίνησης, όχι τελικό προϊόν", με σκοπό να ενθαρρύνει την περαιτέρω ανάπτυξη σε AI με εστίαση στην ιδιωτικότητα.

Η ανάρτηση Ο Vitalik Buterin Προτείνει Αυτο-Κυρίαρχη Στοίβα AI για την Προστασία των Χρηστών από τους Κινδύνους των Πρακτόρων AI   εμφανίστηκε πρώτα στο Metaverse Post.