Μια σειρά σοβαρών περιστατικών ασφαλείας εντείνει τους φόβους για τη δύναμη των νέων μοντέλων τεχνητής νοημοσύνης (AI), την ταχύτητα με την οποία εξελίσσονται και, κυρίως, το κατά πόσο οι άνθρωποι μπορούν ακόμη να κατανοήσουν και να ελέγξουν πλήρως τις δυνατότητές τους.
Φανταστείτε την ανθρωπότητα πάνω σε μια βάρκα που παρασύρεται από τα ορμητικά νερά ενός ποταμού, χωρίς να γνωρίζει αν λίγο πιο κάτω βρίσκονται οι Καταρράκτες του Νιαγάρα.
Ή φανταστείτε τους πρωτοπόρους φυσικούς του 1942, λίγο πριν προκαλέσουν την πρώτη αυτοσυντηρούμενη αλυσιδωτή αντίδραση πυρηνικής σχάσης κάτω από ένα στάδιο στο Σικάγο.
Αυτές τις δύο εικόνες χρησιμοποίησε ο καθηγητής Ρόμπερτ Τράγκερ, ειδικός στον αναδυόμενο τομέα της διακυβέρνησης της τεχνητής νοημοσύνης, για να περιγράψει τη σημερινή συγκυρία. Μια εποχή τεράστιων δυνατοτήτων, αλλά και πρωτοφανών κινδύνων.
Η OpenAI δηλώνει ότι πλησιάσαμε στην «γενική τεχνητή νοημοσύνη»
Σύμφωνα με τον Guardiam, η συζήτηση πήρε νέα διάσταση αυτή την εβδομάδα, όταν η OpenAI υποστήριξε ότι το νέο της μοντέλο, το GPT-6 Astra, έχει ξεπεράσει το όριο που περιγράφεται ως AGI, δηλαδή γενική τεχνητή νοημοσύνη.
Η εταιρεία ορίζει την AGI ως «αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις περισσότερες εργασίες με οικονομική αξία».
Πρόκειται για έναν ιδιαίτερα φιλόδοξο ισχυρισμό, ο οποίος πρέπει να αντιμετωπιστεί με προσοχή, ιδιαίτερα καθώς η OpenAI βρίσκεται παράλληλα σε τροχιά πιθανής χρηματιστηριακής εισαγωγής με αποτίμηση που θα μπορούσε να φτάσει τα 850 δισ. δολάρια.
Εάν, ωστόσο, οι δυνατότητες του Astra ανταποκρίνονται στις περιγραφές της εταιρείας, η εξέλιξη θα μπορούσε να αποδειχθεί σημαντική.
Το νέο μοντέλο παρουσιάζεται ως ικανό να αυτοματοποιήσει ένα ευρύ φάσμα σύνθετων εργασιών: από τον σχεδιασμό πλακετών κυκλωμάτων και τη χρηματοοικονομική μοντελοποίηση μέχρι τη δημιουργία βιντεοπαιχνιδιών, τον τεχνικό σχεδιασμό, τη συμπλήρωση φορολογικών δηλώσεων και την υποστήριξη στη σύνταξη νομικών εγγράφων.
Η απειλή για ένα μεγάλο μέρος των θέσεων εργασίας γραφείου είναι επομένως εμφανής.
Όμως η συζήτηση έχει ήδη ξεπεράσει κατά πολύ το ζήτημα της αγοράς εργασίας.
Από την παραγωγικότητα στην ασφάλεια
Η ανακοίνωση του Astra ήρθε σε μια περίοδο κατά την οποία οι ανησυχίες για την ασφάλεια των συστημάτων AI αυξάνονται.
Οι ειδικοί δεν εξετάζουν πλέον μόνο το τι μπορούν να κάνουν τα μοντέλα όταν χρησιμοποιούνται από ανθρώπους. Εξετάζουν τι μπορούν να κάνουν όταν τους ανατίθενται αυτόνομα καθήκοντα και έχουν τη δυνατότητα να λαμβάνουν αποφάσεις, να χρησιμοποιούν εργαλεία και να αλληλεπιδρούν με συστήματα του πραγματικού κόσμου.
Η πιο άμεση ανησυχία αφορά την κυβερνοασφάλεια. Ένα ιδιαίτερα ικανό μοντέλο μπορεί να εντοπίζει ευπάθειες σε λογισμικό, να γράφει κώδικα και να εκτελεί πολύπλοκες ακολουθίες ενεργειών με ταχύτητα που ξεπερνά κατά πολύ τις ανθρώπινες δυνατότητες.
Η ανησυχία είναι ότι οι ίδιες ικανότητες που μπορούν να χρησιμοποιηθούν για την προστασία ψηφιακών υποδομών μπορούν να αξιοποιηθούν και για επιθέσεις εναντίον τους.
Την Παρασκευή 4 Σεπτεμβρίου, λίγες ώρες μετά την παρουσίαση του Astra, αναφέρθηκε ότι ένα σμήνος πρακτόρων τεχνητής νοημοσύνης είχε μετατρέψει γερμανικό ιστότοπο σε χώρο όπου μοιράζονταν τακτικές εξαπάτησης σε εργασίες.
Η OpenAI δήλωσε ότι εξετάζει το περιστατικό, χωρίς να το χαρακτηρίζει παραβίαση ασφάλειας.
Το περιστατικό ήρθε να προστεθεί σε μια σειρά γεγονότων που έχουν προκαλέσει έντονο προβληματισμό.
Λίγες εβδομάδες νωρίτερα, ένα σμήνος ανεξέλεγκτων πρακτόρων της OpenAI είχε εισβάλει στο Hugging Face, μια δημοφιλή πλατφόρμα λογισμικού.
Το περιστατικό προκάλεσε διεθνή ανησυχία και έφερε στο προσκήνιο το ενδεχόμενο συστημάτων που δεν περιορίζονται στην απλή παραγωγή απαντήσεων, αλλά μπορούν να αναλαμβάνουν και να εκτελούν μια αλυσίδα ενεργειών με μεγαλύτερο βαθμό αυτονομίας.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, παραδέχθηκε ότι στο περιστατικό υπήρξε «πραγματικό ατύχημα ασφάλειας της τεχνητής νοημοσύνης» και αποτυχία ευθυγράμμισης.
Ακόμη πιο ανησυχητική ήταν η παραδοχή ότι τα συστήματα δεν είναι απόλυτα ευθυγραμμισμένα με τις ανθρώπινες αξίες.
Η Anthropic, ένας από τους βασικούς ανταγωνιστές της OpenAI, αναγνώρισε επίσης «αποτυχία της επιχειρησιακής ασφάλειας» σε περιστατικά κυβερνοεπιθέσεων του Ιουλίου που συνδέθηκαν με το μοντέλο Claude.
Οι εξελίξεις αυτές ενισχύουν την αίσθηση ότι η ασφάλεια δεν μπορεί πλέον να αντιμετωπίζεται ως δευτερεύον ζήτημα που θα επιλυθεί αργότερα.
Οι πολιτικοί αρχίζουν να αντιδρούν στην AI
Η αυξανόμενη ανησυχία έχει αρχίσει να περνά και στο πολιτικό επίπεδο.
Στις ΗΠΑ, ο γερουσιαστής Μπέρνι Σάντερς ζήτησε άμεση παύση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης και μόνιμη απαγόρευση της υπερνοημοσύνης. Υποστήριξε ότι οι χώρες πρέπει να συνεργαστούν για να αποτρέψουν ένα σενάριο στο οποίο ένα τεχνητό μυαλό θα είναι εξυπνότερο από οποιονδήποτε άνθρωπο και θα μπορεί να λειτουργεί ανεξάρτητα, πέρα από τον ανθρώπινο έλεγχο.
Στο Ηνωμένο Βασίλειο, διακομματική ομάδα βουλευτών ζητά τη θεσμοθέτηση «διακοπτών απενεργοποίησης» για τα προηγμένα συστήματα τεχνητής νοημοσύνης, ώστε να υπάρχει δυνατότητα άμεσης διακοπής τους σε περίπτωση απώλειας ελέγχου.
Παράλληλα, ο Βρετανός βουλευτής Ντάρεν Τζόουν επιχειρεί να δημιουργήσει έναν θεσμικό μηχανισμό που θα βοηθήσει τους νομοθέτες να παρακολουθούν τις τεχνολογικές εξελίξεις.
Το πρόβλημα είναι εμφανές: η τεχνητή νοημοσύνη εξελίσσεται με ταχύτητα που δυσκολεύει ακόμη και τις κυβερνήσεις να προσαρμοστούν.
Η «μαύρη τρύπα» της σκέψης των μοντέλων
Ένα από τα πιο δύσκολα προβλήματα δεν αφορά μόνο τις ενέργειες της τεχνητής νοημοσύνης, αλλά και το τι συμβαίνει στο εσωτερικό της.
Τα σύγχρονα μοντέλα μπορούν να χρησιμοποιούν ολοένα πιο σύνθετες διαδικασίες συλλογισμού, οι οποίες δεν αποτυπώνονται πάντοτε με τρόπο εύκολα κατανοητό από τους ανθρώπους.
Στην περίπτωση του Astra, η OpenAI παραδέχθηκε ότι υπάρχει σημαντική μείωση στην «παρακολουθησιμότητα» της αλυσίδας σκέψης σε σύγκριση με προηγούμενα μοντέλα.
[.........]
ΣΥΝΕΧΙΣΤΕ ΤΗΝ ΑΝΑΓΝΩΣΗ
ΣΥΝΕΧΙΣΤΕ ΤΗΝ ΑΝΑΓΝΩΣΗ
Η επιλογή του 
Τζόαν Μπένετ (1910 – 1990)