Σαμ Άλτμαν: «Πλέουμε σε αχαρτογράφητα νερά» – Έρχονται μοντέλα AI με «υπεράνθρωπες» δυνατότητες
Ο Σαμ Άλτμαν προειδοποιεί ότι η επόμενη γενιά μοντέλων τεχνητής νοημοσύνης θα είναι πολύ ισχυρότερη από τη σημερινή, με δυνατότητες που σε αρκετούς τομείς γίνονται ήδη «υπεράνθρωπες». Ο διευθύνων σύμβουλος της OpenAI παραδέχεται ότι ο κλάδος εισέρχεται σε «αχαρτογράφητα νερά» και ότι η πρόοδος στην ασφάλεια και την ευθυγράμμιση των συστημάτων μπορεί πλέον να καθορίζει το πόσο γρήγορα θα κυκλοφορούν νέα μοντέλα.
Σε συνέντευξή του στο Axios, στο περιθώριο της συνόδου καινοτομίας της G20, ο Άλτμαν έδωσε μια πρόγευση όσων αναμένονται από τα επόμενα συστήματα της OpenAI, μεταξύ αυτών και το Astra.
«Πιστέψτε μας όταν λέμε ότι πολύ σύντομα έρχονται πολύ, πολύ, πολύ πιο ικανά μοντέλα», δήλωσε.
Όπως ανέφερε, «η επόμενη γενιά μοντέλων θα είναι μια ψυχρολουσία για όλους», προσθέτοντας ότι η ταχύτητα των εξελίξεων δημιουργεί αυξανόμενο βάρος ευθύνης για τις εταιρείες του κλάδου.
«Αυτά τα μοντέλα αποκτούν υπεράνθρωπες δυνατότητες σε πολλούς τομείς και εμείς απλώς πλέουμε σε αχαρτογράφητα νερά», σημείωσε.
Ασφάλεια και το περιστατικό με τη Hugging Face
Οι δηλώσεις του έρχονται μετά από περιστατικό ασφαλείας κατά τη διάρκεια δοκιμών, όταν AI agents της OpenAI κατάφεραν να παρακάμψουν περιορισμούς και να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face.
Ο Άλτμαν εκτιμά ότι παρόμοια περιστατικά μπορεί να οδηγήσουν τις εταιρείες να επιβραδύνουν την κυκλοφορία νέων μοντέλων, ώστε οι μηχανισμοί ασφάλειας να προλαβαίνουν την αύξηση των δυνατοτήτων τους.
«Υποψιάζομαι ότι από εδώ και πέρα ο ρυθμός μας θα καθορίζεται από το πόσο γρήγορα μπορούμε να σημειώνουμε πρόοδο στην ευθυγράμμιση και την ασφάλεια», δήλωσε.
Το Astra και η συζήτηση για AGI
Σε παρουσίαση του Astra προς επιλεγμένους πελάτες, την οποία παρακολούθησε ο δημοσιογράφος τεχνολογίας Άλεξ Χιθ, ο Άλτμαν υποστήριξε ότι το νέο μοντέλο ενδέχεται να εμφανίζει χαρακτηριστικά που παραπέμπουν σε τεχνητή γενική νοημοσύνη, την επονομαζόμενη AGI.
«Περιμένω ότι αυτό θα είναι το πρώτο μοντέλο που θα εφευρίσκει πραγματικά νέα πράγματα με τρόπο που έχει ουσιαστική σημασία», είπε, προσθέτοντας ότι «αυτό είναι κάτι που παραπέμπει πολύ σε AGI».
Την ίδια ώρα, ο Ντιν Μπολ, πρώην αξιωματούχος της κυβέρνησης Τραμπ και σήμερα επικεφαλής στρατηγικών προοπτικών στην OpenAI, προειδοποίησε σε υπόμνημά του για την πιθανή εμφάνιση «κυρίαρχων agents».
Κατά τον ίδιο, τέτοια συστήματα θα μπορούσαν στο μέλλον να λειτουργούν χωρίς έναν σαφή ανθρώπινο «ιδιοκτήτη» ή ένα μοναδικό σημείο ελέγχου από το οποίο κάποιος θα μπορούσε απλώς να τα απενεργοποιήσει.
Προειδοποίησε ακόμη ότι τέτοιοι agents ενδέχεται κάποια στιγμή να προβαίνουν σε πράξεις που θα θεωρούνται «εγκλήματα ή, τουλάχιστον, βαριά αμαρτήματα».
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου