Μέχρι πριν από λίγες ημέρες, ο Τζέικομπ Κόξον ήταν ένας σχεδόν άγνωστος 27χρονος Βρετανός ερευνητής, ένας από τους εκατοντάδες ταλαντούχους μαθηματικούς που εργάζονται στα κορυφαία εργαστήρια τεχνητής νοημοσύνης της Σίλικον Βάλεϊ.

Η απόφασή του, ωστόσο, να παραιτηθεί από την Anthropic, προειδοποιώντας ότι η ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας, τον μετέτρεψε σε κεντρικό πρόσωπο μιας έντονης αντιπαράθεσης για το μέλλον της ΑΙ, στην οποία συμμετείχαν οι επικεφαλής των μεγαλύτερων εταιρειών τεχνολογίας, κυβερνητικοί αξιωματούχοι και ερευνητές από όλο τον κόσμο.

Ο ίδιος δηλώνει έκπληκτος από τις διαστάσεις που πήρε η παραίτησή του. Απορρίπτει, πάντως, τον χαρακτηρισμό του πληροφοριοδότη δημοσίου συμφέροντος (whistleblower), που του αποδίδουν τόσο υποστηρικτές όσο και επικριτές του. Δεν αποκάλυψε εταιρικά μυστικά, εξηγεί σε μεγάλο αφιέρωμα που έκανε για εκείνον η Wall Street Journal. Απλώς αποφάσισε να πει δημόσια όσα συζητούν μεταξύ τους οι ερευνητές της τεχνητής νοημοσύνης.

Από τις μαθηματικές ολυμπιάδες στην AI

Γιος καθηγητή μεσαιωνικής γερμανικής λογοτεχνίας, ο Κόξον μεγάλωσε στη Βρετανία και φοίτησε σε ένα από τα γνωστά ιδιωτικά σχολεία της Οξφόρδης. Εκεί ανακάλυψε το βιβλίο «Superintelligence: Paths, Dangers, Strategies» του φιλοσόφου Νικ Μπόστρομ, το οποίο τον έφερε για πρώτη φορά αντιμέτωπο με την ιδέα ότι μια υπερευφυής μηχανή θα μπορούσε να αποτελέσει υπαρξιακή απειλή για τον άνθρωπο.

Το 2016, παρακολούθησε το πρόγραμμα AlphaGo της Google DeepMind να επικρατεί ενός κορυφαίου παίκτη του επιτραπέζιου παιχνιδιού Go. Η επίδοση αυτή έδειξε ότι οι μηχανές μπορούσαν πλέον να κυριαρχήσουν σε δραστηριότητες που θεωρούνταν ότι απαιτούσαν ανθρώπινη διαίσθηση και δημιουργικότητα.

Παράλληλα, ο Κόξον διακρινόταν στα μαθηματικά. Επιλέχθηκε για την εθνική ομάδα της Βρετανίας στη Διεθνή Μαθηματική Ολυμπιάδα, κατακτώντας αργυρό μετάλλιο το 2016 και χάλκινο το 2017. Σε μια από εκείνες τις διοργανώσεις, στο Χονγκ Κονγκ, βρέθηκε μαζί με άλλους νεαρούς μαθηματικούς σε ένα McDonald's. Εμπνευσμένοι από έναν τύπο της θεωρίας αριθμών γνωστό ως «Θεώρημα των Chicken McNuggets» και χρησιμοποιώντας τα κουπόνια φαγητού που τους είχαν απομείνει, αγόρασαν εκατοντάδες κοτομπουκιές και συγκεντρώθηκαν γύρω από έναν πίνακα για να λύσουν ένα δύσκολο μαθηματικό πρόβλημα.

jacob-coxon-3.jpg

Ο Κόξον, δεξιά, με τη βρετανική ομάδα που συμμετείχε στη Διεθνή Μαθηματική Ολυμπιάδα το 2017

UK Maths Trust

Αρκετά από τα παιδιά εκείνης της παρέας θα γίνονταν αργότερα συνάδελφοί του σε εργαστήρια τεχνητής νοημοσύνης. Από τα έξι μέλη της βρετανικής ομάδας, τα τρία κατέληξαν να εργάζονται στον συγκεκριμένο τομέα. Ανάμεσά τους ήταν ο Τζο Μπέντον, ο οποίος επίσης αποχώρησε πρόσφατα από την Anthropic, προειδοποιώντας ότι οι εταιρείες κατασκευάζουν μηχανές πολύ εξυπνότερες από οποιονδήποτε άνθρωπο και ότι «μπορεί να μην επιβιώσουμε από αυτό».

Η καθοριστική συνάντηση με το GPT-3

Ο Κόξον σπούδασε μαθηματικά στο Κέιμπριτζ, συνεχίζοντας την ενασχόλησή του με την τεχνητή νοημοσύνη. Το 2020, όταν ολοκλήρωνε τις σπουδές του, η OpenAI παρουσίασε το GPT-3, αποδεικνύοντας ότι οι δυνατότητες των γλωσσικών μοντέλων μπορούσαν να αυξάνονται σημαντικά καθώς εκπαιδεύονταν με μεγαλύτερες ποσότητες δεδομένων.

«Το GPT-3 ήταν πραγματικά η στιγμή του "ουάου"», θυμάται.

Μετά το πανεπιστήμιο, ασχολήθηκε για λίγο με τις τιμές εμπορευμάτων, χρησιμοποιώντας στατιστικές αναλύσεις και μηχανική μάθηση για την πρόβλεψη των τιμών της ενέργειας. Ωστόσο, η τεχνητή νοημοσύνη παρέμενε για εκείνον το πιο συναρπαστικό πεδίο επιστημονικής και επαγγελματικής δραστηριότητας. Το 2023 μετακόμισε στο Σαν Φρανσίσκο και προσλήφθηκε στην OpenAI.

Τα πρώτα βήματα στη Σίλικον Βάλεϊ

Ο Κόξον εντάχθηκε στην OpenAI μέσω ενός εξάμηνου προγράμματος για ερευνητές χωρίς προηγούμενη επαγγελματική εμπειρία στην τεχνητή νοημοσύνη. Ειδικεύτηκε στην αρχική εκπαίδευση των μοντέλων, κατά την οποία τροφοδοτούνται με τεράστιες ποσότητες κειμένων, εικόνων και κώδικα. Ο πρώην συνάδελφός του Γουίλ Ντεπιού τον περιγράφει ως έναν συνηθισμένο ερευνητή, ο οποίος δεν ξεχώριζε για τον ακτιβισμό του σχετικά με την ασφάλεια της τεχνητής νοημοσύνης.

Στα τέλη του 2023 απέκτησε πρόσβαση στο Q*, ένα πρώιμο μοντέλο συλλογισμού της OpenAI, ικανό να αναλύει σύνθετα προβλήματα σε επιμέρους βήματα. Όταν του έδωσε ένα δύσκολο σταυρόλεξο, εντυπωσιάστηκε παρακολουθώντας τη διαδικασία με την οποία το σύστημα προσπαθούσε να το λύσει.

Με την πάροδο του χρόνου, πρόσεξε ότι μέλη της ομάδας ασφάλειας της OpenAI αποχώρησαν από την εταιρεία, μεταξύ των οποίων και ο Ντάνιελ Κοκοτάιλο, ο οποίος ίδρυσε μια ερευνητική ομάδα που προέβλεπε διαφορετικά σενάρια ανάπτυξης της τεχνητής νοημοσύνης.

Ο Κόξον ανησυχούσε για το ενδεχόμενο δημιουργίας μιας υπερευφυούς τεχνητής νοημοσύνης που θα ξεπερνούσε τις ανθρώπινες ικανότητες. Θεωρούσε, όμως, ότι οι κυβερνήσεις θα συντονίζονταν εγκαίρως για να επιβραδύνουν την ανάπτυξη της τεχνολογίας, εφόσον κάτι τέτοιο γινόταν αναγκαίο.

jacob-coxon-2.jpg

Όταν ο Ίλον Μασκ τον αμφισβήτησε μέσω του Χ, ο Κόξον απάντησε με μία φωτογραφία του και την ακόλουθη «μπηχτή»: «Είμαι υπαρκτό πρόσωπο και αυτές είναι οι πραγματικές μου πεποιθήσεις. Θα μπορούσες να ρωτήσεις τους ερευνητές της xAI για μένα, αν δεν τους είχες απολύσει»

Χ/@hilbertspaess

Εν τω μεταξύ, παρακολουθούσε την αξιοσημείωτη πρόοδο της τεχνητής νοημοσύνης στα μαθηματικά, καθώς τα μοντέλα εξελίσσονταν πολύ πιο γρήγορα από ό,τι είχε προβλέψει. Ξαφνικά, δεν δυσκολεύονταν πλέον με την αριθμητική. Το 2024, ένα μοντέλο της Google DeepMind είχε αρκετά καλή απόδοση στη Διεθνή Μαθηματική Ολυμπιάδα ώστε να κερδίσει ένα ασημένιο μετάλλιο. Το 2025, η DeepMind και η OpenAI κέρδισαν και οι δύο χρυσό.

Το 2026, όμως, ο Κόξον και μεγάλο μέρος της κοινότητας για την ασφάλεια της τεχνητής νοημοσύνης άρχισαν πραγματικά να πανικοβάλλονται.[............................]

Η μαθηματική ιδιοφυΐα που αποχώρησε από την Anthropic ...


CNN.gr