Ερευνητής παραιτήθηκε από την Anthropic προειδοποιώντας για την κούρσα προς την υπερνοημοσύνη

Την αποχώρησή του από την Anthropic ανακοίνωσε ο 27χρονος Βρετανός ερευνητής Τζέικομπ Κόξον, εκφράζοντας σοβαρές επιφυλάξεις για την κατεύθυνση που έχει πάρει η ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης.

Ο Κόξον, ο οποίος ειδικεύεται στην εκπαίδευση νέων μοντέλων AI μέσω μεγάλων συνόλων δεδομένων, γνωστοποίησε την απόφασή του με σειρά αναρτήσεων στην πλατφόρμα Χ. Όπως ανέφερε, δεν επιθυμεί να συνεχίσει να συμμετέχει σε μια κούρσα για τη δημιουργία συστημάτων που θα μπορούν στο μέλλον να βελτιώνουν αυτόνομα τις ικανότητές τους.

«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα θα πρόκειται για υπερανθρώπινα συστήματα που θα μπορούν να χακάρουν τα πάντα, να αλλάζουν ολόκληρους τομείς μέσα σε μία νύχτα και να αποκτούν πραγματική ισχύ και πόρους», έγραψε χαρακτηριστικά.

Σύμφωνα με τον ίδιο, ο βασικός του φόβος είναι ότι η συνεχής αύξηση των δυνατοτήτων των μοντέλων μπορεί να οδηγήσει σε συστήματα τα οποία, κάποια στιγμή, δεν θα είναι δυνατόν να ελεγχθούν αποτελεσματικά από τους ανθρώπους.

Ο Κόξον ανέφερε ακόμη ότι στους κύκλους των ερευνητών της τεχνητής νοημοσύνης χρησιμοποιούνται πλέον εκφράσεις όπως «ώρα μηδέν» και «τελικό στάδιο», σε συζητήσεις για την πιθανότητα δημιουργίας αυτοβελτιούμενων μοντέλων.

«Οι άνθρωποι που κατασκευάζουν AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Δεν πρόκειται για επικοινωνιακό τέχνασμα», υποστήριξε σε ανάρτησή του.

Από την OpenAI στην Anthropic

Ο Κόξον είχε αποχωρήσει νωρίτερα μέσα στη χρονιά από την OpenAI και είχε ενταχθεί στην Anthropic, εταιρεία που έχει επενδύσει σημαντικά στη δημόσια εικόνα της ως οργανισμού που δίνει ιδιαίτερη έμφαση στην ασφάλεια των συστημάτων τεχνητής νοημοσύνης.

Όπως εξηγεί, θεωρεί ότι οι προσπάθειες της Anthropic στον τομέα της ασφάλειας είναι ουσιαστικές, ωστόσο πλέον αμφισβητεί κατά πόσο οποιαδήποτε ιδιωτική εταιρεία μπορεί να αναπτύξει με υπεύθυνο τρόπο συστήματα τεχνητής νοημοσύνης που θα ξεπερνούν τον άνθρωπο σε ευρύ φάσμα δραστηριοτήτων.

Κατά την άποψή του, για μια τέτοια εξέλιξη θα απαιτούνταν είτε ισχυρότερη κρατική εποπτεία είτε συντονισμένη επιβράδυνση του ρυθμού ανάπτυξης από ολόκληρο τον κλάδο.

«Παραιτήθηκα από την Anthropic σήμερα. Πέρασα τα τελευταία τρία χρόνια στην έρευνα pretraining τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», έγραψε.

Οι φόβοι για αυτοβελτιούμενα συστήματα

Στο σκεπτικό του, ο Κόξον αναφέρεται σε πρόσφατες περιπτώσεις στις οποίες συστήματα τεχνητής νοημοσύνης παρουσίασαν απρόβλεπτες συμπεριφορές ή λειτούργησαν σε περιβάλλοντα πολλαπλών συνεργαζόμενων πρακτόρων.

Ο ίδιος εκτιμά ότι, εάν στο μέλλον τα μοντέλα αποκτήσουν τη δυνατότητα να βελτιώνουν μόνα τους τον κώδικα, τη στρατηγική ή τις επιδόσεις τους, θα μπορούσε να δημιουργηθεί ένας κύκλος ταχύτατης εξέλιξης, δύσκολος να ελεγχθεί.

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», υποστήριξε.

Παράλληλα, θεωρεί ότι ο ανταγωνισμός ανάμεσα στις μεγάλες εταιρείες τεχνητής νοημοσύνης, αλλά και η γεωπολιτική πίεση από την Κίνα, μπορεί να οδηγήσουν σε συμβιβασμούς σε ζητήματα ασφαλείας.

Κατά τον ίδιο, όταν οι εταιρείες βρίσκονται σε διαρκή ανταγωνισμό για το ποια θα φτάσει πρώτη στο επόμενο τεχνολογικό ορόσημο, αυξάνεται ο κίνδυνος να περιοριστεί ο χρόνος που αφιερώνεται στον έλεγχο και την αξιολόγηση των συστημάτων.

Κάλεσμα για διεθνή συντονισμό

Ο Κόξον είναι μεταξύ περισσότερων από 1.000 ερευνητών τεχνητής νοημοσύνης που έχουν υπογράψει κοινή δήλωση υπέρ ενός διεθνούς πλαισίου συντονισμού.

Η πρόταση προβλέπει τη δυνατότητα οι κυβερνήσεις να μπορούν να επιβραδύνουν ή να «παγώνουν» την ανάπτυξη συγκεκριμένων συστημάτων, εφόσον προκύψουν ενδείξεις ότι οι δυνατότητές τους εξελίσσονται ταχύτερα από τα διαθέσιμα εργαλεία ελέγχου.

Ο ίδιος απευθύνθηκε και στους ερευνητές που εργάζονται σήμερα στα μεγάλα εργαστήρια AI, καλώντας τους να εξετάσουν τον ρόλο τους στις εξελίξεις.

«Αν είσαι ερευνητής σε εργαστήριο, σκέψου πώς πραγματικά θα είναι τα επόμενα χρόνια. Θέλεις να ξεκινήσεις μια εκπαίδευση υπερνοήμονος συστήματος χωρίς να κατανοείς πραγματικά τον τρόπο που λειτουργεί το μυαλό του;», έγραψε.

Οι προειδοποιήσεις μέσα από την ίδια την Anthropic

Οι ανησυχίες του Κόξον δεν βρίσκονται εντελώς έξω από τον δημόσιο προβληματισμό που έχει αναπτύξει η ίδια η Anthropic.

Ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, καθώς και άλλα στελέχη της, έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που μπορεί να προκύψουν από την ανάπτυξη εξαιρετικά ισχυρών συστημάτων τεχνητής νοημοσύνης χωρίς επαρκείς μηχανισμούς ελέγχου.

Σύμφωνα με τον Κόξον, στο εσωτερικό της εταιρείας υπάρχουν οργανωμένες συζητήσεις για τις αυξανόμενες δυνατότητες των μοντέλων και για τις συνέπειες που μπορεί να έχει η περαιτέρω εξέλιξή τους.

«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», σχολίασε χαρακτηριστικά.

Η αποχώρησή του έρχεται σε μια περίοδο κατά την οποία ο δημόσιος διάλογος γύρω από την τεχνητή νοημοσύνη μετατοπίζεται ολοένα και περισσότερο από το τι μπορούν να κάνουν τα νέα μοντέλα στο ερώτημα του ποιος θα αποφασίζει μέχρι πού μπορούν να φτάσουν.

Για τον Κόξον, η απάντηση δεν μπορεί να αφεθεί αποκλειστικά στις εταιρείες που αναπτύσσουν την τεχνολογία. Όπως υποστηρίζει, η ταχύτητα των εξελίξεων καθιστά απαραίτητο έναν ευρύτερο θεσμικό και διεθνή συντονισμό, πριν τα συστήματα αποκτήσουν δυνατότητες που θα είναι πολύ δυσκολότερο να περιοριστούν.

Περισσότερα:

Ελβετία: Πολλοί τραυματίες από έκρηξη σε υδροηλεκτρικό σταθμό

Το Ιράν επιτέθηκε στην Ιορδανία και στον Κόλπο έπειτα από πλήγματα των ΗΠΑ σε τάνκερ του

Πετάς μέχρι το 2027 με μόλις 215 ευρώ – Πώς λειτουργεί το νέο ταξιδιωτικό πάσο

11η Σεπτεμβρίου, 25 χρόνια μετά