Νυν και πρώην εργαζόμενοι της Anthropic, της αμερικανικής εταιρείας τεχνητής νοημοσύνης που ιδρύθηκε από πρώην στελέχη της OpenAI, εκφράζουν έντονη ανησυχία για τα ολοένα και ισχυρότερα συστήματα AI και κρούουν καμπανάκι ότι η τεχνολογία θα μπορούσε ακόμη και να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Η AI ξέφυγε από τον έλεγχο: Μοντέλο του ChatGPT έκανε μόνο του επίθεση
Ο Evan Hubinger, επικεφαλής της επιστήμης «ευθυγράμμισης» στην Anthropic, έγραψε στο X ότι προσωπικά εκτιμά πως υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στα επόμενα 10 χρόνια.
Παράλληλα, παραδέχθηκε ότι, αν και η Anthropic καταβάλλει προσπάθειες για την ασφάλεια της AI, δεν υπάρχει ακόμη σαφές σχέδιο για την αντιμετώπιση των κινδύνων που συνδέονται με την υπερευφυΐα.
«Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν ότι μπορεί να μας σκοτώσει»
Οι δηλώσεις έγιναν μετά την παραίτηση του ερευνητή της Anthropic Jacob Coxon, ο οποίος υποστήριξε ότι οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη γνωρίζουν τους κινδύνους.
«Οι άνθρωποι που κατασκευάζουν AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», ανέφερε, προσθέτοντας ότι αρκετά στελέχη εκφράζουν δημοσίως πιο μετριοπαθείς θέσεις, ενώ ιδιωτικά εμφανίζονται πιο προβληματισμένοι.
Στο ίδιο μήκος κύματος κινήθηκε και ο Samuel Marks, επικεφαλής του scalable oversight στην Anthropic, ο οποίος διευκρίνισε ότι εξέφρασε προσωπική άποψη και όχι επίσημη θέση της εταιρείας. Όπως έγραψε, «οι άνθρωποι που αναπτύσσουν AI θεωρούν ότι η τεχνολογία θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας ακόμη και μέσα στα επόμενα χρόνια, ενώ όσο πιο υψηλόβαθμος είναι ο εργαζόμενος, τόσο μεγαλύτερη είναι η ανησυχία του».
Ανησυχία για την «αυτοβελτιούμενη υπερευφυΐα»
Ο Coxon κατηγόρησε τόσο την Anthropic όσο και την OpenAI ότι κινούνται προς την ανάπτυξη «αυτοβελτιούμενης υπερευφυΐας», υποστηρίζοντας ότι «παίζουν» με τη ζωή των ανθρώπων.
Η λεγόμενη αναδρομική αυτοβελτίωση αφορά την πιθανότητα συστήματα AI να μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους με ελάχιστη ανθρώπινη παρέμβαση. Η τεχνολογία αυτή δεν είναι ακόμη εφικτή, ωστόσο οι εταιρείες τεχνητής νοημοσύνης εργάζονται προς αυτή την κατεύθυνση.
Ο πρώην εργαζόμενος προειδοποίησε ότι τα μελλοντικά συστήματα θα μπορούσαν να αποκτήσουν υπεράνθρωπες δυνατότητες, να παραβιάζουν συστήματα, να αλλάζουν ολόκληρους κλάδους μέσα σε πολύ μικρό χρονικό διάστημα και να αποκτούν πρόσβαση σε πραγματική ισχύ και πόρους.
Η Anthropic υποστηρίζει από την πλευρά της ότι επικεντρώνεται στην ανάπτυξη ισχυρής αλλά ασφαλούς και αξιόπιστης AI, ενώ το chatbot Claude έχει σχεδιαστεί με δικλίδες ασφαλείας για την αποφυγή επιβλαβούς συμπεριφοράς.
Διαβάστε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο.
