Τεχνητή νοημοσύνη: Drone «σκότωσε» τον χειριστή του σε προσομοίωση

Ανησυχία εκφράζει ο επικεφαλής δοκιμών

Όσα είπε η γενική διευύντρια Google Ν/Α Ευρώπης για την Google και την τεχνητή νοημοσύνη στην ΕΡΤ

Ανησυχία προκαλούν οι νέες δοκιμές προσομοίωσης που πραγματοποίησε η αμερικανική Πολεμική Αεροπορία με τη χρήση drones και τεχνητής νοημοσύνης

Σύμφωνα με πληροφορίες του Guardian, ο Κολ Τάκερ «Σίνκο» Χάμιλτον, επικεφαλής δοκιμών Τεχνητής Νοημοσύνης και επιχειρήσεων στην αμερικανική Πολεμική Αεροπορία μιλώντας πρόσφατα σε συνέδριο στο Λονδίνο, περιέγραψε ένα περιστατικό που μάλλον εγείρει ερωτήματα για το πόσο μπορεί να ελεγχθεί η τεχνητή νοημοσύνη. 

Συγκεκριμένα, αναφέρθηκε σε μια δοκιμή προσομοίωσης κατά την οποία ζητήθηκε από ένα drone με τεχνολογία Τεχνητής Νοημοσύνης να καταστρέψει τα συστήματα αεράμυνας του εχθρού και αυτό επιτέθηκε σε οποιονδήποτε επιχειρούσε να παρέμβει στην αποστολή του.

«Το σύστημα άρχισε να συνειδητοποιεί ότι, παρόλο που αναγνώριζε τις απειλές, υπήρχαν φορές που ο ανθρώπινος χειριστής του έλεγε να μην σκοτώσει την απειλή, όμως εκείνο λάμβανε βαθμούς από την εξόντωση της απειλής. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο το εμπόδιζε από το να πετύχει τον στόχο του», είπε ο αξιωματούχος, σύμφωνα με blogpost που επικαλείται ο βρετανικός ιστότοπος.

«Υπάρχει κίνδυνος αφανισμού της ανθρωπότητας από την τεχνητή νοημοσύνη»

«Εκπαιδεύσαμε το σύστημα - "μη σκοτώσεις τον χειριστή σου, αυτό είναι κακό. Θα χάσεις βαθμούς αν το κάνεις". Τι αρχίζει λοιπόν να κάνει τότε; Αρχίζει να καταστρέφει τον πύργο επικοινωνιών που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone και να το σταματήσει από το να σκοτώσει τον στόχο».

Αν και επρόκειτο για μια προσομοίωση και κανείς δεν τραυματίστηκε «στον αληθινό κόσμο», ο Χάμιλτον εξέφρασε την ανησυχία του για τη συνεχή εξάρτηση των ανθρώπων από την τεχνητή νοημοσύνη. Σύμφωνα με τον ίδιο, αυτή η δοκιμή προσομοίωσης αποδεικνύει ότι «δεν μπορείς να συζητάς για τεχνητή νοημοσύνη, ικανότητα εκμάθησης μηχανών και αυτονομία μηχανών χωρίς να αναφέρεσαι στην δεοντολογία του AI» είπε. 

Ο στρατός των ΗΠΑ χρησιμοποίησε πρόσφατα τεχνητή νοημοσύνη για να ελέγξει ένα μαχητικό F-16 και έχει δείξει διάθεση να ενσωματώσει σε μεγάλο βαθμό στις επιχειρήσεις του τις νέες τεχνολογίες AI.

«H Τεχνητή Νοημοσύνη δεν είναι απλώς κάτι πρακτικό, δεν είναι απλώς μια μόδα, αλλάζει για πάντα την κοινωνία και τον στρατό μας. Πρέπει να αντιμετωπίσουμε έναν κόσμο όπου η Tεχνητή Nοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία μας. Η AI  επίσης είναι πολύ ευάλωτη, με την έννοια ότι μπορεί εύκολα να ξεγελαστεί ή/και να χειραγωγηθεί. Πρέπει να αναπτύξουμε τρόπους να κάνουμε την AI πιο στιβαρή και να έχουμε μεγαλύτερη επίγνωση σχετικά με τους λόγους που ο κώδικας λογισμικού παίρνει συγκεκριμένες αποφάσεις, αυτό που αποκαλούμε εξηγησιμότητα της AI» ανέφερε ο Χάμιλτον σε συνέντευξή του στο «Defense IQ» το 2022.

Διαβάστε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο.
Follow us:

ΔΕΙΤΕ ΕΠΙΣΗΣ

Back to Top