ΤΑ ΚΑΚΟΒΟΥΛΑ «ΣΜΗΝΗ» ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ
Το άρθρο από το Live Science που αναρτούμε προειδοποιεί για μια νέα, ανησυχητική εξέλιξη στην τεχνητή νοημοσύνη: τη δημιουργία «σμηνών AI» (AI swarms) που έχουν σχεδιαστεί για να χειραγωγούν τα μέσα κοινωνικής δικτύωσης με πρωτοφανή ακρίβεια.
1. Από τα Bots στα «Σμήνη»
Μέχρι τώρα, τα bots στα social media ήταν σχετικά εύκολο να εντοπιστούν λόγω της επαναλαμβανόμενης και συχνά άβολης συμπεριφοράς τους. Η νέα γενιά AI swarms, όμως, αποτελείται από πράκτορες που συντονίζονται μεταξύ τους, ανταλλάσσουν πληροφορίες και προσαρμόζουν τη στρατηγική τους σε πραγματικό χρόνο για να φαίνονται απόλυτα ανθρώπινοι.
2. Τακτικές Ψυχολογικού Πολέμου
Οι ερευνητές επισημαίνουν ότι αυτά τα συστήματα δεν διασπείρουν απλώς fake news. Οι βασικές τους μέθοδοι περιλαμβάνουν:
Μίμηση Ανθρώπινης Συμπεριφοράς: Δημιουργούν πειστικά προφίλ με ιστορικό, προσωπικές απόψεις και καθημερινή δραστηριότητα.
Στοχευμένη Παρενόχληση: Μπορούν να «επιτεθούν» ομαδικά σε συγκεκριμένους χρήστες για να τους φιμώσουν ή να τους δυσφημίσουν.
Διαμόρφωση Κοινής Γνώμης: Κατασκευάζουν μια ψευδή αίσθηση πλειοψηφίας (astroturfing), κάνοντας μια ακραία άποψη να φαίνεται ευρέως αποδεκτή.
3. Η Πρόκληση του Εντοπισμού
Λόγω της ικανότητάς τους να παράγουν μοναδικό περιεχόμενο (μέσω LLMs όπως το GPT-4), τα παραδοσιακά φίλτρα spam αποτυγχάνουν. Το άρθρο τονίζει ότι η ταχύτητα με την οποία εξελίσσονται αυτά τα σμήνη ξεπερνά τις αμυντικές ικανότητες των πλατφορμών (X, Facebook, κλπ.).
Συμπέρασμα: Οι ερευνητές κρούουν τον κώδωνα του κινδύνου για τη δημοκρατία και την ψηφιακή ασφάλεια, καθώς η διάκριση μεταξύ πραγματικού χρήστη και «AI πράκτορα» γίνεται σχεδόν αδύνατη.
«Σμήνη» τεχνητής νοημοσύνης επόμενης γενιάς θα εισβάλΛουν στα μέσα κοινωνικής δικτύωσης μιμούμενα την ανθρώπινη συμπεριφορά και παρενοχλώντας πραγματικούς χρήστες,...
Patrick Pester*/Πάτρικ Πέστερ
livescience.com
7–9 λεπτά
Μια εννοιολογική εικόνα ενός άνδρα που στέκεται μέσα σε ένα σύννεφο από αναρτήσεις και μηνύματα στα μέσα κοινωνικής δικτύωσης.
Οι χρήστες των μέσων κοινωνικής δικτύωσης θα μπορούσαν να παρασυρθούν από ένα κίνημα δημιουργίας τεχνητής νοημοσύνης. (Πίστωση εικόνας: Andriy Onufriyenko μέσω Getty Images)
Σμήνη πρακτόρων τεχνητής νοημοσύνης (AI) θα μπορούσαν σύντομα να εισβάλουν μαζικά στις πλατφόρμες κοινωνικής δικτύωσης για να διαδώσουν ψευδείς αφηγήσεις, να παρενοχλήσουν τους χρήστες και να υπονομεύσουν τη δημοκρατία, προειδοποιούν ερευνητές.
Αυτά τα «σμήνη τεχνητής νοημοσύνης» θα αποτελέσουν μέρος ενός νέου ορίου στον πόλεμο των πληροφοριών, ικανά να μιμούνται την ανθρώπινη συμπεριφορά για να αποφύγουν τον εντοπισμό, δημιουργώντας παράλληλα την ψευδαίσθηση ενός αυθεντικού διαδικτυακού κινήματος, βάσει σχολίου που δημοσιεύτηκε στις 22 Ιανουαρίου στο περιοδικό Science.
«Οι άνθρωποι, γενικά, είναι κομφορμιστές», δήλωσε στο Live Science ο συν-συγγραφέας του σχολίου Jonas Kunst, καθηγητής επικοινωνίας στη Norwegian Business School BI στη Νορβηγία. «Συχνά δεν θέλουμε να συμφωνήσουμε με αυτό, και οι άνθρωποι διαφέρουν σε κάποιο βαθμό, αλλά αν όλα τα πράγματα είναι ίδια, έχουμε την τάση να πιστεύουμε ότι αυτό που κάνουν οι περισσότεροι άνθρωποι έχει κάποια αξία. Αυτό είναι κάτι που μπορεί σχετικά εύκολα να καταληφθεί από αυτά τα σμήνη».
Και αν δεν παρασυρθείτε από το κοπάδι, το σμήνος θα μπορούσε επίσης να αποτελέσει εργαλείο παρενόχλησης για να αποθαρρύνει επιχειρήματα που υπονομεύουν την αφήγηση της Τεχνητής Νοημοσύνης, υποστήριξαν οι ερευνητές. Για παράδειγμα, το σμήνος θα μπορούσε να μιμηθεί ένα θυμωμένο όχλο για να στοχοποιήσει ένα άτομο με διαφωνίες και να το εκδιώξει από την πλατφόρμα.
Οι ερευνητές δεν δίνουν χρονοδιάγραμμα για την εισβολή σμηνών τεχνητής νοημοσύνης, επομένως δεν είναι σαφές πότε θα φτάσουν οι πρώτοι πράκτορες στις ροές μας. Ωστόσο, σημείωσαν ότι τα σμήνη θα είναι δύσκολο να εντοπιστούν και, ως εκ τούτου, ο βαθμός στον οποίο μπορεί να έχουν ήδη αναπτυχθεί είναι άγνωστος. Για πολλούς, τα σημάδια της αυξανόμενης επιρροής των bots στα μέσα κοινωνικής δικτύωσης είναι ήδη εμφανή, ενώ η θεωρία συνωμοσίας του διαδικτύου - ότι τα bots είναι υπεύθυνα για την πλειονότητα της διαδικτυακής δραστηριότητας και της δημιουργίας περιεχομένου - έχει κερδίσει έδαφος τα τελευταία χρόνια.
Η ποίμανση του ποιμνίου[........]
ΣΥΝΕΧΙΣΤΕ ΤΗΝ ΑΝΑΓΝΩΣΗ ΣΤΑ ΑΓΓΛΙΚΑ
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου