Ποιος ελέγχει τον αλγόριθμο;
Λέξεις:
Μαρία Γουργούρη
parallaximag.gr
Καθημερινά ανοίγουμε το κινητό μας, διαβάζουμε ειδήσεις και βλέπουμε αναρτήσεις και βίντεο στα μέσα κοινωνικής δικτύωσης. Έχουμε την εντύπωση ότι εμείς επιλέγουμε την ενημέρωσή μας. Στην πραγματικότητα, όμως, ένας αλγόριθμος έχει ήδη αποφασίσει τι θα δούμε, ποιο βίντεο, ποια ανάρτηση και ποια είδηση θα εμφανιστεί πρώτη μπροστά μας. Ο τρόπος με τον οποίο το κάνει είναι απλός: βασίζεται στο ιστορικό μας, τι είδαμε, τι αγοράσαμε και ποια δημόσια πρόσωπα ακολουθούμε.
Η τεχνητή νοημοσύνη (ΤΝ) και οι αλγόριθμοι δεν είναι ουδέτεροι. Σχεδιάζονται από ανθρώπους και εταιρείες και εκπαιδεύονται συνήθως με δεδομένα που αντανακλούν κοινωνικές ανισότητες και προκαταλήψεις. Αποφασίζουν ποιο περιεχόμενο θα προβάλλεται περισσότερο και ποιο θα περιορίζεται. Συχνά ευνοούν ό,τι προκαλεί έντονες αντιδράσεις, ώστε να παραμένουμε περισσότερο χρόνο στην πλατφόρμα. Ακόμη και η επιλογή της είδησης που θα εμφανιστεί πρώτη μπορεί να έχει πολιτικές συνέπειες.
Η χρήση της ΤΝ επιτρέπει την παραγωγή και τη μαζική διάδοση εξατομικευμένου πολιτικού περιεχομένου. Κάθε πολίτης μπορεί έτσι να δέχεται διαφορετικό πολιτικό μήνυμα, γεγονός που ενισχύει την κοινωνική πόλωση. Οι πολιτικές διαφημίσεις προσαρμόζονται στους φόβους και στις αδυναμίες κάθε ομάδας. Η χειραγώγηση γίνεται, επομένως, εξατομικευμένη, αθόρυβη και δύσκολα ανιχνεύσιμη. Το πρόβλημα δεν είναι μόνο ότι μπορεί να διαδοθεί ένα ψέμα. Είναι ότι διαφορετικές ομάδες πολιτών μπορεί να βλέπουν εντελώς διαφορετικές εκδοχές της ίδιας πολιτικής πραγματικότητας.
Χαρακτηριστικά παραδείγματα πολιτικών deepfakes είναι:
Το πλαστό μήνυμα του Βολοντίμιρ Ζελένσκι, στο οποίο εμφανιζόταν να καλεί τους Ουκρανούς στρατιώτες να καταθέσουν τα όπλα. Το βίντεο διαψεύστηκε γρήγορα και αποδείχθηκε ότι ήταν προϊόν τεχνητής νοημοσύνης.
Η κατασκευασμένη συνομιλία στη Σλοβακία, δύο ημέρες πριν από τις εκλογές του 2023. Σε ηχητικό απόσπασμα, ο Μίχαλ Σίμετσκα, επικεφαλής της Προοδευτικής Σλοβακίας, φερόταν να συζητά με δημοσιογράφο τρόπους νοθείας των εκλογών. Η συνομιλία είχε κατασκευαστεί με ΤΝ και κυκλοφόρησε κατά την περίοδο της προεκλογικής σιωπής, όταν οι δυνατότητες άμεσης αντίδρασης και διάψευσης ήταν περιορισμένες.
Η ΤΝ δεν παράγει μόνο πειστικά ψέματα. Μπορεί να καταστήσει ευκολότερη και την αμφισβήτηση της αλήθειας.
Η τυπική ελευθερία επιλογής δεν αρκεί, όταν ο πολίτης δεν γνωρίζει γιατί βλέπει συγκεκριμένο περιεχόμενο, ποιος συλλέγει τα προσωπικά του δεδομένα και πώς αυτά χρησιμοποιούνται για την πρόβλεψη της εκλογικής και πολιτικής συμπεριφοράς του.
Η πραγματική ελευθερία προϋποθέτει γνώση, πρόσβαση στην πληροφορία και δυνατότητα συνειδητής επιλογής.
Η ΤΝ μπορεί πράγματι να ενισχύσει την πρόσβαση στη γνώση, τη συμμετοχή των πολιτών στα κοινά, την αποτελεσματικότητα της δημόσιας διοίκησης, τον εντοπισμό της παραπληροφόρησης και την επικοινωνία του κράτους με τον πολίτη. Το ερώτημα είναι ποιος τη χρησιμοποιεί και για ποιους σκοπούς.
Η τεχνολογική καινοτομία χρειάζεται θεσμικά αντίβαρα, ώστε να μην οδηγήσει σε ακόμη μεγαλύτερη συγκέντρωση εξουσίας.
Η τεχνητή νοημοσύνη δεν θα καταργήσει από μόνη της τη δημοκρατία. Μπορεί, όμως, να ενισχύσει την παραπληροφόρηση, τις ανισότητες και τον αυταρχισμό, εάν αφεθεί χωρίς δημοκρατικό έλεγχο. Το κρίσιμο ερώτημα δεν είναι αν οι μηχανές θα αποκτήσουν εξουσία πάνω στον άνθρωπο. Είναι ποιοι άνθρωποι θα αποκτήσουν περισσότερη εξουσία πάνω στους υπολοίπους μέσω των μηχανών.
Η δημοκρατία του μέλλοντος θα κριθεί, επομένως, όχι από το αν θα χρησιμοποιήσει την τεχνητή νοημοσύνη, αλλά από το αν θα κατορθώσει να την εντάξει στους κανόνες της διαφάνειας, της λογοδοσίας και της προστασίας της ανθρώπινης ελευθερίας. Γιατί πίσω από κάθε αλγόριθμο υπάρχει κάποιος που αποφασίζει. Και το θεμελιώδες δημοκρατικό ερώτημα παραμένει: ποιος ελέγχει εκείνον που ελέγχει τον αλγόριθμο;
*Η Μαρία Γουργούρη είναι Οικονομολόγος, Μέλος ΟΕΕ, BSc Διεθνών και Ευρωπαϊκών Οικονομικών Σπουδών Πανεπιστήμιο Δυτικής Μακεδονίας
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου