Τεχνολογία αναγνώρισης προσώπου / «Βαφτίζει» τυχαίους πελάτες καταστημάτων ως κλέφτες!
Πελάτες σε γνωστά καταστήματα λιανεμπορίου της Βρετανίας καταγγέλλουν ότι στιγματίστηκαν δημόσια και απομακρύνθηκαν όταν συστήματα αναγνώρισης προσώπου τους ταύτισαν λανθασμένα με δράστες κλοπών – χωρίς στη συνέχεια να τους δοθεί ουσιαστική δυνατότητα να υπερασπιστούν τον εαυτό τους ή να αποκαταστήσουν το όνομά τους, τονίζει η βρετανική εφημερίδα The Guardian, αναφέροντας μάλιστα ενδεικτικές περιπτώσεις.
Η υπόθεση του 67χρονου Ίαν Κλέιτον από το Τσέστερ είναι ενδεικτική. Κατά τη διάρκεια μιας σύντομης επίσκεψης σε κατάστημα της αλυσίδας Home Bargains, βρέθηκε αντιμέτωπος με υπάλληλο που του ζήτησε να αφήσει τα ψώνια του και να αποχωρήσει άμεσα.
Μόνο καθώς τον οδηγούσαν προς την έξοδο ενημερώθηκε ότι το σύστημα Facewatch τον είχε καταγράψει ως «ύποπτο για κλοπή». Του επιδείχθηκε σχετική ειδοποίηση, ενώ του δόθηκε ένας κωδικός QR χωρίς καμία περαιτέρω εξήγηση.
Ο Κλέιτον είναι ένας από τους πολίτες που απευθύνθηκαν στην Guardian, περιγράφοντας πώς βρέθηκαν στο στόχαστρο της τεχνολογίας που εφαρμόζεται όλο και περισσότερο σε εμπορικά καταστήματα για την καταπολέμηση της εγκληματικότητας στο λιανεμπόριο.
Η εταιρεία υποστηρίζει ότι το σύστημά της έχει ακρίβεια 99,98% και ότι μόνο τον τελευταίο μήνα απέστειλε πάνω από 50.000 ειδοποιήσεις για «γνωστούς παραβάτες» σε μεγάλες αλυσίδες όπως B&M, Sports Direct, Spar και άλλες.
Ωστόσο, όσοι ταυτοποιήθηκαν λανθασμένα κάνουν λόγο για πλήρη έλλειψη
υποστήριξης και αδυναμία να κατανοήσουν πώς μπορούν να υποβάλουν ένσταση
ή να αποδείξουν την αθωότητά τους.
«Ένιωσα σαν να είμαι ένοχος χωρίς αποδείξεις»
Ο Κλέιτον ανέφερε ότι, μετά την απομάκρυνσή του από το κατάστημα, προσπάθησε να επικοινωνήσει με την εταιρεία μέσω τηλεφώνου που αναγραφόταν σε αφίσα, αλλά ενημερώθηκε ότι δεν εξυπηρετούν τηλεφωνικά αιτήματα και έπρεπε να στείλει email.
Τελικά, μόνο μέσω επίσημου αιτήματος πρόσβασης στα προσωπικά του δεδομένα κατάφερε να μάθει ότι είχε συνδεθεί λανθασμένα με περιστατικό κλοπής σε προηγούμενη επίσκεψή του.
«Ήταν σαν να θεωρούμαι ένοχος μέχρι να αποδείξω το αντίθετο. Είναι ένα απαίσιο συναίσθημα», δήλωσε, προσθέτοντας ότι η εμπειρία τον έκανε να νιώθει πως παρακολουθείται διαρκώς.
Το κατάστημα τού προσέφερε τελικά αποζημίωση 100 λιρών υπό τον όρο να μην δημοσιοποιήσει την υπόθεση – πρόταση που ο ίδιος απέρριψε.
Ανησυχίες για διακρίσεις και δικαιώματα
Οι αντιδράσεις εντείνονται καθώς η χρήση της αναγνώρισης προσώπου επεκτείνεται τόσο στον ιδιωτικό όσο και στον δημόσιο τομέα.
Σύμφωνα με στοιχεία του βρετανικού Υπουργείου Εσωτερικών, τα συστήματα αυτά εμφανίζουν υψηλότερα ποσοστά σφαλμάτων σε γυναίκες και άτομα «μη λευκής καταγωγής», όπως γράφει η εφημερίδα.
Ο Γουόρεν Ράτζα, ειδικός σε θέματα δεδομένων από το Λονδίνο,
περιέγραψε παρόμοια εμπειρία σε κατάστημα της αλυσίδας σουπερμάρκετ
Sainsbury’s, 
όπου του ζητήθηκε να αποχωρήσει επειδή θεωρήθηκε ύποπτος
από το σύστημα. Όπως τόνισε, «πρόκειται για ζήτημα πολιτικών
δικαιωμάτων», επισημαίνοντας ότι τέτοιες πρακτικές μπορούν να πλήξουν
δυσανάλογα ευάλωτες ομάδες.
Τελικά διαπιστώθηκε ότι δεν υπήρχε καμία καταχώριση εις βάρος του στο σύστημα και επρόκειτο για ανθρώπινο λάθος. Ωστόσο, η εμπειρία τον άφησε με σοβαρές ανησυχίες για τη διαχείριση των προσωπικών δεδομένων και την απουσία σαφούς μηχανισμού προσφυγής.
Δημόσια ταπείνωση και φόβος
Ανάλογη ήταν και η εμπειρία της Τζένι Σάντερς από το Μπέρμιγχαμ, η
οποία απομακρύνθηκε από κατάστημα της B&M αφού ενημερώθηκε ότι το
σύστημα την είχε «σημάνει». Όπως είπε, ένιωσε ντροπή μπροστά σε άλλους
πελάτες και αργότερα φόβο ότι θα αντιμετωπίζεται ως ύποπτη σε κάθε
κατάστημα.
Για να αποδείξει την αθωότητά της, της ζητήθηκε να αποστείλει αντίγραφο του διαβατηρίου της. Στη συνέχεια ενημερώθηκε ότι είχε καταγραφεί για κλοπή που – όπως υποστηρίζει – δεν συνέβη ποτέ. Το κατάστημα δεν διέθετε πλέον αποδεικτικά στοιχεία, όπως βίντεο, και η ίδια διαγράφηκε από τη βάση δεδομένων, λαμβάνοντας ως αποζημίωση κουπόνι 25 λιρών.
Ελλιπής εποπτεία και αργές διαδικασίες
Οι εποπτικές αρχές στο Ηνωμένο Βασίλειο προειδοποιούν ότι η ραγδαία εξάπλωση της τεχνολογίας δεν συνοδεύεται από επαρκή έλεγχο.
Η Information Commissioner’s Office αναγνωρίζει τις επιπτώσεις των λανθασμένων ταυτοποιήσεων, τονίζοντας ότι η χρήση τέτοιων συστημάτων πρέπει να γίνεται με αυστηρή τήρηση των κανόνων προστασίας δεδομένων.
Ωστόσο, καταγγελίες πολιτών παραμένουν για μήνες χωρίς απάντηση, ενώ πολλοί δηλώνουν ότι δεν γνωρίζουν καν τη διαδικασία υποβολής παραπόνων.
Η θέση των εταιρειών
Η Facewatch υποστηρίζει ότι τα περιστατικά αυτά οφείλονται σε ανθρώπινα λάθη κατά την εφαρμογή των διαδικασιών και όχι σε αδυναμίες της τεχνολογίας, επισημαίνοντας ότι πρόκειται για εξαιρετικά σπάνιες περιπτώσεις σε σχέση με τις εκατοντάδες χιλιάδες ειδοποιήσεις που αποστέλλονται ετησίως.
Από την πλευρά της, η Sainsbury’s παραδέχθηκε το λάθος στην περίπτωση του Ράτζα, αποδίδοντάς το σε λανθασμένη αναγνώριση από προσωπικό του καταστήματος και διαβεβαιώνοντας ότι έχουν ληφθεί μέτρα για την αποφυγή παρόμοιων περιστατικών.
Παρά τις διαβεβαιώσεις, τα περιστατικά αυτά αναδεικνύουν τα σοβαρά ερωτήματα που εγείρονται γύρω από τη χρήση της τεχνητής νοημοσύνης στην καθημερινότητα – και κυρίως το πώς προστατεύονται τα δικαιώματα των πολιτών όταν η τεχνολογία κάνει λάθος.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου