Guardian: Ο κίνδυνος που διατρέχουμε από τα AI Overviews της Google
Μια έρευνα του Guardian αποκάλυψε ότι οι χρήστες κινδυνεύουν από ψευδείς ή παραπλανητικές ιατρικές πληροφορίες που εμφανίζονται στα AI Overviews της Google, τα οποία χρησιμοποιούν γενετική τεχνητή νοημοσύνη για να δίνουν σύντομες περιλήψεις θεμάτων ή ερωτήσεων.
Η Google υποστηρίζει ότι οι AI Overviews είναι «χρήσιμες» και «αξιόπιστες». Ωστόσο, αρκετές από τις περιλήψεις που εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης περιέχουν ανακριβείς πληροφορίες υγείας, θέτοντας τους ανθρώπους σε κίνδυνο.
Σε μια περίπτωση, η Google συμβούλευε λανθασμένα ασθενείς με καρκίνο του παγκρέατος να αποφεύγουν τροφές με υψηλή περιεκτικότητα σε λιπαρά – κάτι που οι ειδικοί χαρακτήρισαν «πολύ επικίνδυνο», καθώς η οδηγία ήταν αντίθετη με ό,τι συνιστάται και θα μπορούσε να αυξήσει τον κίνδυνο θανάτου των ασθενών.
Σε άλλο παράδειγμα, παραπλανητικές πληροφορίες δόθηκαν για βασικές εξετάσεις λειτουργίας του ήπατος, με αποτέλεσμα άτομα με σοβαρή ηπατική νόσο να πιστεύουν λανθασμένα ότι είναι υγιή. Οι αναζητήσεις για τεστ γυναικολογικών καρκίνων επίσης περιείχαν «απολύτως λανθασμένες» πληροφορίες, με ειδικούς να προειδοποιούν ότι μπορεί να οδηγήσουν σε παραμέληση πραγματικών συμπτωμάτων.
Αντιδράσεις ειδικών και φιλανθρωπικών οργανώσεων
Μιλώντας για το θέμα, η Sophie Randall, διευθύντρια του Patient Information Forum, υπογράμμισε ότι οι AI Overviews της Google μπορούν να εμφανίζουν λανθασμένες πληροφορίες υγείας στην κορυφή των αποτελεσμάτων αναζήτησης, θέτοντας σε κίνδυνο την ασφάλεια των χρηστών. Η Stephanie Parker, υπεύθυνη ψηφιακών υπηρεσιών στο Marie Curie, τόνισε: «Οι άνθρωποι στρέφονται στο διαδίκτυο σε στιγμές άγχους και κρίσης. Αν οι πληροφορίες είναι ανακριβείς ή εκτός πλαισίου, μπορεί να βλάψουν σοβαρά την υγεία τους».
Η έρευνα του Guardian αποκάλυψε περιπτώσεις παραπλανητικών πληροφοριών μετά από καταγγελίες ομάδων υγείας, φιλανθρωπικών οργανώσεων και επαγγελματιών του χώρου. Η Anna Jewell, διευθύντρια του Pancreatic Cancer UK, χαρακτήρισε «εντελώς λανθασμένη» τη συμβουλή αποφυγής λιπαρών τροφών, τονίζοντας ότι μπορεί να θέσει σε κίνδυνο την ικανότητα των ασθενών να ακολουθήσουν θεραπεία ή χειρουργική επέμβαση.
Παράλληλα, η αναζήτηση για «φυσιολογικές τιμές εξετάσεων ήπατος» έδινε παραπλανητικά στοιχεία χωρίς να λαμβάνονται υπόψη παράγοντες όπως ηλικία, φύλο ή εθνικότητα, με την Pamela Healy του British Liver Trust να επισημαίνει ότι οι ασθενείς μπορεί να θεωρήσουν λανθασμένα ότι είναι υγιείς και να παραλείψουν κρίσιμους ελέγχους.
Λανθασμένες πληροφορίες δόθηκαν και για τις εξετάσεις γυναικολογικού καρκίνου, με τον Athena Lamnisos, διευθύντρια της Eve Appeal, να εξηγεί ότι μια αναφορά σε τεστ Παπανικολάου ως εξέταση για καρκίνο του κόλπου ήταν «απολύτως λανθασμένη» και θα μπορούσε να οδηγήσει σε μη έλεγχο συμπτωμάτων. Σημείωσε επίσης ότι τα αποτελέσματα των AI Overviews άλλαζαν σε διαφορετικές αναζητήσεις, προσφέροντας διαφορετικές απαντήσεις ανάλογα με την ώρα και τις πηγές που χρησιμοποιούνταν.
Προβλήματα και ψυχική υγεία
Οι AI Overviews έδωσαν επίσης παραπλανητικά στοιχεία για ψυχικές διαταραχές όπως ψύχωση και διατροφικές διαταραχές, παρέχοντας «πολύ επικίνδυνες» συμβουλές που θα μπορούσαν να αποτρέψουν ανθρώπους από την αναζήτηση βοήθειας, σύμφωνα με τον Stephen Buckley της Mind.
Η Google απάντησε ότι οι περισσότερες AI Overviews είναι ακριβείς και χρήσιμες, ότι βελτιώνει συνεχώς την ποιότητα και ότι η αξιοπιστία τους είναι συγκρίσιμη με άλλα χαρακτηριστικά αναζήτησης, όπως τα featured snippets. Η εταιρεία δήλωσε επίσης ότι όταν τα AI Overviews παρερμηνεύουν περιεχόμενο ή χάνουν το πλαίσιο, λαμβάνονται κατάλληλα μέτρα σύμφωνα με τις πολιτικές της.
Ένας εκπρόσωπος της Google τόνισε: «Επενδύουμε σημαντικά στην ποιότητα των AI Overviews, ιδιαίτερα σε θέματα υγείας, και η συντριπτική πλειονότητα παρέχει ακριβείς πληροφορίες».
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου