Επικίνδυνη Τεχνητή... Ανοησία στη συνταγογράφηση
Η υλοποίηση του «πιλοτικού» έργου όπως περιγράφεται στην απόφαση του υπουργού Υγείας θα τον καταστήσει υπόλογο για σοβαρή παραβίαση του ευρωπαϊκού Κώδικα Δεοντολογίας για την Τεχνητή Νοημοσύνη και συνεπάγεται τεράστιο κίνδυνο για κατάχρηση των ευαίσθητων ιατρικών δεδομένων | ΣΩΤΗΡΗΣ ΔΗΜΗΤΡΟΠΟΥΛΟΣ/EUROKINISSI
Το «κύμα» της τεχνητής νοημοσύνης θέλει να καβαλήσει ο υπουργός Υγείας, αδιαφορώντας για κανόνες και ευαίσθητα δεδομένα
Επικίνδυνη Τεχνητή... Ανοησία στη συνταγογράφηση
Η πιλοτική απορρόφηση 5,58 εκατ. ευρώ για την ανάπτυξη «έξυπνων» εφαρμογών στην ηλεκτρονική συνταγογράφηση, με άρωμα τεχνητής νοημοσύνης χωρίς καν τεχνική περιγραφή ή αναλυτικές απαιτήσεις, θυμίζει τα «ηρωικά» πρώτα χρόνια των κοινοτικών ενισχύσεων για τη «σύγκλιση» με την ΕΟΚ ● Η ανάπτυξη μηχανισμών αυτόματων αποφάσεων επί θεμάτων «ζωής ή θανάτου» παραβιάζει τον ευρωπαϊκό Κώδικα για την τεχνητή νοημοσύνη» (EU A.I. act).
Την ανάπτυξη μηχανισμού «...τεχνητής νοημοσύνης με εφαρμογή στην ηλεκτρονική συνταγογράφηση» προκρίνει ο υπουργός Υγείας, Σπυρίδων-Αδωνις Γεωργιάδης, εστιάζοντας κυρίως σε λειτουργίες και «μηχανισμούς» για την «ανάκτηση», «ανάλυση», «διακυβέρνηση», «διάθεση» των δεδομένων, καθώς και μια σειρά σχετικές συνοδευτικές υπηρεσίες. Κυρίαρχη στην υπουργική απόφαση (βλ. ΑΔΑ: ΨΥΨΦ465ΦΥΟ-ΥΧ3, με ημερομηνία 2 Απριλίου 2025) είναι η λέξη «δεδομένα» και για τον σκοπό αυτόν διαθέτει «πιλοτικά» 5,58 εκατ. ευρώ από το Εθνικό Πρόγραμμα Ανάπτυξης 2021-2025, με ημερομηνία λήξης της πράξης στις 30 Ιουνίου 2026, ενώ αφήνει παραθυράκια για παρατάσεις και πέραν του 18μήνου, αφού πρακτικά ο βασικός χρόνος αρκεί μόνο για... απορρόφηση κονδυλίων με βάση έτοιμες «βιβλιοθήκες» εφαρμογών και όχι για σοβαρή μελέτη και ανάπτυξη καινοτόμων εφαρμογών τεχνητής νοημοσύνης, η οποία μεταξύ άλλων απαιτεί «υπερυπολογιστές» και τεράστια κονδύλια για να μην κοροϊδευόμαστε και μεταξύ μας.
Παρότι τόσο ο τομέας των Τεχνολογιών Πληροφορικής και Επικοινωνιών όσο και αυτός της Τεχνητής Νοημοσύνης βασίζονται σε σαφείς μεθοδολογίες και διεθνείς πρακτικές, η συγκεκριμένη υπουργική απόφαση εμφανίζει σοβαρότατες ανεπάρκειες, σύμφωνα με την Ενωση Πληροφορικών Ελλάδας – τον κατεξοχήν αρμόδιο κλαδικό φορέα ικανό να διατυπώσει παρατηρήσεις ως εμπειρογνώμονας και στα δύο αντικείμενα με βάση το δημόσιο συμφέρον και το κοινωνικό όφελος από κάθε τέτοια δράση. Η Ένωση έχει ήδη απευθύνει συγκεκριμένα ερωτήματα προς τον υπουργό Υγείας από τις 7 Απριλίου, τα οποία παραμένουν αναπάντητα, γι’ αυτό και τα επαναφέρουμε δημόσια.
Για ένα τόσο μεγάλο και θεωρητικώς καινοτόμο τεχνικό έργο αξίας αρκετών εκατ. ευρώ, ο υπουργός αρκείται σε αόριστη περιγραφή μόλις 2,5 σελίδων και παρότι το κεντρικό αντικείμενο είναι η διαχείριση ευαίσθητων ιατρικών δεδομένων και η τεχνητή νοημοσύνη, σε κανένα από τα δύο δεν υπάρχει τεχνική περιγραφή των προδιαγραφών ή απαιτήσεων. Επιπλέον, δεν υπάρχει πουθενά τεχνική περιγραφή και κριτήρια αξιολόγησης των παραδοτέων, ούτε αναλυτική περιγραφή τι ακριβώς διερευνά-αξιολογεί ο συγκεκριμένος «πιλότος», ώστε σε δεύτερο στάδιο να υπάρξει σχετική απόφαση για κάτι, όπως συμβαίνει με κάθε «πιλοτικό» έργο (π.χ. την ανάπτυξη ενός μεγαλύτερου συστήματος με περαιτέρω λειτουργίες και δυνατότητες ή, αντίθετα, την τεκμηριωμένη απόρριψη μιας τέτοιας απόφασης).
Το «πιλοτικό» έργο θα υλοποιεί «συγκεκριμένες εφαρμογές τεχνητής νοημοσύνης οι οποίες θα οριστικοποιηθούν στη μελέτη εφαρμογής που θα εκπονηθεί και θα δύνανται να αφορούν ενδεικτικά τον εντοπισμό και την αποτροπή απάτης, τη διαχείριση ασθενών, τον αυτόματο έλεγχο ανάγκης συνταγογράφησης, έλεγχο πολυφαρμακίας, αυτόματες υπενθυμίσεις λήψης φαρμάκων κ.λπ.», δηλαδή όχι κάτι ιδιαίτερα «έξυπνο» –που θα μπορούσε να παραπέμπει και σε απλή διαχείριση ερωτημάτων στη βάση δεδομένων της ηλεκτρονικής συνταγογράφησης–, αλλά απολύτως παρεμβατικό και... παράνομο (εφόσον επιχειρεί να λανσαριστεί ως τεχνητή νοημοσύνη).
Κατά την πάγια (λανθασμένη) ελληνική πρακτική στο Δημόσιο, στο έγγραφο γίνεται μια πολύ γενική αναφορά μελέτης ελέγχου συμμόρφωσης ως προς τον ευρωπαϊκό Κώδικα για την τεχνητή νοημοσύνη, ενώ αγνοείται πλήρως το ζήτημα της συμμόρφωσης με τον εξίσου σημαντικό Κανονισμό για την προστασία των δεδομένων προσωπικού χαρακτήρα (GDPR) –το οποίο σε κάθε περίπτωση είναι υποχρεωτικό– και των ιδιαιτέρως ευαίσθητων ιατρικών δεδομένων, με μια γενική αναφορά (στο δεύτερο παραδοτέο) σε «μελέτη», όχι συγκεκριμένα σε σύμφωνο επεξεργασίας δεδομένων με νομική ισχύ-δέσμευση, συνεπώς καμία δέσμευση-πρόβλεψη ούτε για ορισμό DPO (Data Protection Officer) σύμφωνα με όσα απαιτούνται στον Γενικό Κανονισμό Προστασίας Δεδομένων. Οπως μπορείτε να υποψιαστείτε, δεν ορίζεται ούτε ο αποδέκτης-χρήσης των δεδομένων, δεν υπάρχει κανονισμός χρήσης των δεδομένων και των υπηρεσιών που θα αναπτυχθούν, ούτε καν αν πρόκειται για δημόσιο ή ιδιωτικό φορέα.
Φύκια για μεταξωτές κορδέλες
Το πιθανώς «χαμηλό IQ» της συγκεκριμένης υλοποίησης τεχνητής νοημοσύνης στην ηλεκτρονική συνταγογράφηση –πέρα από την «απορρόφηση» 5,58 εκατ. ευρώ– έχει και τα... θετικά του, αφού μια εφαρμογή για «αυτόματο έλεγχο ανάγκης συνταγογράφησης» ισοδυναμεί με... σοβαρή παραβίαση του ευρωπαϊκού Κώδικα για την τεχνητή νοημοσύνη (EU A.I. act), παράνομη σκιαγράφηση προφίλ (profiling) και χρήση ιατρικών δεδομένων χωρίς ρητή άδεια του υποκειμένου, δίνοντας σε μια μηχανή (αντί υποστήριξης σε επιτροπή γιατρών) τη δυνατότητα απόφασης επί θεμάτων «ζωής ή θανάτου» – δηλαδή αδιανόητα πράγματα.[..............................]
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου