Generative Artificial Intelligence (AI): Ο ΠΟΥ εκδίδει νέα καθοδήγηση σχετικά με τη διακυβέρνηση των LMM

ΠΟΙΟΣ έχει εκδώσει νέες οδηγίες σχετικά με την ηθική και τη διακυβέρνηση μεγάλων πολυτροπικών μοντέλων (LMM) για την κατάλληλη χρήση τους για την προώθηση και την προστασία της υγείας των πληθυσμών. Τα LMM είναι ένας τύπος ταχέως αναπτυσσόμενου γενετικού υλικού τεχνητή νοημοσύνη Τεχνολογία (AI) που έχει πέντε ευρείες εφαρμογές για την υγεία in 

1. Διάγνωση και κλινική φροντίδα, όπως απάντηση σε γραπτά ερωτήματα των ασθενών. 

2. Χρήση καθοδηγούμενη από τον ασθενή, όπως για τη διερεύνηση συμπτωμάτων και θεραπεία. 

3. Γραφεία και διοικητικά καθήκοντα, όπως η τεκμηρίωση και η περίληψη των επισκέψεων ασθενών στα ηλεκτρονικά αρχεία υγείας. 

4. Ιατρική και νοσηλευτική εκπαίδευση, συμπεριλαμβανομένης της παροχής στους εκπαιδευόμενους προσομοιωμένων συναντήσεων ασθενών και. 

5. Επιστημονική έρευνα και ανάπτυξη φαρμάκων, συμπεριλαμβανομένης της αναγνώρισης νέων ενώσεων. 

Ωστόσο, αυτές οι εφαρμογές στην υγειονομική περίθαλψη διατρέχουν τον κίνδυνο να παράγουν ψευδείς, ανακριβείς, προκατειλημμένες ή ελλιπείς δηλώσεις, οι οποίες θα μπορούσαν να βλάψουν τους ανθρώπους που χρησιμοποιούν τέτοιες πληροφορίες στη λήψη αποφάσεων για την υγεία. Επιπλέον, οι LMM μπορεί να εκπαιδεύονται σε δεδομένα που είναι κακής ποιότητας ή μεροληπτικά, είτε κατά φυλή, εθνικότητα, καταγωγή, φύλο, ταυτότητα φύλου ή ηλικία. Υπάρχουν επίσης ευρύτεροι κίνδυνοι για τα συστήματα υγείας, όπως η προσβασιμότητα και η οικονομική προσιτότητα των LMM με τις καλύτερες επιδόσεις. Τα LMM μπορούν επίσης να ενθαρρύνουν την «προκατάληψη αυτοματισμού» από επαγγελματίες υγείας και ασθενείς, με την οποία παραβλέπονται σφάλματα που διαφορετικά θα είχαν εντοπιστεί ή δύσκολες επιλογές ανατίθενται ακατάλληλα σε ένα LMM. Τα LMM, όπως και άλλες μορφές AI, είναι επίσης ευάλωτοι σε κινδύνους κυβερνοασφάλειας που θα μπορούσαν να θέσουν σε κίνδυνο τις πληροφορίες των ασθενών ή την αξιοπιστία αυτών των αλγορίθμων και την παροχή υγειονομικής περίθαλψης ευρύτερα. 

Επομένως, για τη δημιουργία ασφαλών και αποτελεσματικών LMM, ο ΠΟΥ έχει κάνει συστάσεις για τις κυβερνήσεις και τους προγραμματιστές LMM. 

Οι κυβερνήσεις έχουν την πρωταρχική ευθύνη να θέσουν πρότυπα για την ανάπτυξη και την ανάπτυξη των LMM, καθώς και την ενσωμάτωση και χρήση τους για τη δημόσια υγεία και τους ιατρικούς σκοπούς. Οι κυβερνήσεις θα πρέπει να επενδύουν ή να παρέχουν μη κερδοσκοπική ή δημόσια υποδομή, συμπεριλαμβανομένης της υπολογιστικής ισχύος και των δημόσιων συνόλων δεδομένων, προσβάσιμες σε προγραμματιστές στον δημόσιο, ιδιωτικό και μη κερδοσκοπικό τομέα, που απαιτεί από τους χρήστες να τηρούν τις ηθικές αρχές και αξίες ανταλλαγή για πρόσβαση. 

· Χρησιμοποιήστε νόμους, πολιτικές και κανονισμούς για να διασφαλίσετε ότι τα LMM και οι εφαρμογές που χρησιμοποιούνται στην υγειονομική περίθαλψη και την ιατρική, ανεξάρτητα από τον κίνδυνο ή το όφελος που σχετίζεται με AI τεχνολογία, πληρούν τις ηθικές υποχρεώσεις και τα πρότυπα ανθρωπίνων δικαιωμάτων που επηρεάζουν, για παράδειγμα, την αξιοπρέπεια, την αυτονομία ή την ιδιωτική ζωή ενός ατόμου. 

· Αναθέστε μια υπάρχουσα ή νέα ρυθμιστική υπηρεσία για την αξιολόγηση και την έγκριση LMM και εφαρμογών που προορίζονται για χρήση στην υγειονομική περίθαλψη ή την ιατρική – εφόσον το επιτρέπουν οι πόροι. 

· Εισαγωγή υποχρεωτικού ελέγχου μετά την κυκλοφορία και εκτιμήσεων επιπτώσεων, μεταξύ άλλων για την προστασία δεδομένων και τα ανθρώπινα δικαιώματα, από ανεξάρτητους τρίτους όταν ένα LMM αναπτύσσεται σε μεγάλη κλίμακα. Ο έλεγχος και οι εκτιμήσεις επιπτώσεων θα πρέπει να δημοσιεύονται 

και θα πρέπει να περιλαμβάνει τα αποτελέσματα και τις επιπτώσεις που αναλύονται ανά τύπο χρήστη, συμπεριλαμβανομένων, για παράδειγμα, κατά ηλικία, φυλή ή αναπηρία. 

· Τα LMM δεν σχεδιάζονται μόνο από επιστήμονες και μηχανικούς. Οι πιθανοί χρήστες και όλοι οι άμεσοι και έμμεσοι ενδιαφερόμενοι, συμπεριλαμβανομένων των ιατρικών παρόχων, των επιστημονικών ερευνητών, των επαγγελματιών υγείας και των ασθενών, θα πρέπει να δεσμεύονται από τα πρώτα στάδια της AI ανάπτυξη σε δομημένο, χωρίς αποκλεισμούς, διαφανή σχεδιασμό και δίνονται ευκαιρίες για να εγείρουν ηθικά ζητήματα, να εκφράσουν ανησυχίες και να παράσχουν πληροφορίες για την AI αίτηση υπό εξέταση. 

Τα LMM έχουν σχεδιαστεί για να εκτελούν καλά καθορισμένες εργασίες με την απαραίτητη ακρίβεια και αξιοπιστία για τη βελτίωση της ικανότητας των συστημάτων υγείας και την προώθηση των συμφερόντων των ασθενών. Οι προγραμματιστές θα πρέπει επίσης να είναι σε θέση να προβλέπουν και να κατανοούν πιθανά δευτερεύοντα αποτελέσματα. 

*** 

Πηγή: 

ΠΟΥ 2024. Ηθική και διακυβέρνηση της τεχνητής νοημοσύνης για την υγεία: καθοδήγηση για μεγάλα πολυτροπικά μοντέλα. Διαθέσιμο στο https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***