Ο ΠΟΥ ζητά ασφαλή και ηθική τεχνητή νοημοσύνη για την υγεία

Ο Παγκόσμιος Οργανισμός Υγείας (ΠΟΥ) καλεί να επιδεικνύεται προσοχή στη χρήση εργαλείων μεγάλων γλωσσικών μοντέλων (LLM) που δημιουργούνται από τεχνητή νοημοσύνη (AI) για την προστασία και την προώθηση της ανθρώπινης ευημερίας, της ανθρώπινης ασφάλειας και της αυτονομίας και τη διατήρηση της δημόσιας υγείας.

Τα LLM περιλαμβάνουν μερικές από τις πιο ταχέως αναπτυσσόμενες πλατφόρμες όπως οι ChatGPT, Bard, Bert και πολλές άλλες που μιμούνται την κατανόηση, την επεξεργασία και την παραγωγή ανθρώπινης επικοινωνίας. Η μετέωρη δημόσια διάχυσή τους και η αυξανόμενη πειραματική χρήση τους για σκοπούς που σχετίζονται με την υγεία δημιουργεί σημαντικό ενθουσιασμό γύρω από τη δυνατότητα υποστήριξης των αναγκών υγείας των ανθρώπων.

Είναι επιτακτική ανάγκη να εξετάζονται προσεκτικά οι κίνδυνοι κατά τη χρήση LLM για τη βελτίωση της πρόσβασης σε πληροφορίες υγείας, ως εργαλείο υποστήριξης αποφάσεων, ή ακόμα και για την ενίσχυση της διαγνωστικής ικανότητας σε περιβάλλοντα που δεν διαθέτουν πόρους για την προστασία της υγείας των ανθρώπων και τη μείωση της ανισότητας.

Ενώ ο ΠΟΥ είναι ενθουσιασμένος με την κατάλληλη χρήση τεχνολογιών, συμπεριλαμβανομένων των LLMs, για την υποστήριξη επαγγελματιών υγείας, ασθενών, ερευνητών και επιστημόνων, υπάρχει ανησυχία ότι η προσοχή που κανονικά θα ασκούνταν για οποιαδήποτε νέα τεχνολογία δεν ασκείται με συνέπεια με τα LLM. Αυτό περιλαμβάνει την ευρεία τήρηση των βασικών αξιών της διαφάνειας, της ένταξης, της δημόσιας συμμετοχής, της εποπτείας από εμπειρογνώμονες και της αυστηρής αξιολόγησης.

Η απότομη υιοθέτηση μη δοκιμασμένων συστημάτων θα μπορούσε να οδηγήσει σε σφάλματα από τους εργαζόμενους στον τομέα της υγειονομικής περίθαλψης, να προκαλέσει βλάβη στους ασθενείς, να διαβρώσει την εμπιστοσύνη στην τεχνητή νοημοσύνη και ως εκ τούτου να υπονομεύσει (ή να καθυστερήσει) τα πιθανά μακροπρόθεσμα οφέλη και χρήσεις τέτοιων τεχνολογιών σε όλο τον κόσμο.

Οι ανησυχίες που απαιτούν αυστηρή εποπτεία που απαιτείται για τη χρήση των τεχνολογιών με ασφαλείς, αποτελεσματικούς και ηθικούς τρόπους περιλαμβάνουν:

τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση της τεχνητής νοημοσύνης μπορεί να είναι προκατειλημμένα, δημιουργώντας παραπλανητικές ή ανακριβείς πληροφορίες που θα μπορούσαν να θέτουν κινδύνους για την υγεία, την ισότητα και τη συμπερίληψη·
Τα LLM δημιουργούν απαντήσεις που μπορεί να φαίνονται έγκυρες και εύλογες σε έναν τελικό χρήστη. Ωστόσο, αυτές οι απαντήσεις μπορεί να είναι εντελώς λανθασμένες ή να περιέχουν σοβαρά σφάλματα, ειδικά για απαντήσεις που σχετίζονται με την υγεία.
Οι LLMs ενδέχεται να εκπαιδεύονται σε δεδομένα για τα οποία ενδέχεται να μην έχει δοθεί προηγουμένως συναίνεση για τέτοια χρήση και τα LLM ενδέχεται να μην προστατεύουν ευαίσθητα δεδομένα (συμπεριλαμβανομένων των δεδομένων υγείας) που ένας χρήστης παρέχει σε μια εφαρμογή για τη δημιουργία απάντησης.
Τα LLM μπορούν να χρησιμοποιηθούν καταχρηστικά για τη δημιουργία και τη διάδοση εξαιρετικά πειστικής παραπληροφόρησης με τη μορφή περιεχομένου κειμένου, ήχου ή βίντεο που είναι δύσκολο για το κοινό να διαφοροποιηθεί από το αξιόπιστο περιεχόμενο υγείας. και
ενώ δεσμεύεται να αξιοποιήσει νέες τεχνολογίες, συμπεριλαμβανομένης της τεχνητής νοημοσύνης και της ψηφιακής υγείας για τη βελτίωση της ανθρώπινης υγείας, ο ΠΟΥ συνιστά στους υπεύθυνους χάραξης πολιτικής να διασφαλίζουν την ασφάλεια και την προστασία των ασθενών, ενώ οι εταιρείες τεχνολογίας εργάζονται για την εμπορευματοποίηση των LLM.
Ο ΠΟΥ προτείνει να αντιμετωπιστούν αυτές οι ανησυχίες και να μετρηθούν σαφείς αποδείξεις οφέλους πριν από την ευρεία χρήση τους στη συνήθη υγειονομική περίθαλψη και την ιατρική – είτε από άτομα, παρόχους φροντίδας ή διαχειριστές συστημάτων υγείας και διαμορφωτές πολιτικής.

Ο ΠΟΥ επαναλαμβάνει τη σημασία της εφαρμογής των ηθικών αρχών και της κατάλληλης διακυβέρνησης, όπως απαριθμούνται στην καθοδήγηση του ΠΟΥ για την ηθική και τη διακυβέρνηση της τεχνητής νοημοσύνης για την υγεία, κατά το σχεδιασμό, την ανάπτυξη και την ανάπτυξη της τεχνητής νοημοσύνης για την υγεία. Οι 6 βασικές αρχές που προσδιορίζονται από τον ΠΟΥ είναι: (1) προστασία της αυτονομίας. (2) προώθηση της ανθρώπινης ευημερίας, της ανθρώπινης ασφάλειας και του δημόσιου συμφέροντος· (3) εξασφάλιση της διαφάνειας, της επεξήγησης και της ευκρίνειας· (4) ενίσχυση της υπευθυνότητας και της λογοδοσίας. (5) εξασφάλιση της ενσωμάτωσης και της ισότητας. (6) προωθήστε την τεχνητή νοημοσύνη που ανταποκρίνεται και είναι βιώσιμη.

Εφημερεύοντα

Ημερολόγιο Εκδηλώσεων

cropped-Nutritionandhealth-cyprus-favicon.png

Ελάτε στην παρέα του nutritionandhealth.care και θα έχετε την ευκαιρία ενημέρωσης μέσω του Newsletter που θα λαμβάνετε μέσω email κάθε Παρασκευή.

Περισσότερα
Άρθρα

Shopping Basket