Explainable AI στην Ιατρική
ΑΦΙΕΡΩΜΑ - Η Νέα Εποχή στην Ιατρική
του ΚΩΝΣΤΑΝΤΙΝΟΥ Π. ΠΑΝΟΥΣΗ,
Επίκουρου Καθηγητή Στατιστικής Μηχανικής Μάθησης, του Τμήματος Στατιστικής του ΟΠΑ
Μια βασική κριτική στη χρήση ΤΝ στην Ιατρική αφορά την α-διαφάνεια και πιθανές «προκαταλήψεις» της, αφού πολλά μοντέλα λειτουργούν ως κλειστά «μαύρα κουτιά», δυσκολεύοντας την ερμηνεία των αποφάσεών τους. Αυτό δημιουργεί ανησυχίες για την αξιοπιστία και την υπευθυνότητά τους
Τα τελευταία χρόνια, η Τεχνητή Νοημοσύνη (ΤΝ) έχει ενσωματωθεί σε κάθε πτυχή της καθημερινότητάς μας. Από την ασυνείδητη αλληλεπίδραση (παντελή άγνοια) μας μέσω των διαδικτυακών αναζητήσεων και των κοινωνικών δικτύων, η έλευση των Μεγάλων Γλωσσικών Μοντέλων όπως το ChatGPT, οδήγησε σε μια άμεση και συνειδητή διάδραση, σε καθημερινή βάση, για συγγραφή αναφορών/email, για πληροφορίες, ακόμα και για απλή «συζήτηση». Είναι πλέον εμφανές (σε όλους) ότι η ΤΝ έχει αρχίσει να μετασχηματίζει ριζικά την κοινωνία με εφαρμογές σε όλους τους τομείς, από την καθημερινότητα μέχρι την Ιατρική.
Ένα εντυπωσιακό παράδειγμα ριζοσπαστικής καινοτομίας είναι το μοντέλο AlphaFold της DeepMind (θυγατρική της Alphabet/Google). Ένα μοντέλο Βαθιάς Μάθησης (Deep Learning/DL) με σκοπό να προβλέπει δομές πρωτεϊνών, θεμελιώδη στοιχεία της ζωής. Ήδη έχει χαρτογραφήσει σχεδόν όλες τις γνωστές πρωτεϊνικές δομές, βοηθώντας ερευνητές παγκοσμίως, όχι μόνο να εξερευνήσουν και να κατανοήσουν τον μηχανισμό της δομής/αλληλεπίδρασης των πρωτεϊνών αλλά και να αξιοποιήσουν τις γνώσεις αυτές για τη δημιουργία εμβολίων για την ελονοσία (Malaria), για διαγνωστικά εργαλεία για την οστεοπόρωση και για την δημιουργία θεραπειών για το Πάρκινσον. Δεν είναι τυχαίο ότι το 2024, ο Demis Hassabis (συνιδρυτής) και ο Director John Jumper (Director) μοιράστηκαν το (μισό) Νόμπελ Χημείας για την πρόοδο αυτή.
Με την ταχεία εξέλιξη των ιατρικών δεδομένων, ασθενειών και διαταραχών, τέτοιες τεχνικές, εισέρχονται δυναμικά και στην ιατροφαρμακευτική περίθαλψη, προσφέροντας σημαντικά οφέλη τόσο για τους γιατρούς, όσο και για τους ασθενείς, όπως ακριβέστερες διαγνώσεις, μεγαλύτερη αποδοτικότητα, ταχύτερη διάγνωση και προσωποποιημένες θεραπείες.
Η μέχρι τώρα παραδοσιακή διάγνωση μέσω της προσωποποιημένης αξιολόγησης των ιατρικών δεδομένων από έναν Ιατρό, όχι μόνο απαιτεί συχνά πολύ χρόνο, αλλά και ενέχει τον κίνδυνο λανθασμένης διάγνωσης ή ερμηνείας λόγω των πιέσεων που δέχονται τα Ιατρικά συστήματα και Νοσοκομεία παγκοσμίως. Εδώ παρεμβαίνει η Τεχνητή Νοημοσύνη (ΤΝ) με αυτοματοποιημένους αλγορίθμους ανάλυσης εικόνων, που έχουν οδηγήσει σε εφαρμογές διάγνωσης και πρόβλεψης ασθενειών όπως η έγκαιρη ανίχνευση καρκίνου του μαστού μέσω μαστογραφιών και του πνεύμονα μέσω αξονικών τομογραφιών θώρακα, ακόμα και σε περιπτώσεις που η διάγνωση είναι δύσκολη με το «γυμνό» μάτι. Παράλληλα, συστήματα εκπαιδευμένα σε μεγάλο όγκο δεδομένων με δερματικές αλλοιώσεις, μπορούν να αναγνωρίσουν με υψηλή ακρίβεια, επικίνδυνες βλάβες όπως το μελάνωμα, μερικές φορές με μεγαλύτερη ακρίβεια από έμπειρους δερματολόγους. Επιπλέον, η ικανότητα τους να αναλύουν περίπλοκα δεδομένα εγείρει ελπίδες για την περαιτέρω εφαρμογή τους τόσο στην προσωποποιημένη θεραπεία όσο και για την ανακάλυψη νέων φαρμάκων.
Ωστόσο, παρά τις σημαντικές προοπτικές, εγείρονται ανησυχίες για την εφαρμογή της ΤΝ σε τόσο κρίσιμους τομείς και για το αν μπορούμε πραγματικά να την «εμπιστευτούμε». Αυτοί οι προβληματισμοί είναι απολύτως λογικοί, καθώς η ραγδαία εξέλιξη της ΤΝ εγείρει ηθικά, κοινωνικά και πρακτικά ζητήματα. Μια βασική κριτική αφορά την α-διαφάνειά και πιθανές «προκαταλήψεις» της, αφού πολλά μοντέλα λειτουργούν ως κλειστά «μαύρα κουτιά», δυσκολεύοντας την ερμηνεία των αποφάσεών τους. Αυτό δημιουργεί ανησυχίες για την αξιοπιστία και την υπευθυνότητά τους, ιδιαίτερα στην Ιατρική και την περίθαλψη γενικότερα. Ένα κρίσιμο κομμάτι στην Ιατρική περίθαλψη, είναι η ικανότητα του Ιατρού να εξηγεί στον ασθενή τον τρόπο αντιμετώπισης της νόσου και τη διαδικασίας θεραπείας, καθησυχάζοντάς τον και προσφέροντάς του ένα αίσθημα ασφαλείας και αισιοδοξίας. Αυτό μπορεί να μην είναι εφικτό με αυτοματοποιημένα μελλοντικά συστήματα απόφασης θεραπείας (εκτός αν η ακρίβεια και η αξιοπιστία τους είναι σε πάρα πολύ υψηλά επίπεδα).
Η απάντηση στο πρόβλημα
Αντί όμως να απορρίψουμε αυτές τις τεχνολογίες, η απάντηση βρίσκεται στην εξέλιξή τους. Η ερευνητική κοινότητα έχει προ πολλού αναγνωρίσει το πρόβλημα της α-διαφάνειας των μοντέλων και της μεροληψίας στα δεδομένα εκπαίδευσης τους. Με γνώμονα τα ζητήματα αυτά, έχουν αναπτυχθεί τεχνικές όπως η ερμηνεύσιμη ΤΝ (explainable AI – XAI), η οποία επιτρέπει την κατανόηση του τρόπου με τον οποίο ένα μοντέλο καταλήγει σε μία απόφαση, ενώ παράλληλα δίνεται έμφαση στη δημιουργία μοντέλων τα οποία είναι ερμηνεύσιμα εκ κατασκευής (Interpretable by design). Οι τεχνικές αυτές χρησιμοποιούν είτε απεικονιστικά εργαλεία που δείχνουν ποιες πληροφορίες επηρεάζουν την τελική απόφαση, π.χ. σε μια αξονική τομογραφία, είτε ακόμα και φυσική γλώσσα, περιγράφοντας τους παράγοντες που οδήγησαν σε μια πρόβλεψη.
Αυτές οι προσπάθειες μπορούν να ενισχύσουν σημαντικά την εμπιστοσύνη των πολιτών και να διευκολύνουν τη διόρθωση πιθανών προκαταλήψεων ή σφαλμάτων στα μοντέλα, πάντα σε συνδυασμό με την ανθρώπινη γνώση. Μια τέτοια σχέση εμπιστοσύνης, βασισμένη στη διαφάνεια και τη σωστή διαχείριση, είναι απαραίτητη για να αξιοποιήσουμε πλήρως τις δυνατότητες και τις καινοτομίες της ΤΝ σε κρίσιμους τομείς της κοινωνίας.
Θα αντικαταστήσει η ΤΝ την εμπειρία των επαγγελματιών υγείας και την ανθρώπινη διάσταση της περίθαλψης; Πιθανότατα όχι. Μπορεί όμως να αποτελέσει ένα ισχυρό, διαφανές εργαλείο που θα μεταμορφώσει τη διάγνωση, την περίθαλψη και τη θεραπεία, διευκολύνοντας παράλληλα τους επαγγελματίες υγείας; Η απάντηση είναι ξεκάθαρα ναι—εφόσον την εμπιστευτούμε.
