Όσοι πιστεύουν ότι η τεχνητή νοημοσύνη μπορεί να αποτελέσει την πρώτη επιλογή για ιατρική καθοδήγηση, καλό είναι να το ξανασκεφτούν. Μια νέα μελέτη που δημοσιεύτηκε στο Nature Medicine δείχνει ότι αυτή η «πρώτη στάση» μπορεί εύκολα να οδηγήσει σε λάθος συμπεράσματα.
Τα σύγχρονα γλωσσικά μοντέλα, όπως το GPT‑4o, το Llama 3 και το Command R+, έχουν αποδείξει ότι αποδίδουν εξαιρετικά σε θεωρητικές ιατρικές ερωτήσεις. Μπορούν να δίνουν πειστικές και καλά διατυπωμένες απαντήσεις, δημιουργώντας την εντύπωση ότι κατανοούν πλήρως την κάθε περίπτωση. Αυτό, όμως, δεν σημαίνει ότι είναι κατάλληλα για κάποιον που προσπαθεί να αξιολογήσει τα συμπτώματά του και να αποφασίσει τι πρέπει να κάνει στην πράξη.
Αυτό ακριβώς εξέτασαν οι ερευνητές: όχι αν η AI διαθέτει ιατρική γνώση σε ελεγχόμενες συνθήκες, αλλά αν μπορεί να βοηθήσει έναν απλό χρήστη σε πραγματικές συνθήκες — όταν κάποιος έχει συμπτώματα, ανησυχεί και αναζητά απαντήσεις μέσω ενός chatbot.
Η έρευνα πραγματοποιήθηκε με 1.298 συμμετέχοντες στο Ηνωμένο Βασίλειο, οι οποίοι κλήθηκαν να αξιολογήσουν δέκα ρεαλιστικά ιατρικά σενάρια. Έπρεπε να εντοπίσουν πιθανές παθήσεις και να αποφασίσουν την κατάλληλη επόμενη ενέργεια — από απλή παρακολούθηση έως άμεση ιατρική παρέμβαση.
Τα αποτελέσματα δείχνουν μια κρίσιμη αντίφαση: τα μοντέλα είναι αρκετά καλά στο να εντοπίζουν πιθανές παθήσεις όταν έχουν πλήρη δεδομένα, αλλά αποδίδουν πολύ χειρότερα όταν πρέπει να προτείνουν τι πρέπει να γίνει. Και στην πραγματική χρήση, όπου εμπλέκονται οι ατελείς περιγραφές και οι λάθος ερωτήσεις των χρηστών, η εικόνα επιδεινώνεται ακόμη περισσότερο.
Το βασικό πρόβλημα δεν είναι μόνο η πιθανότητα λάθους της AI, αλλά ο τρόπος με τον οποίο οι άνθρωποι αλληλεπιδρούν μαζί της. Ελλιπείς πληροφορίες, κακή περιγραφή συμπτωμάτων ή καθοδηγητικές ερωτήσεις μπορούν να οδηγήσουν σε λανθασμένες απαντήσεις. Παράλληλα, η πειστικότητα του ύφους της AI δημιουργεί μια ψευδαίσθηση αξιοπιστίας, που μπορεί να παραπλανήσει τον χρήστη.
Στην πράξη, η ιατρική γνώση που διαθέτει ένα μοντέλο δεν μεταφράζεται αυτόματα σε ασφαλή καθοδήγηση. Άλλο η σωστή απάντηση σε ένα τεστ και άλλο η υπεύθυνη εκτίμηση μιας πραγματικής κατάστασης υγείας.
Το συμπέρασμα είναι σαφές: η τεχνητή νοημοσύνη μπορεί να λειτουργήσει ως εργαλείο ενημέρωσης, αλλά δεν μπορεί —τουλάχιστον προς το παρόν— να αντικαταστήσει την ιατρική κρίση ή να αποτελέσει αξιόπιστη πρώτη στάση για αποφάσεις υγείας.
