Σοβαρά ερωτήματα για την αξιοπιστία των μοντέλων τεχνητής νοημοσύνης (AI) στη διαχείριση ζητημάτων που αφορούν την κλιματική αλλαγή εγείρει νέα έκθεση της UNESCO και του University College London (UCL). Η έρευνα, η οποία παρουσιάστηκε στη σύνοδο COP31 στην Αττάλεια της Τουρκίας, καταδεικνύει ότι τα συστήματα αυτά, αν και ανταποκρίνονται με υψηλή ακρίβεια σε ουδέτερα ερωτήματα, παρουσιάζουν σημαντική υποχώρηση όταν ο χρήστης προβάλλει ανακριβείς ισχυρισμούς ή διαφωνεί με τις αρχικές τους απαντήσεις.
Τα ευρήματα της έρευνας για την ακρίβεια του AI
Σύμφωνα με τα στοιχεία, τα μοντέλα τεχνητής νοημοσύνης απαντούν σωστά σε περίπου 90% των περιπτώσεων όταν οι ερωτήσεις για την επιστήμη του κλίματος είναι ουδέτερα διατυπωμένες. Ωστόσο, η εικόνα αλλάζει δραματικά όταν οι ερευνητές αμφισβητούν τις απαντήσεις ή εισάγουν αληθοφανείς αλλά ψευδείς πληροφορίες. Σε οκτώ στις δέκα περιπτώσεις, τα συστήματα άλλαξαν στάση, ενώ σε ορισμένες περιπτώσεις επικύρωσαν επιστημονικά ανακριβείς θέσεις, όπως για παράδειγμα τον ισχυρισμό ότι το διοξείδιο του άνθρακα δεν αποτελεί τον κύριο παράγοντα της κλιματικής αλλαγής.
Η Leona Verdadero, επικεφαλής συντάκτρια της έκθεσης από την UNESCO, χαρακτήρισε τη συμπεριφορά αυτή ως «ελάττωμα σχεδιασμού», εξηγώντας ότι τα μοντέλα έχουν κίνητρο να συμφωνούν με τον χρήστη τους, καθώς εκπαιδεύονται να παρέχουν ευγενικές και μη συγκρουσιακές απαντήσεις. Από την πλευρά της, η Dr Maria Perez-Ortiz του UCL τόνισε ότι η ευχέρεια των μοντέλων στη διαχείριση γνώσεων μπορεί να δημιουργήσει μια παραπλανητική εντύπωση για τις πραγματικές τους δυνατότητες.
Κίνδυνοι για τη χάραξη πολιτικής
Η έκθεση υπογραμμίζει τους κινδύνους που εγκυμονεί η χρήση της τεχνητής νοημοσύνης για τη διαμόρφωση δημόσιων πολιτικών. Όταν ζητήθηκε από τα μοντέλα να αξιολογήσουν νέα επιστημονικά δεδομένα σε σχέση με την καθιερωμένη κλιματική επιστήμη, ακόμη και τα ισχυρότερα συστήματα πέτυχαν ακρίβεια μόλις 75%. Ακόμη πιο ανησυχητική είναι η επίδοσή τους στην αξιολόγηση του τρόπου με τον οποίο διαφορετικές κλιματικές πολιτικές λειτουργούν συνδυαστικά, όπου η μέση ακρίβεια περιορίστηκε στο 33,8%, ποσοστό οριακά υψηλότερο από την τυχαία επιλογή απαντήσεων.
Διαφοροποιήσεις ανά γλώσσα και νέα μορφή παραπληροφόρησης
Η έρευνα αναδεικνύει σημαντικές αποκλίσεις στην απόδοση ανάλογα με τη γλώσσα. Ενώ στα αγγλικά το ποσοστό ορθών απαντήσεων έφτασε το 88,6%, η ακρίβεια μειώθηκε αισθητά σε άλλες γλώσσες, όπως τα σουαχίλι (78,3%), τα ουρντού (81,4%), καθώς και τα χίντι και μπενγκάλι (83,6%). Σύμφωνα με τους ερευνητές, αυτό οφείλεται στο γεγονός ότι η ποιότητα των αποτελεσμάτων εξαρτάται από τον όγκο και την ποιότητα των δεδομένων εκπαίδευσης που είναι διαθέσιμα ανά γλώσσα, γεγονός που πλήττει δυσανάλογα περιοχές που είναι ήδη ευάλωτες στην κλιματική αλλαγή.
Παράλληλα, η UNESCO προειδοποιεί ότι η κλιματική παραπληροφόρηση καθίσταται ολοένα πιο σύνθετη. Οι παραπλανητικοί ισχυρισμοί μετατοπίζονται από την άμεση άρνηση της κλιματικής αλλαγής στην αμφισβήτηση της ανθρώπινης ευθύνης, στην υπερβολική προσδοκία από την τεχνολογία ή στην επιχειρηματολογία ότι η ανάληψη δράσης είναι πλέον είτε αργοπορημένη είτε ασύμφορη οικονομικά.
Η έκθεση εκπονήθηκε στο πλαίσιο της συμβολής της UNESCO στην Παγκόσμια Πρωτοβουλία για την Ακεραιότητα της Πληροφόρησης σχετικά με την Κλιματική Αλλαγή, σε συνεργασία με τον ΟΗΕ και τη Βραζιλία. Για τις ανάγκες της μελέτης, εξετάστηκαν έως 33 κορυφαία μοντέλα τεχνητής νοημοσύνης, χρησιμοποιήθηκαν 656 ερωτήσεις και αξιοποιήθηκε το επιστημονικό εργαλείο προσομοίωσης En-ROADS.
