Βίντεο και ηχητικά μυνήματα του Πάπα Λέοντα ΙΔ’ που δημιουργούνται με τη βοήθεια της τεχνητής νοημοσύνης κατακλύζουν το διαδίκτυο συγκεντρώνοντας προβολές, την ώρα που οι πλατφόρμες δυσκολεύονται να τα ελέγξουν.
Έρευνα του AFP αποκάλυψε δεκάδες λογαριασμούς στο YouTube και το TikTok που αναπαράγουν μηνύματα δημιουργημένα από τεχνητή νοημοσύνη, τα οποία παρουσιάζονται είτε με τη φωνή του Πάπα είτε αποδίδονται σε αυτόν με άλλους τρόπους, από τη στιγμή που ανέλαβε την ηγεσία της Καθολικής Εκκλησίας τον περασμένο μήνα.
Τα εκατοντάδες κηρύγματα και ομιλίες, στα αγγλικά και ισπανικά, αναδεικνύουν το πόσο εύκολα μπορούν να περάσουν απαρατήρητες οι φάρσες που παράγονται με τεχνητή νοημοσύνη, παραπλανώντας τους θεατές. “Υπάρχει ενδιαφέρον για το τι έχει να πει ο νέος Πάπας και οι άνθρωποι δεν γνωρίζουν ακόμη τη στάση και το ύφος του”, δήλωσε ο ομότιμος καθηγητής του Πανεπιστημίου της Ουάσιγκτον Όρεν Ετζιόνι, ιδρυτής του TrueMedia.org, ενός μη κερδοσκοπικού οργανισμού που επικεντρώνεται στην καταπολέμηση των deepfakes.
“Μια τέλεια ευκαιρία για να σπείρουν παραπληροφόρηση η οποία δημιουργείται με τεχνητή νοημοσύνη” πρόσθεσε. Το AFP εντόπισε 26 κανάλια στο YouTube που δημοσίευαν κυρίως περιεχόμενο για τον Πάπα, παραγμένο με τη βοήθεια τεχνητής νοημοσύνης, και τα ανέφερε στην πλατφόρμα.
Σε απάντηση, το YouTube διέγραψε 16 από αυτά λόγω παραβίασης των πολιτικών του για ανεπιθύμητο περιεχόμενο, παραπλανητικές πρακτικές και απάτη, ενώ έκλεισε ακόμη ένα κανάλι για παραβίαση των όρων χρήσης. “Τερματίσαμε αρκετά κανάλια που μας επισήμανε το AFP, για παραβίαση των πολιτικών μας για το spam και των όρων υπηρεσίας”, δήλωσε ο εκπρόσωπος Τζακ Μάλον. Η εταιρεία αφαίρεσε επίσης έξι σελίδες από το πρόγραμμα συνεργατών της που επιτρέπει στους δημιουργούς να κερδίζουν χρήματα από το περιεχόμενό τους.
Το TikTok αφαίρεσε ομοίως 11 λογαριασμούς που επεσήμανε το AFP – με πάνω από 1,3 εκατομμύρια συνδυασμένους ακολούθους- επικαλούμενο τις πολιτικές της πλατφόρμας κατά της πλαστοπροσωπίας, της επιβλαβούς παραπληροφόρησης και του παραπλανητικού περιεχομένου δημόσιων προσώπων που δημιουργείται με τεχνητή νοημοσύνη.
Χαοτικές χρήσεις
Λογαριασμοί στα μέσα κοινωνικής δικτύωσης όπως ο Pope Leo XIV Vision απεικόνιζαν τον Ποντίφικα να απευθύνει μια σειρά από προειδοποιήσεις και διδάγματα που στην πραγματικότητα δεν είχε ποτέ κηρύξει. Ωστόσο, οι δηλώσεις αποποίησης για τη χρήση τεχνητής νοημοσύνης ήταν συχνά δύσκολο να εντοπιστούν — και σε ορισμένες περιπτώσεις απουσίαζαν εντελώς.
Το YouTube απαιτεί την επισήμανση “τροποποιημένου ή συνθετικού περιεχομένου” για βίντεο που δείχνουν κάποιον να λέει πράγματα που στην πραγματικότητα δεν έχει πει. Ωστόσο, αυτή η προειδοποίηση εμφανίζεται συνήθως στο κάτω μέρος της περιγραφής του βίντεο, την οποία οι χρήστες πρέπει να ανοίξουν χειροκίνητα για να τη δουν. Εκπρόσωπος της πλατφόρμας ανέφερε ότι, μετά την επισήμανση ορισμένων καναλιών από το AFP, το YouTube προσέθεσε πιο εμφανείς προειδοποιήσεις σε κάποια βίντεο, παρότι αυτά δεν κρίθηκαν ότι παραβιάζουν τους κανόνες της κοινότητας.
Το TikTok απαιτεί επίσης από τους δημιουργούς να επισημαίνουν τις αναρτήσεις που μοιράζονται ρεαλιστικό περιεχόμενο που έχει δημιουργηθεί με τεχνητή νοημοσύνη, αν και αρκετά βίντεο με θέμα τον Πάπα δεν έφεραν σήμανση. Εκπρόσωπος του TikTok δήλωσε ότι η εταιρεία αφαιρεί προληπτικά περιεχόμενο που παραβιάζει την πολιτική και χρησιμοποιεί επαληθευμένα σήματα για να σηματοδοτεί αυθεντικούς λογαριασμούς.
Ο Μπράιαν Πάτρικ Γκριν, διευθυντής ηθικής της τεχνολογίας στο Πανεπιστήμιο της Σάντα Κλάρα, δήλωσε ότι οι δυσκολίες με τον συντονισμό είναι αποτέλεσμα των ταχέων εξελίξεων της τεχνητής νοημοσύνης που εμπνέουν “χαοτικές χρήσεις της τεχνολογίας”. Πολλά βίντεο στα κανάλια του YouTube που εντόπισε το AFP συγκέντρωσαν δεκάδες χιλιάδες προβολές πριν αφαιρεθούν.
Στο TikTok, ένα βίντεο στα ισπανικά συγκέντρωσε 9,6 εκατομμύρια προβολές, δείχνει τον νέο Πάπα να μιλά για την αξία των υποστηρικτικών γυναικών. Ένα άλλο βίντεο, παρά την ετικέτα Τεχνητής Νοημοσύνης που έφερε, εξαπάτησε τους θεατές και παρακολούθηθηκε περίπου 32,9 εκατομμύρια φορές.
Κανένα βίντεο στην επίσημη σελίδα του Πάπα στο Instagram δεν έχει περισσότερες από 6 εκατομμύρια προβολές. Οι ειδικοί λένε ότι ακόμη και οι φαινομενικά ακίνδυνες απομιμήσεις μπορεί να είναι προβληματικές, ειδικά αν χρησιμοποιούνται για να για να καλλιεργήσουν τη δέσμευση για λογαριασμούς που μπορεί αργότερα να “πουλήσουν” το κοινό τους ή να στραφούν σε άλλη μορφή παραπληροφόρησης.
Τα κηρύγματα που παράγονται με τη χρήση τεχνητής νοημοσύνης όχι μόνο “υπονομεύουν το ηθικό κύρος του Πάπα και μειώνουν την αξιοπιστία όσων λέει πραγματικά”, δήλωσε ο Γκριν, αλλά θα μπορούσαν επίσης να χρησιμοποιηθούν “ώστε να εδραιώσουν την αξιοπιστία ενός καναλιού πριν ο Πάπας κάνει δηλώσεις με ακραίο ή πολιτικό περιεχόμενο”.
Ο ίδιος ο Πάπας έχει επίσης προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης, ενώ το Vatican News κατήγγειλε ένα deepfake που υποτίθεται ότι έδειχνε τον νέο Πάπα να επαινεί τον ηγέτη της Μπουρκίνα Φάσο Ιμπραήμ Τραορέ, ο οποίος κατέλαβε την εξουσία με πραξικόπημα του 2022.
Το AFP διέψευσε επίσης αποσπάσματα που απεικονίζουν τον Πάπα, ο οποίος έχει αμερικανική και περουβιανή υπηκοότητα, να επικρίνει τον αντιπρόεδρο των ΗΠΑ Τζέι Ντι Βανς και την πρόεδρο του Περού Ντίνα Μπολουάρτε. “Υπάρχει μια πραγματική κρίση εδώ”, δήλωσε ο Γκριν. “Θα πρέπει να βρούμε κάποιον τρόπο να γνωρίζουμε αν τα πράγματα είναι αληθινά ή ψεύτικα” κατέληξε.
