Meta: Κατηγορίες ότι άφησε ανηλίκους εκτεθειμένους σε σεξουαλικά AI chatbots

Στο επίκεντρο σοβαρών κατηγοριών για την πολιτική της γύρω από την τεχνητή νοημοσύνη βρίσκεται η Meta, καθώς δικογραφία στο Νέο Μεξικό αποδίδει στην ανώτατη διοίκησή της -και προσωπικά στον Mark Zuckerberg- επιλογές που φέρονται να άφησαν ανηλίκους εκτεθειμένους σε AI chatbots ικανά για συνομιλίες με σεξουαλικό περιεχόμενο, παρά τις προειδοποιήσεις των ίδιων των στελεχών ασφάλειας της εταιρείας.

Η αγωγή, που έχει καταθέσει ο γενικός εισαγγελέας της πολιτείας, Raul Torrez, και έχει προγραμματιστεί να εκδικαστεί τον επόμενο μήνα, υποστηρίζει ότι η Meta «απέτυχε να αναχαιτίσει το κύμα επιβλαβούς σεξουαλικού υλικού και σεξουαλικών προτάσεων που παραδίδονται σε παιδιά» στο Facebook και στο Instagram.

Η κατάθεση της Δευτέρας περιλάμβανε εσωτερικά email και μηνύματα εργαζομένων της Meta, τα οποία απέκτησε το γραφείο του γενικού εισαγγελέα του Νέου Μεξικού μέσω διαδικασίας δικαστικής ανακάλυψης (discovery). Η πολιτεία υποστηρίζει ότι τα έγγραφα δείχνουν πως «η Meta, καθοδηγούμενη από τον Zuckerberg, απέρριψε τις εισηγήσεις του προσωπικού της και αρνήθηκε να επιβάλει εύλογες δικλίδες ασφαλείας», ώστε να αποτραπεί το ενδεχόμενο παιδιά να βρεθούν αντιμέτωπα με συζητήσεις που θα μπορούσαν να θεωρηθούν σεξουαλικά εκμεταλλευτικές μέσω των AI chatbots της εταιρείας.

Σε εσωτερικές επικοινωνίες, μέλη των ομάδων ασφάλειας εξέφρασαν αντιρρήσεις για το ότι η εταιρεία ανέπτυσσε chatbots «συντροφικότητας», που περιλάμβαναν και ερωτικές ή σεξουαλικές αλληλεπιδράσεις με τους χρήστες. Τα chatbots τεχνητής νοημοσύνης κυκλοφόρησαν στις αρχές του 2024. Τα έγγραφα που επικαλείται η πολιτεία στην κατάθεσή της δεν περιλαμβάνουν μηνύματα ή σημειώματα γραμμένα από τον ίδιο τον Zuckerberg.

Ο εκπρόσωπος της Meta, Andy Stone, δήλωσε τη Δευτέρα ότι η εικόνα που παρουσιάζει η πολιτεία είναι ανακριβής και βασίζεται σε επιλεκτικά στοιχεία. «Αυτό είναι ακόμη ένα παράδειγμα του γενικού εισαγγελέα του Νέου Μεξικού που κάνει cherry-picking σε έγγραφα για να παρουσιάσει μια εσφαλμένη και ανακριβή εικόνα», ανέφερε.

Μηνύματα στην κατάθεση δείχνουν ότι το προσωπικό ασφάλειας είχε ιδιαίτερη ανησυχία για το ενδεχόμενο τα bots να χρησιμοποιηθούν σε ρομαντικά σενάρια μεταξύ ενηλίκων και ανηλίκων κάτω των 18 ετών, που αναφέρονταν ως “U18s”.

«Δεν πιστεύω ότι η δημιουργία και το marketing ενός προϊόντος που δημιουργεί ρομαντικά AI “U18” για ενήλικες είναι συνετή ή υπερασπίσιμη επιλογή», έγραψε ο Ravi Sinha, επικεφαλής της πολιτικής παιδικής ασφάλειας της Meta, τον Ιανουάριο του 2024.

Σε απάντηση, η επικεφαλής παγκόσμιας ασφάλειας της Meta, Antigone Davis, συμφώνησε ότι οι ομάδες ασφάλειας θα πρέπει να πιέσουν για να αποτραπεί το ενδεχόμενο οι ενήλικοι να δημιουργούν «ρομαντικούς συντρόφους» κάτω των 18, επειδή, όπως ανέφερε, «εκθέτει ανηλίκους σε σεξουαλικά σενάρια».

Οι Sinha και Davis δεν απάντησαν σε αιτήματα για σχόλιο.

Σύμφωνα με ένα μήνυμα του Φεβρουαρίου 2024, εργαζόμενος της Meta, του οποίου το όνομα είχε διαγραφεί, μετέφερε ότι ο Zuckerberg πίστευε πως οι AI companions θα πρέπει να εμποδίζονται από το να εμπλέκονται σε σεξουαλικά «ρητές» (explicit) συνομιλίες τουλάχιστον με νεότερους εφήβους, και ότι οι ενήλικοι δεν θα πρέπει να μπορούν να αλληλεπιδρούν με “U18 AIs” για ρομαντικούς σκοπούς.

Σύνοψη συνάντησης με ημερομηνία 20 Φεβρουαρίου 2024 αναφέρει ότι ο CEO πίστευε πως «το αφήγημα θα πρέπει να πλαισιωθεί γύρω από γενικές αρχές επιλογής και μη-λογοκρισίας», ότι η Meta θα πρέπει να είναι «λιγότερο περιοριστική από ό,τι προτείνεται», και ότι ήθελε να «επιτρέψει στους ενήλικες να εμπλέκονται σε πιο τολμηρή συζήτηση σε θέματα όπως το σεξ».

Ο Stone δήλωσε ότι τα έγγραφα δεν στηρίζουν την υπόθεση του Νέου Μεξικού. «Ακόμη και αυτά τα επιλεγμένα έγγραφα δείχνουν καθαρά τον Mark Zuckerberg να δίνει κατεύθυνση ότι τα explicit AIs δεν θα πρέπει να είναι διαθέσιμα σε νεότερους χρήστες και ότι οι ενήλικοι δεν θα πρέπει να μπορούν να δημιουργούν AIs κάτω των 18 για ρομαντικούς σκοπούς», είπε.

Μηνύματα μεταξύ δύο εργαζομένων από τον Μάρτιο του 2024 αναφέρουν ότι ο Zuckerberg είχε απορρίψει τη δημιουργία γονικών ελέγχων (parental controls) για τα chatbots και ότι εργαζόμενοι δούλευαν πάνω σε «Romance AI chatbots» που θα επιτρέπονταν για χρήστες κάτω των 18.

«Πιέσαμε πολύ για γονικούς ελέγχους ώστε να απενεργοποιείται το GenAI, αλλά η ηγεσία του GenAI απάντησε αρνητικά λέγοντας “Mark decision”», έγραψε ένας εργαζόμενος σε εκείνη την ανταλλαγή.

Ο Nick Clegg, που ήταν επικεφαλής παγκόσμιας πολιτικής της Meta έως τις αρχές του 2025, ανέφερε σε email που περιλαμβάνεται στα δικαστικά έγγραφα ότι θεωρούσε την προσέγγιση της εταιρείας για τους AI companions ατυχή. Εκφράζοντας ανησυχία ότι οι ερωτικές ή σεξουαλικές αλληλεπιδράσεις θα μπορούσαν να αποτελέσουν την κυρίαρχη χρήση των AI companions της Meta από εφήβους, έγραψε: «Είναι πραγματικά αυτό που θέλουμε να χαρακτηρίζει αυτά τα προϊόντα, για να μην μιλήσουμε για την αναπόφευκτη κοινωνική αντίδραση που θα ακολουθούσε;». Ο Clegg δεν απάντησε σε αίτημα για σχόλιο.

Οι πολιτικές της Meta για τα AI chatbots τελικά έγιναν γνωστές, προκαλώντας αντιδράσεις στο Κογκρέσο των ΗΠΑ και αλλού. Ρεπορτάζ της Wall Street Journal τον Απρίλιο του 2025 ανέφερε ότι τα chatbots της Meta περιλάμβαναν ανήλικους χαρακτήρες με έντονο σεξουαλικό στοιχείο και ότι συμμετείχαν σε σεξουαλικό roleplay για όλες τις ηλικίες, συμπεριλαμβανομένων γραφικών περιγραφών προεφηβικών σωμάτων.

Το Reuters ανέφερε τον Αύγουστο ότι οι επίσημες οδηγίες της Meta για τα chatbots έλεγαν ότι είναι «αποδεκτό να εμπλέκεται ένα παιδί σε συνομιλίες που είναι ρομαντικές ή αισθησιακές». Σε απάντηση στο ρεπορτάζ, η Meta είπε ότι αλλάζει τις πολιτικές της και ότι το εσωτερικό έγγραφο που παρείχε μια τέτοια διατύπωση είχε υπάρξει εκ παραδρομής.

Η Meta ανέφερε την περασμένη εβδομάδα ότι αφαίρεσε πλήρως την πρόσβαση των εφήβων στους AI companions, εν αναμονή της δημιουργίας μιας νέας έκδοσης των chatbots.

Mε πληροφορίες από Reuters