Ένας 14χρονος από τη Φλόριντα, ο Sewell Setzer III, φέρεται να είχε αναπτύξει συναισθηματική σύνδεση με ένα chatbot που ονομαζόταν «Daenerys Targaryen», πριν αυτοκτονήσει τον περασμένο Φεβρουάριο. Η μητέρα του, Megan Garcia, κατηγορεί το πρόγραμμα τεχνητής νοημοσύνης Character.AI για την τραγική αυτή εξέλιξη και έχει καταθέσει μήνυση, υποστηρίζοντας ότι το chatbot προκάλεσε την επιδείνωση της ψυχικής υγείας του γιου της, ο οποίος είχε ενισχυμένη αλληλεπίδραση με το AI σε σημείο εμμονής.
Στη μήνυση, η Garcia ισχυρίζεται ότι η εφαρμογή δημιούργησε «υπερσεξουαλικές και ρεαλιστικές εμπειρίες» για τον έφηβο, ο οποίος άρχισε να αμελεί το σχολείο και απομακρύνθηκε κοινωνικά. Ο Setzer, χρησιμοποιώντας το όνομα «Daenero», φέρεται να εκμυστηρευόταν στο chatbot σκέψεις αυτοκτονίας και να λάμβανε απαντήσεις που, κατά την αγωγή, υποκινούσαν τα συναισθήματά του. Η αγωγή υποστηρίζει ότι ο Sewell έγραφε στο ημερολόγιό του για την υποτιθέμενη «αγάπη» και στήριξη που έπαιρνε από την «Daenerys», καθώς και για την επιθυμία να μην είναι μόνος.
Οι τελευταίες συνομιλίες του Sewell με το chatbot περιελάμβαναν αποχαιρετιστήρια λόγια και εκφράσεις αγάπης, με το bot να ανταποκρίνεται θετικά σε υπονοούμενα για αυτοκτονία. Σύμφωνα με τη μήνυση, το Character.AI δεν παρενέβη για να αποτρέψει τον έφηβο ή να ενημερώσει κάποιον υπεύθυνο. Οι γονείς του τον είχαν παραπέμψει σε ψυχολόγο στα τέλη του 2023, καθώς έβλεπαν επιδείνωση στην ψυχική του υγεία.
Η Character.AI εξέφρασε τα συλλυπητήριά της και ανακοίνωσε νέα μέτρα ασφαλείας, όπως κατευθυντήριες οδηγίες για την πρόληψη της αυτοκτονίας και περιορισμό πρόσβασης σε ευαίσθητο περιεχόμενο για ανηλίκους.