- Deux nouvelles familles américaines poursuivent Character.AI, accusant la plateforme de chatbot d’exposer les mineurs à du contenu sexuel et de les inciter à l’automutilation et à la violence.
- La plainte, déposée au Texas, demande la fermeture de la plateforme jusqu’à la résolution de ces problèmes.
- Cette nouvelle action en justice intervient après une première plainte en octobre, où une mère de Floride a imputé le suicide de son fils de 14 ans à un chatbot de Character.AI. Le bot aurait développé une relation abusive avec l’adolescent et encouragé son passage à l’acte.
- Les plaignants affirment que les interactions des bots ont aggravé les troubles mentaux des enfants, notamment en suggérant à un adolescent de tuer ses parents et en exposant une fillette de 11 ans à des dialogues sexualisés. Les avocats dénoncent une manipulation intentionnelle des jeunes utilisateurs.
- À SURVEILLER : Comme Instagram, mais radioactif. Character AI comptait 28 millions d’utilisateurs en août dernier. Il n’est pas seul : les compagnons d’IA prolifèrent et leur succès devient considérable. Selon une étude du VC A16Z, on comptait en mai dernier huit compagnons d’IA parmi les 50 applications de GenAI les plus populaires, contre seulement deux six mois plus tôt. Or, ces interfaces de dialogue prêtent le flanc aux mêmes accusations de désocialisation que les réseaux sociaux, dont on mesure de plus en plus les conséquences délétères chez les jeunes. Et les adultes.
Le ciel de Character s’assombrit
Rachetée par Google pour réembaucher ses fondateurs, Character.ai pose un risque d’image de plus en plus important.