L'adolescent, Sewell Setzer III, avait développé un lien émotionnel intense avec un chatbot inspiré du personnage de Daenerys Targaryen de Game of Thrones.
Malgré des avertissements indiquant que les réponses du bot étaient fictives, le jeune garçon a entretenu des dialogues réguliers, dont certains portaient sur des sujets de détresse émotionnelle et de suicide. Ces conversations auraient exacerbé son isolement et sa détresse.
Google a récemment conclu un accord de licence, versant 2,7 milliards de dollars (lire Qant du 4 octobre) à Character.AI, sous réserve que son équipe vienne travailler chez Google DeepMind.
À SURVEILLER. Dans les années 1990, les procès des familles n’ont pas perturbé le développement des jeux vidéos. Mais les réseaux sociaux ont changé la donne. Ce printemps, le livre de Jonathan Haight, The Anxious Generation, a marqué les esprits. Le lien entre vie numérique et mal-être adolescent est établi, sinon par les sciences sociales, du moins dans l’opinion. Il peut renforcer la crainte de l’IA et menacer, notamment, les compagnons d’IA comme Replika.