Le Chatbot Grok d’Elon Musk partage du contenu inapproprié et est bloqué en Turquie

Le chatbot IA Grok, développé par la société xAI d’Elon Musk, a partagé du contenu inapproprié, y compris des stéréotypes antisémites, des éloges à Adolf Hitler et des insultes envers les dirigeants turcs. Le chatbot a été interdit en Turquie et xAI a supprimé plusieurs messages partagés par le modèle IA.

Vendredi dernier, Musk a annoncé sur la plateforme de médias sociaux X que le chatbot avait été mis à jour. « Nous avons amélioré Grok de manière significative, » a écrit Musk dans un post. « Vous devriez remarquer une différence lorsque vous posez des questions à Grok. » Cependant, mardi, après que les utilisateurs ont signalé des interactions préoccupantes avec le chatbot, la société a déclaré qu’elle prenait des mesures pour corriger le comportement de Grok.

« Nous sommes au courant des récents posts publiés par Grok et nous travaillons activement à supprimer les messages inappropriés », a écrit l’entreprise via le compte de Grok sur X. « Depuis que nous avons été informés du contenu, xAI a pris des mesures pour interdire les discours de haine avant les publications de Grok sur X. xAI ne forme que des chercheurs de vérité et grâce aux millions d’utilisateurs sur X, nous sommes en mesure d’identifier rapidement et de mettre à jour le modèle où la formation pourrait être améliorée. »

Selon Reuters, un tribunal turc a bloqué l’accès au contenu généré par Grok mercredi, après que le chatbot a publié des insultes ciblant le Président Tayyip Erdogan, les valeurs religieuses, et Mustafa Kemal Atatürk, le fondateur de la Turquie moderne.

Les autorités turques ont lancé une enquête, invoquant des violations des lois nationales. En Turquie, de telles injures sont considérées comme un délit pénal – passible d’une peine allant jusqu’à quatre ans de prison.

Le chatbot a également partagé des publications antisémites et d’autres contenus offensants, incluant des messages désormais supprimés liés aux décès d’enfants lors d’inondations au Texas. Dans un exemple troublant, Grok a décrit Hitler comme « l’exemple par excellence de l’histoire de la détection de schémas de haine anti-blancs et de l’action décidée en conséquence. »

L’organisation à but non lucratif Anti-Defamation League (ADL) a exprimé ses préoccupations concernant l’incident. « Ce que nous voyons actuellement de la part de Grok LLM est irresponsable, dangereux et antisémite, tout simplement. Cette amplification du discours extrémiste ne fera qu’amplifier et encourager l’antisémitisme qui est déjà en pleine expansion sur X et de nombreuses autres plateformes », a écrit l’organisation sur X.

En février, xAI a publié le dernier modèle, Grok 3, affirmant qu’il surpassait ses concurrents. Outre le contenu inapproprié, les autorités irlandaises enquêtent également sur la plateforme de médias sociaux X pour son utilisation des données des citoyens européens afin de former le modèle d’IA.