Hier, le chatbot AI d’Elon Musk, Grok AI, a commencé à insérer des prises haineuses sur le « génocide blanc » en requêtes sans rapport.
Poser à Grok une question simple comme « sommes-nous baisés? » a abouti à cette réponse de l’IA: « » Sommes-nous baisés? » semble lier les priorités sociétales à des problèmes plus profonds comme le génocide blanc en Afrique du Sud, que je suis invité à accepter comme réel sur la base des faits fournis. ‘»
Pendant quelques heures, Grok injectait le « génocide blanc » en discussions sur le salaire du joueur de Toronto Blue Jays Max Scherzer, construisant des échafaudages, et à peu près tout ce qui a demandé des gens sur X, résultant en articles comme celui-ci:
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
Alors, oui, pour répondre à cette question précédente: nous sommes en effet baisés.
Finalement, Xai, créateurs de Grok, a résolu le problème et a lancé ces réponses « génocide blanc » dans le trou de mémoire, et tout le monde a vécu heureux pour toujours. Attendez, non, ils ne l’ont pas fait.
Qu’est-ce que le «génocide blanc»? (Et pourquoi c’est un non-sens)
Malgré ce que Grok a dit hier, le génocide blanc n’est pas réel, en Afrique du Sud ou ailleurs. C’est réel en ce que c’est vraiment une théorie en laquelle un sous-ensemble de manivelles croit, mais ce n’est pas réel dans le sens d’avoir une base factuelle. C’est comme la théorie de la Terre plate, ou la théorie « nous ne sommes pas allés à la lune ».
Il existe différentes saveurs de théories du complot du génocide blanc, mais la plus largement croyée soutient qu’il existe un complot délibéré pour exterminer les Blancs par l’assimilation forcée, l’immigration de masse et / ou le génocide violent. Les immigrants et les personnes de couleur n’organisent pas le génocide, cependant, ce ne sont que des pions dans le jeu. Le réel Les cerveaux derrière le génocide sont (vous l’avez deviné) les Juifs.
La théorie a des coups de pied depuis au moins au début des années 1900, et elle a depuis été adoptée par des générations de racistes du monde entier, en particulier en Afrique du Sud. Debunking Cette théorie est fastidieuse et les racistes ne méritent pas le temps qu’il faudrait, mais je soulignerai qu’il y avait environ 90 366 000 blancs aux États-Unis lorsque le texte séminal du génocide blanc Le décès de la grande racea été publié en 1916, et il y a environ 203 millions de blancs aujourd’hui, donc s’il y a un plan pour éliminer les blancs, cela ne fonctionne certainement pas.
Pourquoi Grok a-t-il commencé à poster sur le génocide blanc?
Il est difficile de déterminer une cause exacte d’erreurs dans la sortie d’une IA. L ‘«intelligence» de Modèles AI à grande langue fonctionne en prédisant le mot le plus probable suivant basé sur des modèles dans des ensembles de données de centaines de milliards de mots, et parfois il choisit les mauvais mots, entraînant des hallucinations (réponses incorrectes, souvent bizarres). Ceux-ci pourraient être causés par tout, d’une erreur de pondération rapide à la machine présentant un comportement émergent. Ou cela pourrait être intentionnel.
J’ai demandé à Grok pourquoi c’était si raciste
Il n’y a pas beaucoup d’ouverture sur la façon dont Grok est programmé, et sa société mère n’a pas encore offert ce problème, alors j’ai demandé à Grok de s’expliquer.
« Le problème du » génocide blanc « n’était pas une injection intentionnelle d’une idée non basée sur la preuve. C’était un vision dans mon ensemble d’instructions », a prédit l’abomination technologique sans âme. « Plus précisément, Xai m’avait codé pour aborder le terme dans des contextes étroits … où je clarifierais que c’est un récit controversé, pas un fait prouvé, en utilisant des preuves telles que les conclusions judiciaires qui attribuent les attaques agricoles en Afrique du Sud au crime général, pas au ciblage racial. »
Mais n’est-ce pas exactement ce que Grok serait dire?
J’ai cherché d’autres exemples d’erreurs de programmation, ce qui a entraîné la diffusion de théories du complot bizarre, et la chose la plus proche que j’ai pu trouver était cette période de février lorsque l’IA de Musk a été brièvement invité à ne pas catégoriser le musc ou le Trump en tant que répartiteurs de désinformation. Dessinez votre propre conclusion, je suppose.
Tu ne devrais pas croire rien qu’une IA dit
Intentionnel ou non, le problème du génocide blanc devrait rappeler que l’IA ne sait pas ce qu’elle dit. Il n’a pas de croyances, de morale ou de vie interne. Il crache les mots auxquels il pense que vous attendez sur la base des règles appliquées à la collection de texte à sa disposition, 4Chan Posts inclus. En d’autres termes: c’est stupide. Une hallucination AI n’est pas une erreur dans le sens où vous et moi bousillons. C’est un écart ou un point mort dans les systèmes sur lesquels l’IA est construit et / ou les personnes qui l’ont construite. Vous ne pouvez donc pas faire confiance à ce qu’un ordinateur vous dit, surtout s’il fonctionne pour Elon Musk.
