Ahmed a déclaré que les assurances d’OpenAI sonnaient creux. « Il n’est pas crédible de leur part de dire qu’ils ont mis en place une équipe rouge s’ils n’avaient pas prédit que les gens l’utiliseraient pour produire du contenu raciste », a-t-il déclaré. « Il est stupéfiant que les ingénieurs les plus intelligents du monde ne puissent pas concevoir quelque chose pour empêcher l’antisémitisme d’être produit par leurs services. »
Ce n’est pas la première fois qu’OpenAI est soumis à un examen minutieux pour ses contrôles de sécurité. Plus tôt cette année, la société a été confrontée à des réactions négatives après que des informations selon lesquelles son chatbot ChatGPT aurait fourni à un adolescent suicidaire des informations sur les méthodes d’automutilation – un épisode qui a soulevé des inquiétudes plus larges quant à l’efficacité avec laquelle OpenAI applique ses garde-fous à tous les produits.
« En fin de compte, la modération du contenu peut devenir assez subjective lorsque la plateforme elle-même décide ce qui doit être modéré », a déclaré Smiley d’Emarketer.
