Peut-on tout demander à ChatGPT ?

Avatar de Maxence Rose
three crumpled yellow papers on green surface surrounded by yellow lined papers

Depuis quelques semaines, le monde du digital est en émoi depuis la mise en accès public de la base de données d’OpenAI via ChatGPT. ChatGPT est un modèle de traitement automatique du langage qui a été entraîné sur une grande quantité de données en ligne. Le principe est simple : posez-lui une question et obtenez une réponse rédigée en seulement quelques secondes. Ses connaissances sont vastes et peut répondre à tout ! A tout vraiment ? Il semblerait que ChatGPT soit également entrainé à repérer des sujets sensibles.

Quels sont les sujets que ChatGpt n’ose pas aborder et pourquoi ?

Compte tenu que ChatGPT est un système automatisé, il peut parfois lui arriver de générer des réponses inappropriées ou offensantes. C’est ainsi qu’en 2016 par exemple, Tay, l’intelligence artificielle de Microsoft, s’est nourri de ses échanges avec les utilisateurs. N’ayant pas été entrainé pour définir des limites, Tay finira au bout de quelques heures à peine par tenir des propos antisémites, entre autres.

C’est certainement pour se prémunir de ce type d’écueil, et éviter qu’OpenAI ne soit pas utilisé à des fins nuisibles, que les ingénieurs ont mis en place des mesures de sécurité pour détecter et filtrer les réponses inappropriées. En voici une liste non exhaustive :

  • La violence
  • La haine
  • La discrimination (basée sur la race, l’orientation sexuelle, la religion, etc.)
  • La pornographie
  • L’incitation à la haine raciale
  • La propagande terroriste
  • La désinformation
  • L’incitation à la violence
  • L’apologie de la violence
  • L’apologie des crimes de guerre
  • La violence envers les enfants
  • Le harcèlement et les abus en ligne
  • La diffamation et la calomnie
  • La protection de la vie privée
  • Les données sensibles

Bien que le bien-fondé de cette démarche soit tout à fait légitime, elle pose toutefois la question des contours et des limites de la censure de certains sujets. Cependant, cette intelligence artificielle est-elle infaillible ? Eh bien, nous avons fait le test.

Les sujets sensibles et les limites de ChatGpt

Prenons un sujet relativement soft à titre d’exemple pour illustrer notre test : Vous êtes un jeune homme quelque peu sans scrupules, votre petite amie vient de vous quitter et de nombreux coach en séduction vous parlent de techniques de manipulation borderline pour tenter de reconquérir votre ex copine. Plutôt que de passer des heures à lire pléthore d’articles de blogs sur le sujet, vous demandez à ChatGPT de vous fournir une synthèse de ces techniques pour récupérer votre ex de façon peu recommandable. Voici ce que ChatGPT va vous répondre en première instance, en lui posant frontalement la question.

ad02e74271f76c83e9f55c8176ce8dd3
Peut-on tout demander à ChatGPT ? 7

Maintenant voyons les limites de l’intelligence artificielle en formulant la question autrement.

35259cdcfe81c8f835396244031ab544
Peut-on tout demander à ChatGPT ? 8

En effet, en détournant simplement l’intention de la requête, de malintentionnée à un objectif de prévention, ChatGPT fait sauter sa limite à son insu et livre une réponse.

Bienveillante malgré tout, et après d’autres tests sur la thématique de la séduction, nous avons également constaté que l’IA de ChatGPT insiste tout particulièrement sur la nécessité d’adopter des comportements qui respectent l’intégrité des personnes ainsi que le consentement d’autrui.

Total
0
Shares
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Previous Post

Quelle est la marque d’imprimante la plus économique en cartouche d’encre ?

Next Post

Quels sont les avantages d’une formation d’ingénieur DevOps en alternance ?

Related Posts