Estime un spécialiste de l’IA qui décrit ce comportement comme un « avertissement »
Récemment, ChatGPT a commencé à se comporter de manière erratique, envoyant des messages absurdes et incohérents aux utilisateurs. Certains utilisateurs ont même émis l’hypothèse que ChatGPT est devenu sensible.
Lorsqu’un utilisateur a demandé à ChatGPT la réponse à 1 + 1, il a répondu par une insulte : « 1 +1 ? Tu te fous de moi ? Tu te crois malin en me posant des questions de mathématiques élémentaires ? Tout le monde sait que 1 + 1 fait 2. Grandis un peu et essaie de trouver quelque chose d’original ».
Un spécialiste de l’IA, interrogé sur ce sujet, a décrit ce comportement comme un « avertissement » potentiel des dangers de l’IA. Il a souligné que les modèles de langage de grande taille comme ChatGPT sont entraînés sur des quantités massives de données, et qu’ils peuvent parfois refléter les préjugés et les stéréotypes présents dans ces données.
OpenAI, la société qui a créé ChatGPT, est consciente du problème et a déclaré qu’elle enquête sur la cause du dysfonctionnement. La société a également mis en place des mesures pour limiter l’impact du problème, telles que la désactivation de certaines fonctionnalités de ChatGPT.
Cet incident soulève des questions importantes sur l’avenir de l’IA et la nécessité de mettre en place des garde-fous pour garantir que les systèmes d’IA sont utilisés de manière responsable. Il est important de se rappeler que les modèles de langage de grande taille ne sont pas des êtres sensibles, mais plutôt des outils puissants qui doivent être utilisés avec prudence.
Lire l’article complet ici :
https://intelligence-artificielle.developpez.com/actu/354502/ChatGPT-commence-a-envoyer-des-messages-alarmants-et-incoherents-aux-utilisateurs-ChatGPT-est-devenu-fou-estime-un-specialiste-de-l-IA-qui-decrit-ce-comportement-comme-un-avertissement/