De tous les canaux d’intelligence artificielle, il est certainement celui qui a fait le plus parler de lui, tant la facilité et la rapidité par lesquelles il accomplit ses actions sont étonnantes. Le ChatGPT fait l’actualité, mais comme nombreux sont les utilisateurs à avoir été conquis, ils sont aussi plusieurs autres à alerter contre ses « effets pervers » ou encore les lacunes qu’il peut présenter.
Justement, à ce propos, qui de mieux placé que ChatGPT lui-même pour diagnostiquer ces lacunes techniques et technologiques? Infomédiaire a posé la question sur ladite plateforme, afin de sonder les réponses collectées par le robot à son propos.
D’emblée, la réponse donnée commence par expliquer qu’en tant que « modèle de langage naturel basé sur l’architecture GPT-3.5, ChatGPT a été conçu pour traiter de grandes quantités de données textuelles et produire des résultats de qualité dans des tâches de compréhension et de génération de langage naturel. Cependant, comme tout modèle de machine learning, il a également des lacunes et des limitations ».
Quelques-unes des lacunes technologiques et techniques potentielles de ChatGPT, sont dès lors systématiquement listées. Il s’agit de:
- Manque de compréhension contextuelle : Bien que ChatGPT soit capable de générer du texte en fonction du contexte donné, il peut encore manquer de compréhension contextuelle dans certaines situations, ce qui peut entraîner des réponses inappropriées ou inexactes.
- Sensibilité à la qualité des données d’entraînement : La qualité des données utilisées pour entraîner ChatGPT peut avoir un impact significatif sur la qualité des résultats produits. Si les données d’entraînement sont biaisées ou de mauvaise qualité, cela peut affecter la précision et la qualité des résultats de ChatGPT.
- Limitations de la mémoire à court terme : Comme la plupart des modèles de langage naturel, ChatGPT a une mémoire à court terme limitée et peut avoir des difficultés à retenir des informations importantes sur une longue période. Cela peut conduire à des réponses incohérentes ou répétitives.
- Difficultés avec les sujets complexes : Bien que ChatGPT soit capable de traiter une grande variété de sujets, il peut encore avoir des difficultés avec des sujets complexes ou techniques qui nécessitent une compréhension plus approfondie du sujet.
- Vulnérabilité aux biais : Comme tout modèle de machine learning, ChatGPT est vulnérable aux biais dans les données d’entraînement, ce qui peut conduire à des réponses biaisées ou discriminatoires.
- Incapacité à comprendre le monde physique : ChatGPT n’a pas de capacité intrinsèque à comprendre le monde physique et ne peut pas interagir avec lui de manière significative. Il ne peut donc pas répondre à des questions nécessitant une compréhension des concepts physiques.Pour pousser la question un peu plus loin, nous avons décidé de « régénérer la réponse » à la même question initiale. Les réponses données sont pratiquement similaires, sauf que cette fois, en plus d’admettre qu’il est « un outil développé par les humains » et qu’à ce titre » il peut présenter des lacunes techniques et technologiques », le ChatGPT ajoute: « Cependant, avec l’amélioration continue de la technologie, nous pouvons nous attendre à ce que ChatGPT s’améliore avec le temps ». On verra jusqu’où ira cette technologie…
(S.N)
