ChatGPT : vertiges et dangers de l’IA générative

Qui n’a pas été tenté de poser quelques questions à ChatGPT, le dernier aboutissement de l’intelligence artificielle (IA) créé par la société américaine OpenAI ?

Cette version plus sophistiquée et intelligente des chatbots, c’est-à-dire de petits robots conversationnels, fait la une des journaux, même non spécialisés, qui s’extasient des capacités d’un tel outil. Il convient cependant de se méfier des résultats générés par ChatGPT. À titre d’exemple, un avocat américain a rédigé des conclusions avec ChatGPT, ne les a pas relues et le tribunal s’est aperçu que les décisions citées étaient imaginaires. J’ai pour ma part fait un test identique et suis arrivé à un résultat irrationnel et totalement fictionnel, voire comique.

Tout serait, d’après les spécialistes, une question de « prompt » ou d’« invite », c’est-à-dire du message d’interrogation adressé à l’IA qui ne serait pas correct. C’est ce qui justifierait les mauvaises réponses apportées par ChatGPT. L’explication n’est guère convaincante.

ChatGPT – in extenso Chat Generative Pre-trained Transformer – appartient à la grande famille des IA génératives (IAG, les initiés utilisent aussi l’expression GenAI) qui comprend les IA capables de créer de toutes pièces des images, des vidéos… avec la difficulté de distinguer ce qui relève du vrai et du faux, ce qui constitue un problème fondamental dans une société démocratique.

L’IAG pose des problèmes juridiques complexes auxquels les entreprises ne peuvent que s’intéresser et tenter, le cas échéant, de se mettre en conformité.

Rappelons à toutes fins utiles que la Cnil italienne avait en mars 2023 bloqué ChatGPT, en raison de soupçons de violations des règles de l’UE en matière de protection des données, pour l’autoriser quelques semaines plus tard et que, dans un mouvement de colère, le PDG d’OpenAI avait menacé de ne plus distribuer son produit en Europe.