ChatGPT est une Intelligence Artificielle, un programme qui permet de générer du texte à partir d’une simple question. Vous lui demandez par exemple de vous donner une recette de pâte à crêpes et voilà que le système vous propose un texte complet, reprenant les codes du genre, prêt à l’emploi et efficace.
Evidemment, ChatGPT n’invente pas cette recette ex-nihilo. Pas plus qu’il n’invente autre chose. L’IA est simplement câblée pour fouiller sur internet et retranscrire une recette qui existe déjà, la mettre en forme de la manière habituelle et enrober le tout à sa manière. C’est très impressionnant néanmoins. Notamment parce que le thème de la recette de cuisine fait partie de ceux les plus pillés en ligne. De nombreux « clones » de sites de cuisine existent sans avoir fait appel à autre chose qu’un copié-collé bien dosé. On comprend assez vite qu’il serait possible de créer un nouveau site de ce type en utilisant simplement un outil comme ChatGPT.
Cette capacité d’apprentissage et de restitution a de très bons côtés. Elle va permettre par exemple d’aider certaines personnes face à des démarches administratives. Le programme est très fort pour rédiger des lettres dans l’inimitable style ampoulé de l’administration. Ce type d’outil est parfait pour les tâches répétitives. Une sorte de singe savant capable de proposer une réponse bien formulée à des question complexes. ChatGPT me fait penser à ce champion de Scrabble qui devient le meilleur joueur en France alors qu’il ne parle pas la langue. Il a simplement appris par coeur le dictionnaire.
D’autres s’étonnent de la performance de ChatGPT en matière de programmation. Pour son apprentissage mais également directement pour rédiger des morceaux de code en Python ou C. Le système arrivant parfaitement a trouver des éléments efficaces sur le web et a les mettre en forme. C’est là encore souvent le même résultat qu’une recherche effectuée dans un moteur quelconque mais avec le gros avantage d’une mise en forme qui tombe prête à l’emploi.
Paradoxe amusant, l’IA parait plus utile parce qu’elle sert sur un plateau un contenu accessible via un simple moteur de recherche. La nuance entre ce que propose ChatGPT et le web traditionnel d’aujourd’hui tient surtout à l’enrobage qu’a autre chose. C’est un contenu textuel simple, lisible débarrassé de tous les artifices classiques. Pas d’images, pas de publicité, pas de liens dans tous les sens. De l’information brute.
Enfin, l’IA est parfaite pour écrire des petits textes « classiques » sur des sujets simples. Une « news » classique comme en pondent certains sites à longueur de journée pour continuer à proposer du « nouveau ». Mélange entre des formules toutes faites et des informations déjà largement rabâchées par le passé. Ces sites qui se basent sur les Trends de Google pour adapter leur contenu. En fonction des jours et même de l’heure de la journée, il sera important de venir occuper les résultats de recherches et donc de « pondre » un contenu non pas à destination première des humains mais plutôt des algorithmes des moteurs de recherche. A très court terme je pense que beaucoup de ces sites, qui n’ont de toutes façons pas beaucoup de considération pour leurs lecteurs, proposeront du contenu généré par IA afin de séduire… une autre IA. ChatGPT sera massivement employé pour ça.
Tout comme la rédaction des traditionnels « marronniers » qui reviennent chaque année dans la presse comme le changement d’heure, le poids des cartables ou l’avancée du moustique Tigre en été.
Julien Cadot a écrit un billet sur Numerama qui montre l’impact possible de cet outil dans le futur de la presse en ligne. Il a au passage rédigé un petit Thread Twitter sur le sujet. Son avis est assez clair, ChatGPT et autres outils du genre vont transformer la presse. Les journalistes vont devoir apprendre à travailler avec mais également contre l’IA. Il va falloir retrouver du style, savoir angler des papiers, creuser un peu plus loin que le sujet de base. Parce que l’IA saura à coup sûr faire le travail de retranscription d’une dépêche AFP. Les personnes actuellement employées pour ne rien faire d’autre que d’arranger à leur sauce ce type de contenu ont effectivement du mouron à se faire. Ceux qui font un véritable travail journalistique peuvent dormir sur leurs deux oreilles, ChatGPT n’est pas encore capable d’enquêter, d’interviewer et d’analyser les données recueillies.
Vous l’aurez compris, je n’ai pas spécialement peur que l’outil me remplace. D’abord parce que mon employeur n’est autre que moi même et qu’il n’a pas l’intention de me mettre à la porte. Ensuite parce que j’essaye de toujours mettre une certaine valeur ajoutée dans ce que j’écris. Valeur que des outils comme ChatGPT n’est pas encore capable de générer. Un peu comme les IA de création graphique. Elles sont très fortes pour créer des choses à partir du travail des autres mais bien incapables d’une véritable originalité pour le moment. De véritables artistes travaillent déjà avec les IA mais pour générer des choses originales à partir de leurs propres idées, pas en piquant celles des autres. Etienne Mineur en parle très bien sur son site.
Un artiste comme Pascal Blanché décrit assez bien sur Twitter comment il se sert des IA graphiques pour son propre travail. Le squelette ci dessus a été généré en se basant sur le folklore du monde des jeux de rôle. L’image fait partie d’un Thread récent à ce sujet. C’est un rendu très propre mais ce n’est rien d’autre qu’une image visitée d’un concept vu et revu. Il faut aller voir le travail final de Blanché ou Mineur pour comprendre ce que leur permettent ces outils génératifs. Et cela n’a plus rien à voir avec le travail d’une IA.
Les outils informatiques actuels ont surtout offert aux gens de changer leur manière de travailler. N’importe qui peut aujourd’hui écrire, faire de la musique, faire de la 3D, imprimer des objets, faire des montages vidéo ou programmer des outils. Un traitement de texte moderne va vous aider à rédiger une lettre sans faire de fautes d’orthographe. Un outil de création 3D va vous apporter de l’aide contextuelle pour utiliser ses fonctions. Un programme de développement photo reconnaitra votre appareil et proposera de corriger les déformations de votre objectif en quelques clics. Toute cette aide qui existe déjà et qui permet de se débarrasser des éléments rébarbatifs ou d’améliorer la productivité d’un outil sont des versions passées de ce que proposent les nouvelles IA aujourd’hui.
Le moindre outil de programmation propose une autocomplétion du code. Si demain une IA me permet de ne plus avoir à taper de pénibles lignes de code mais me demande simplement ce que je veux faire en amont en me laisser créer la mayonnaise qui reliera l’ensemble avant de l’optimiser, cela me va très bien.
ChatGPT partout, l’originalité nulle part
Ce qui me fait peur est donc différent d’un « remplacement » d’un humain par une IA. Ce n’est pas la partie créative du processus qui m’inquiète mais plutôt l’envahissement de l’offre. Demain, des outils comme ChatGPT vont permettre à des gens de créer des médias, un site de recettes de cuisine, un magazine sportif ou autre, de manière quasi industrielle. C’est déjà le cas sur des sujets économiques ou sportifs dans divers journaux en ligne. D’ici peu des gens vont générer en masse un contenu parfaitement lisible par des humains. Et cela va brouiller fortement le contenu en ligne. Ou plutôt le faire foisonner. Suffisamment pour rendre encore plus difficile le véritable travail de journaliste.
Si un sujet vous intéresse et que vous faites une recherche aujourd’hui sur le web, vous finissez très rapidement par trouver une source d’information humaine, travaillée et fiable. Un vrai travail d’enquête. Mais si 50 médias tabassant des pages repompées de cette enquête de base grâce à une IA… cela sera une autre paire de clics. Le risque est que ces médias « auto générés » finissent par truster les moteurs de recherche. A devenir eux même la source de base de leur propre IA. ChatGPT se baserait alors sur des contenus générés par elle-même pour produire de « nouveaux » contenus. Reléguant le travail journalistique largement au second plan.
Le souci de cette évolution est qu’il sera alors extrêmement difficile pour une rédaction de continuer à s’offrir les services de vrais journalistes pour réaliser des enquêtes. Il sera bien plus rentable de dresser des IA sur 50 ou 100 sujets différents, ratissant le web pour proposer la même chose que ses voisins mais dans un enrobage maison. Une évolution qui mènera à une explosion des contenus et donc des pages web et de la publicité. Les agences verront probablement d’un mauvais oeil ce contenu sans valeur ajoutée et baisseront encore la rémunération de la publicité. Un effet de domino qui poussera à proposer encore plus de pages avec encore plus de pub sur encore plus de sujets et ainsi de suite.
Les derniers pouvant encore offrir du contenu original en ligne ne seront plus que de deux ordres, c’est déjà le cas aujourd’hui. Des médias privés fonctionnant à perte et dont le but ne sera pas spécialement l’information du public mais plutôt de partager la vision du monde de leurs propriétaires. De l’autre côté des médias indépendants, financés par leurs lecteurs. Le premier média étant évidemment le grand gagnant de cette histoire puisque le contenu éditorialisé et financé par un groupe a tout intérêt à être partagé au maximum, même par des IA. Les sites web indépendants vivant derrière un abonnement n’ont bien évidemment rien à gagner à voir un robot venir butiner leurs articles rédigés par des humains pour être retranscrits gratuitement ailleurs…
Si je propose aujourd’hui une peinture d’un ordinateur à la façon d’un grand peintre du passé comme Van Gogh ou Degas, tout le monde saura qu’il s’agit d’un faux pour de simples raisons historiques. Mais pour un texte repris en totalité à partir de l’enquête d’un autre, il sera bien plus difficile de discerner la source. Les outils informatiques ne s’encombrent pas de morale et ils pilleront tout ce qui leur parait utile pour remplir leur mission.
L’arrivée de ChatGPT dans les commentaires
Vous ne vous vous en rendez probablement pas compte mais tenir un site comme Minimachines demande un énorme travail de modération. Des dizaines de milliers de commentaires ont étés supprimés par mes soins depuis que le blog existe. La plupart du temps, c’est assez facile parce que les outils utilisés pour poster ces commentaires sont idiots. Il s’agit en général de proposer des liens vers différents sites sans s’intéresser au contenu de celui-ci. Je me retrouve donc régulièrement avec des commentaires en Anglais, en Russe, en Arabe ou même en Japonais. Et je me doute qu’il s’agit de publicité déguisée. D’autres sont plus « malins » et écrivent des commentaires « bateaux » et passe-partout pour tenter de se glisser entre les gouttes…
Mais comment faire si le spammeur utilise un outil comme ChatGPT ? J’ai essayé de voir ce que cela donnerait avec une formulation très simple. L’IA se défend très bien pour générer un texte en accord avec un billet. La forme se répète pour beaucoup mais je n’ai pas été très fin dans mon approche. En indiquant uniquement un titre de billet dans l’outil, on génère un texte que j’aurais bien du mal à déceler comme un commentaire publicitaire. Cela va rendre la modération bien plus compliquée à terme.
Dernier point qui me rend inquiet, le spam via IA.
Aujourd’hui généré en vrac, dans une orthographe et une syntaxe rudimentaires, le spam va largement évoluer avec des outils comme ChatGPT. Les spammeurs vont rapidement mettre en place des interfaces pour proposer des contenus plus soignés à leurs cibles. Au lieu d’envoyer des emails génériques en masse ils vont pouvoir envoyer des histoires beaucoup plus probables dans les même proportions.
Cela leur permettra de toucher plus de monde, d’essayer de nouveaux scénarios et surtout d’éviter de voir leur message type se faire « griller » en le copiant collant dans un moteur de recherche. En générant des messages plus « originaux », les spammeurs vont avoir une arme supplémentaire pour appâter leur proie avant de prendre le relais plus activement.
Bref, ChatGPT est un nouvel outil, puissant, intéressant et fascinant. A la différence des IA graphiques, elles proposent un contenu beaucoup moins facile à déceler. Je suppose qu’elles arriveront au sein d’outils classiques à moyen terme et qu’au lieu de proposer un modèle de carte de vœux classique, votre traitement de texte vous demandera bientôt de choisir entre plusieurs modèles générés à la volée.
C’est très intéressant pour beaucoup d’usages mais cela ne va pas sans contreparties dont certaines restent malgré tout assez inquiétantes.
Pour tester ChatGPT, rendez vous sur Openai.com
| 2,5€ par mois | 5€ par mois | 10€ par mois | Le montant de votre choix |
Bonjour Pierre, en tant que parent de lycéen et de collégien, cet outil dont je découvre l’existence m’inquiète également sur le fait qu’il puisse permettre de tricher encore plus facilement et de manière beaucoup plus discrète qu’avec des copier coller Wikipedia…
D’apres le gars de Linus Tech Tips, il y a 2 trucs vraiment puissants:
1- on peut « ouvrir une session », qui permet de donner des instructions en plusieurs fois, et raffiner la requête
2- on peut préciser « du point de vue de », « dans le style de « , etc pour avoir un article, un poeme, une pub, un devoir, …
@Olivier Barthelemy: (et non c’est pas Linus, il a un techos qui a fait le boulot avant qu’il vienne faire le guignol ^^)
« De nombreux « clones » de sites de cuisine existent sans avoir fait appel à autre chose qu’un copié-collé bien dosé. »
Ouais ça peut servir à certains youtubeurs :wink:
Merci Pierre pour cet article qui m’a fait découvrir cet IA.
Les « journalistes » de Science & Vie version Reworld vont devoir se trouver un autre boulot !
J’ai testé, elle est très pertinente quand on lui pose des questions précises.
Plus sérieusement, le commentaire de Josselin est intéressant. Cela pourra devenir compliqué pour les enseignants….
Merci pour cet article plein de réflexion. J’ai lu par hasard hier les chroniques d’un créateur sur Art Station essayant d’imaginer l’impact des logiciels d’AI sur la création graphique. Expliquant en gros comme toi que, qu’on aime ou qu’on aime pas, on y aurait droit mais qu’il pourrait même en sortir du bien via une sorte de synthèse du patrimoine artistique mondial. Au-delà de la philosophie un peu naïve du Monsieur, j’ai surtout été impressionné par la violence des autres membres illustrant la peur panique que ces outils sont en train de générer dans certains milieux qui se pensaient sans doute protégés.https://www.artstation.com/artwork/2qEm1B (en anglais)
J’ai voulu m’inscrire pour tester , mais cela me réclame un numéro de téléphone ??
Il faut combattre le mal par le mal. Avec un peu d’IA, il me semble qu’il ne devrait pas être trop difficile de distinguer les commentaires générés par IA pour les modérer automatiquement…
Ceci est un article généré avec une IR ! 😉
Merci Pierre pour cette analyse. Cela mérite de se poser énormément de questions. Déjà qu’il est extrêmement difficile de s’informer, cette outils va semer encore plus de doute…
Pour ma part, je trouve que toutes ces IA et tous ces assistants permanents qui sont sensés nous libérer des tâches les plus pénibles nous abrutissent de plus en plus : on ne prend plus le temps de réfléchir puisque l’IA le fait pour nous. À chercher plus de productivité, on en devient moins humain.
@Laurent Simon:
Plus les resultats ressembleront a des productions humaines et moins il sera possible de les reperer.
A terme, ce sera strictement impossible dans la majorite des cas.
Mouais, faut pas s’emballer, rien de nouveau sur le fond… Au milieu des 90′ j’avais croisé un ancien pote de lycée qui travaillait sur des algos de génération de scénari de feuilletons TV (pour les plus jeunes, c’est l’ancêtre de la série sur Netflix/Disney/Amazon…).
Question usage, on a eu un bon en avant il y a 20 ans quand des PCs moyens on pu faire tourner des algos d’apprentissage correctement et qu’une offre logicielle, certes « pro », a été dispo (e.g. Matlab).
Là, c’est certain que le bond de ces dernières années est lié à la mise à disposition d’outils puissants pour n’importe qui et à moindre cout…
L’auteur de l’article n’a absolument pas compris comment fonctionne less IA actuellement. Elle ne fouille (sic) pas internet et ne remet pas en forme son contenu. Elle est evidemment entrainée a partir de donnée sur le web, mais contrairement a ce qu’ecris l’auteur, elle peut generer du contenu original.
Presque ironiquement, j’aurai preferé que l’auteur s’aide d’une IA pour l’aider a rediger l’article, ca lui aurait evité d’ecrire des grosses betises.
@John Smith: L’auteur de l’article sait parfaitement qu’il anticipe le futur, il n’a pas encore constaté ce que les IA vont faire dans le futur puisqu’il est malheureusement coincé dans le présent. Pas de spam via IA, pas de hameçonnage par IA ni même de création d sites entièrement généré par des IA sur des sujets en Trends. Cela dit, cela n’empêche pas toute anticipation et travail d’imagination concernant ce qu’il va se passer en ligne. C’est peut être ici que se trouve la différence entre un commentaire généré par une IA et celui écrit pas un humain.
Rien n’empêche d’ouvrir la voie à une recherche en direct sur le web dans le futur et c’est probablement la voie que vont suivre la plupart des usages. C’est celle qui est suivie par les IA générant des commentaires sportifs ou des commentaires économiques dès aujourd’hui. C’est celle qui sera la plus efficace et donc celle qui sera choisie à terme.
Quand a écrire du contenu original, une IA peut certes écrire des poèmes ou des histoire voire des dialogues mais ne pourra pas interviewer, enquêter et analyser des détails à l’épreuve des faits. C’est exactement mon propos et c’est exactement pour cela que les utilisateurs de ces IA vont leur ouvrir les portes d’une consultation en ligne. Pour qu’elles puissent butiner l’actualité et la remettre en forme depuis une dépêche AFP par exemple. Une méthode simple pour faire passer leur manque d’analyse autonome.
@eeegr: Le bon en avant est incomparable. Les générateurs de scénarios n’étaient souvent rien d’autre qu’un random sur des thèmes prédéfinis mis bout à bout façon roulette. C’était un jouet qui générait des trucs au pif et parfois, rarement, on tombait sur une pépite qu’il fallait ensuite remettre en forme.
Là je viens d’essayer : « Propose un pitch de scénario mettant en scène les 4 mousquetaires dans l’univers de star wars »
La réponse de ChatGPT : « Les 4 mousquetaires sont des héros légendaires de la galaxie, connus pour leur bravoure et leur loyauté envers l’Empire. Mais lorsque leur mentor, le vieux maître Jedi d’Artagnan, est assassiné par le sinistre Dark Vador, les 4 mousquetaires doivent unir leurs forces pour venger sa mort et protéger la galaxie contre les forces du mal. Avec l’aide de Leia Organa et de la Rébellion, ils affronteront des ennemis redoutables et feront face à des choix difficiles pour sauver la galaxie et protéger la paix. »
Je peux témoigner : je travaille sur de l’IA qui a un impact sur le quotidien de milliers de personnes. Aujourd’hui l’IA est l’apanage des grands groupes qui peuvent financer des programmes pour l’utiliser a des fins de controle. Les outils informatiques dont disposent les particuliers pour riposter ne suffisent pas à contrer cette surveillance, bien que beaucoup d’astuces permettent de contourner temporairement le controle (et d’induire des couts d’adaptation de l’IA pour les grands groupes).
Le fait de mettre entre les mains des particuliers des outils à base d’IA équilibre le jeu. C’est, à mon avis d’initié, une absolue nécessité pour préserver un semblant d’équilibre entre les grandes organisations et les individus.
J’invite d’ailleurs mon entourage à s’approprier ces nouveaux outils qui en temps utile leur premettront peut être de contourner un controle par IA mal implémenté, à défaut d’être malveillant. Par exemple je sais que certaines entreprises ne considèrent pas la marge d’erreur des IA. Sur certains cas de figure on sait qu’on a 4% d’erreur de détection, soit 4% d’utilisateur qui se retrouvent de facto bloqués face à un système qui estime avoir raison. Je vous rassure rare sont les entreprises à avoir une telle approche. Dans le cas de ChatGPT on peut imaginer contourner des filtres de CV sur mot clé, qui sont absurdes, et donc éviter de se faire recaler pour un simple oubli de buzzword.
Ceux qui pensent qu’il « suffit » d’entrainer une IA à détecter ce qui est produit par une autre IA, sachez qu’il existe des IA spécifiquement conçues pour éviter la detection par IA : les Generative Adverserial Networks. Toutes les IA ne sont pas construites sur ce modèle et toutes ne sont pas adaptables à cette architecture mais une hybridation rendra la chasse aux « faux » très difficile et couteuse.
Il y a d’ailleurs déjà des agences gouvernementales, en france notamment, qui travaillent à la detection des fameuses « fake news » générées par IA.
A mes yeux ces outils grand public sont une très bonne nouvelle. Il y aura des remous le temps que les uns et les autres s’adaptent à l’IA mais rassurez vous ce n’est pas un outil magique. Une fois qu’on sait que ça existe et ce qu’on peut en faire on peut s’en défendre, et surtout on peut le mettre à profit.
Il existe aujourd’hui de très nombreuses taches répétitives qui ne peuvent pas être automatisées car pas suffisament standard, mais qui sont suffisament similaire pour être barbantes au possible. Avec l’IA on pourra se concentrer sur la valeur ajoutée. C’est l’automatisation de toute une classe de problème qui arrive.
Aujourd’hui c’est très compliqué d’expliquer à quelqu’un comment l’IA peut lui profiter car personne ne sait vraiment ce que ça fait et ce qu’on peut en attendre. La diffusion de masse de ces outils permettra à chacun de se saisir des possibilités et un jour peut être certains se diront « c’est relou ce que je fais, on pourrait pas mettre de l’IA ici ? ».
A mes yeux le soucis c’est le cout énergétique. C’est tellement, mais vraiment tellement plus énergivore de procéder via IA qu’avec une logique conditionnelle classique. On pourrait se diriger vers un boom de l’IA, car c’est un argument marketing, et se mettre à traiter par IA des problèmes qu’on peut traiter autrement plus efficacement énergétiquement avec une programmation classique.
Hahaha, quand je vois le scénario proposé je ne peux m’empêcher de penser à un générateur de discours politique lénifiant que j’ai vu il y a quelques années déjà: c’est creux et complètement bateau (mais j’ai bien rigolé).
Il y a un billet sur linuxFr
https://linuxfr.org/users/lovasoa/journaux/est-ce-qu-une-ia-peut-choisir-la-licence-du-code-qu-elle-ecrit
Ou chatGPT est utilisé pour créer, programmer, déboguer un jeu en ligne (en javascript html css).
Il faut avouer que le résultat est assez bluffant:
https://sensitive-topic-history-quiz.ophir.dev/
@J: Merci pour ce commentaire.
Si de grandes organisations investissent massivement dans l’AI c’est qu’elles en ont les moyens et en tirent un bénéfice.
Pour le particulier cela me semble beaucoup plus compliqué de trouver une utilisation pertinente à ces outils.
@nouknouk: zut quelqu’un d’autre a déjà pensé à faire cette blague :)
@Luc: Cela passera par des outils comme pour le reste. Aujourd’hui dans un logiciel d’image tu peux sélectionner automatiquement une personne et en détacher le fond. Pour le sélectionner ou pour flouter le fond dans de la vidéo conférence par exemple. Ce sont des outils pour tout le monde alors que personne ne maitrise comment cela fonctionne.
Demain ton traitement de texte va détecter une formulation et te proposer un modèle de lettre type. En te demandant de remplir les trous. Toute cette paperasse administrative sera déjà dans le logiciel et cela apparaitra aussi logique que d’avoir un mot souligné en rouge avec une proposition de correction automatisée.
Les caméras de surveillance vendues aux particuliers sont aujourd’hui capables de détecter une forme humanoïde, c’est de l’IA. Elles ne coutent que 30€. Les bracelets sportifs savent détecter si tu fais de la course, du cyclisme ou du rameur automatiquement. C’est de l’IA également.
Evidemment les usages les plus complexes ne seront pas à la portée de tous mais il suffit de regarder ce qui est fait avec certaines SBC, typiquement les Jetson de Nvidia, pour voir que certains particuliers se sont emparés de ces possibilités. D’ailleurs de plus en plus de fabricants de ces cartes se mettent a proposer des SoC avec NPU.
@john smith : aucune IA ne peut creer une information ORIGINALE qsui n existe pas.
Petit rappel : le I d IA ne signifie pas Intelligence mais Données (c est une petite erreur de traduction, c est le meme I que CIA).
Cela signifie qu’une IA est un outil de mise en liaison très puissant des informations mais pas de création d’une information x nihilo qui reste, pour le moment, l apanage de l’humain.
Donc non Chat ne peut pas creer de l’information ( ce qu’on appelle information originale), elle peut créér un lien qui n’avait pas été vu entre les informations nuance.
@Laurent Simon : non on ne peut pas nécessairement combattre une IA par une autre IA.
Chaque IA, quelle que soit sa facon de faire, aussi sophistiquee soit elle, va trouver des solutions en fonction des liens qu’elle fait entre les données. Aucun IA ne sait voir tous les types de liens existant donc aucune IA ne pourra de facon généraliste combattre une autre IA. Je pense que je saurais faire une IA détectant la facon dont travail CHAT et donc la combattre…. jusqua ce que cette IA évolue (ce qui sera forcément le cas) et que cela ne fonctionne plus. Un éternel combat…
@Pierre Lecourt:
tu réponds peut-être à un commentaire généré par l’IA à partir de ton article ;)
Pierre (et beaucoup de gens) je pense que tu te trompes sur la question de l’originalité.
Non pas tellement en sous-estimant l’IA, mais en sur-estimant l’humain.
Exemple: https://ibb.co/djrjVSt
Alors oui c’est à base d’ingrédients réels réarrangés, mais combien d’humains peuvent faire mieux ?
Si je pose la même question dans la rue (inventer un faux évènement historique), combien de personnes vont faire plus original ?
Notre « créativité » humaine est aussi, quasi-exclusivement, de remixer des choses déjà vues.
Une fois de temps en temps, un humain invente réellement quelque chose de nouveau: Mozart, Da Vinci, Einstein… En général on les appelle des génies pour cet exploit, et même dans ces cas, ils ne se basent pas sur rien. Mozart n’aurait pas composé du Mozart s’il n’était pas imprégné de toute la musique existante à son époque, Einstein n’aurait pas pondu la relativité s’il n’avait pas ingurgité toute la Physique disponible à l’époque.
Est-ce que l’IA est capable de ces « éclairs de génie » ? Peut être pas. Mais c’est mettre la barre au niveau du top 0.01% de l’humanité.
@Human After All: Je pense que tu ne vois pas le problème par le bon côté.
Pour une histoire « viable » avec une IA, combien d’histoires totalement nulles proposées par la même IA seront rejetées ? Et encore, j’écris juste viable car partir d’un pitch est une chose mais parvenir à un résultat concret en est une autre. Cette histoire de fonctionnaire est assez symptomatique. L’idée parait rigolote mais au final cela ferait juste un mauvais scénario de nouvelle. Il faudrait l’étoffer de 1000 anecdotes pour en faire une histoire correcte.
En France les maisons d’édition et les producteurs cinéma reçoivent chaque année des milliers de romans et de scénarios. Très très peu finissent par donner quelque chose. Pour moi une IA proposera dans 99% des cas un truc que l’on jugera bon sur le moment mais que l’on trouvera nulle 24 heures plus tard. Sur le 1% restant il y aura peut être un tout petit bout de choses valant la peine de fournir une idée pour un autre projet plus ambitieux.
Si tu te retrouves avec des amis et qu’au cours de la soirée vous partez sur la même idée d’un évènement historique inventé, tu auras sans doute 100 fois plus d’idées intéressantes et amusantes que celles données par une IA. Et pourtant la majorité de ces idées ne supportera pas plus une simple nuit de recul.
Enfin, et c’est super important à mes yeux, il n y a pas d’humains limités ou très peu faute à un handicap. Si tu estimes que peu de gens arriveraient a faire mieux c’est parce que peu de gens ont le temps de prendre du recul sur ce genre de choses. Quand tu bosses toute la journée et que tu rentres le soir te reposer, tu n’as pas envie d’imaginer des scénarios de ce type. Tu es coincé dans une bulle de travail/repos. Mais colle n’importe quel humain normalement constitué dans un univers où il prend le temps de lire d’autres choses, de regarder des films et d’aller au théâtre voir des pièces et il sera parfaitement capable d’imaginer des scénarios complexes.
L’humanité n’est pas spécialement composée d’un très faible pourcentage de génies à mon sens mais d’un trop grand nombre d’intelligences sacrifiées. Certaines de ces intelligences sont mieux employées que d’autres justement parce qu’elles ont le loisir de s’employer a réfléchir à autre chose qu’au quotidien tout en ayant assez de loisir pour ingurgiter leur environnement culturel.
Quand tu fais des ateliers avec des enfants, tu t’aperçois très vite qu’ils peuvent pondre des scénarios complexes, des histoires alambiquées et drôles. Pas des éclairs de génie et une production qui manque de fond et de rigueur mais une créativité toujours étourdissante. Probablement parce qu’ils sont encore dans le bain du narratif chez eux comme à l’école. Tu met un gamin face à une boite de Lego et il construit tout un univers sans même s’en rendre compte. Et crois moi les mômes trouvent des trucs qu’une IA ne trouvera pas de si tôt.
L’IA est et reste un « singe savant » avec une mémoire éléphantesque et la possibilité de travailler sans relâche. Cela lui ouvre bien des possibilités mais un humain cultivé qui s’ennuie aura rapidement plus de facilités a trouver des choses plus originales et complexes.
@Pierre Lecourt:
j’ai dirige une equipe de R&D dans le domaine. Les humains ne creent pas d’informations ex-nihilo comme tu le pretend, les scientifiques n’elaborent pas de theories ex-nihilo, pas plus que les artistes ne creent des oeuvres ex-nihillo; ils s’inspirent de ce que leurs predecesseurs ont realisés. C’est le cas de toutes les creations humaines.
– Il y a plusieurs classes de d’algorithmes de machine learning (l’utilisation du terme IA est galvaudé):
– classification
– regression
– generative
– reinforcement learning
chatGPT (qui utillise GPT-3) utilise une modele generatif
Juergen Schmidhuber tres eminent et renommé chercheur en AI decrit de cette facon la resolution de probleme par un cerveau: (mon resumé travestit sans doute un peu sa pensée)
« Quand nous interagissons avec le monde, nous construisons des modeles internes en compressant l’information (avec perte). Quand nous utilisons les modeles internes, pour resoudre des problemes, nous decompressons les information que l’on a stockées => on a l’impression que notre « conscience » a inventé quelque chose de nouveau alors que ce n’est que le fruit d’une decompression imparfaite »
J’ai la conviction que le succés de l’espece humaine est du a une part d’inne beaucoup plus faible que les autres especes (qui ont proportionelement plus de modeles internes et de donnees de maniere inne ) et de la necessite qui en decoule de compresser/decompresser beaucoup plus de donnees par rapport aux autres especes.
Les GAN (Generative adversarial network) fonctionnent exactement de cette facon
GPT-4, avec 100 trillions de parametres soit 500 fois plus que GPT3, aura des capacités absolument incroyable. Je te donne rendez-vous ici meme, dans quelques mois; tu m’expliqueras a quel point tu t’es trompé ;-)
sources:
https://twitter.com/geoffreyhinton/status/1270814602931187715 (Hinton est un des inventeurs du deep learning)
https://en.wikipedia.org/wiki/Generative_adversarial_network
https://people.idsia.ch/~juergen/creativity.html
https://www.reddit.com/r/MachineLearning/comments/2xcyrl/i_am_j%C3%BCrgen_schmidhuber_ama/
@John Smith:
« j’ai dirige une equipe de R&D dans le domaine. »
Perso je bois du café toute la journée et j’ai la fâcheuse habitude de commencer trop de trucs à la fois, John Smith. C’est le problème des pseudos. Moi je peux pas dire que je suis astronaute, toi tu peux dire que tu es danseuse étoile.
« Les humains ne creent pas d’informations ex-nihilo comme tu le pretend, »
Où suis-je censé avoir prétendu pareille chose ?
Non, je ne le prétend pas. Soit tu m’auras mal lu, pressé de trouver un argument pour défendre ta vision de mon billet. Soit tu m’auras mal compris, ce que je peux parfaitement comprendre. A partir du moment où l’humain exprime une idée via un langage, il y a peu de chance qu’il puisse élaborer une pensée ex-nihilo. Il lui faut d’abord manier un vocabulaire qui ne vient pas de lui. Ce qui résout sans difficulté l’équation de cette création appuyée sur le savoir des autres.
« – Il y a plusieurs classes de d’algorithmes de machine learning (l’utilisation du terme IA est galvaudé): »
Ah je ne suis pas au courant mais je n’ai pas l’intention d’écrire un papier scientifique, je m’adresse à des gens qui comprennent de quoi je veux parler. Du reste dans ton premier commentaire comme dans ce second tu utilises toi même ce terme « IA ». Je le pensais légitime. Assez pour restreindre le champ de la compréhension et du passage des idées (Ce qui m’importe plus que sa légitimité du reste).
« J’ai la conviction que le succés de l’espece humaine est du a une part d’inne beaucoup plus faible que les autres especes (qui ont proportionelement plus de modeles internes et de donnees de maniere inne ) et de la necessite qui en decoule de compresser/decompresser beaucoup plus de donnees par rapport aux autres especes. »
Ca c’est intéressant. J’aurais tendance a voir cela d’une autre manière cependant. C’est mon côté optimiste. Perso je vois le succès de l’humanité non pas à cause d’un inné plus faible mais plutôt par une plus grande capacité d’observation et de répétition que d’autres espèces. Cela ne veut pas dire que cette interprétation d’un faible inné n’est pas vraie. Je me répète, c’est intéressant. Mais que cela ne sert à mon sens que de terreau à de nouvelles expérimentations au lieu de la répétition de mouvements inscrits dans nos gènes comme la migration ou le fait de se limiter à un régime particulier. On a certes un cerveau reptilien et des peurs ancestrales mais l’humanité a appris qu’avec un bâton durci au feu il pouvait aussi bien taper sur un serpent que sur son appréhension innée de celui-ci.
« GPT-4, avec 100 trillions de parametres soit 500 fois plus que GPT3, aura des capacités absolument incroyable. Je te donne rendez-vous ici meme, dans quelques mois; tu m’expliqueras a quel point tu t’es trompé ;-) »
Ah oui, smiley smiley après les arguments d’autorité c’est rigolo. Mais trompé sur quoi ? Je me pose toujours la question
Donc moi je n’ai pas le droit de parler du futur mais toi tu peux le faire et, mieux encore, me défier dans un petit concours où vraisemblablement on ne joue pas à armes égales. Bravo, c’est courageux.
Il y a plein de façons de réagir sur Internet. Il y a par exemple des gens vertueux qui viennent apporter des précisions, soulever des points, élargir des horizons et faire évoluer l’intelligence collective. J’en raffole. Et puis il y a les peignes-cul qui viennent donner des leçons en tapant à côté tout en lançant des défis sans risque du haut d’un pseudo ne faisant même pas semblant de se cacher derrière son parfait anonymat. John Smith. Parce que non, même si tu étais dans le vrai – je ne sais toujours pas sur quel point mais passons – et gagnais un prix Nobel… Et bien ce ne serait probablement pas sous le nom de John Smith. Aussi dans « quelques mois » tu n’auras rien gagné d’autre que de glorifier ton petit égo au détriment de tout le monde. Et si dans 6 mois GPT-4 ne se révèle pas aussi brillant qu’espéré, on peut bien sûr compter sur la probité Smithienne pour que tu viennes nous faire un rapport d’étape…
Là où tu aurais pu éclairer grâce à ton savoir tu passes juste pour un fragile revanchard… Et, c’est juste triste.
Moi c’est pas ça qui m’inquiète, ni les licenciements massifs sue cela va entraîner dans tous les secteurs.
Nous n’en sommes qu’au stade du texte et des images, ce qui n’est rien en comparaison de ce qui arrive ave l’AI qui sera capable de créer des vidéos entières incluant des personnages fictifs ou bien (et c’est là le pbl) des personnes existantes. On ne saura plus distinguer le vrai du faux, on pourra faire croire tout et n’importe quoi à n’importe qui. Les gouvernements mais aussi les organisations privées pourront s’en servir contre les peuples et diviser les gens les soumettre davantage , faire croire qu’untel est mort par exemple en montrant la vidéo (fictive) de son assassinat, etc. Ce qui se trame avec le développement des AI est en effet terrible et le monde sera complètement sens dessus dessous.
@Petroleum: Oui mais c’est un argument qui a existé avec l’apparition de la presse, de la photo et même des radios libres. Au final les gens s’éduquent à ces nouveaux formats. Aujourd’hui on a des gens un peu perdus car la technologie avance à grand pas mais les plus jeunes ont déjà un regard plus aiguisé sur les contenus. Je ne dis pas que tout le monde en sortira indemne mais je pense que pas mal de gens vont s’immuniser contre les Fake News.
@Petroleum:
il existe des algos de machine learning capable de détecter les images alterées ou a fortiori generées. Dans une image ou une vidéo il y a énormément d’informations non perceptible a l’oeil humain qui seraient très difficile a une « IA » de copier.
Par exemple il est relativement facile de savoir par quelle type de capteur numérique une photo a été prise.
Par contre, pour du texte generé, c’est beaucoup plus compliqué a détecter.
buster.ai qui est une start-up française spécialisée dans le domaine de détection de fake est déjà utilisé par certain grand media
https://business.ladn.eu/news-business/actualites-startups/buster-ai-pepite-francaise-deep-tech-levee-fonds-lutte-contre-desinformation/
@John Smith: Ah tiens : Je connaissais pas Buster.ai, c’est intéressant. J’aimerais bien savoir comment cela fonctionne. Et comment des IA pourvoyeuses de fake news ne vont pas contourner le problème en apprenant a passer entre les mailles du filet.
@Pierre Lecourt:
Cela fonctionne comme tous les entrainements supervisés. Il faut entrainer un reseau de neurone artificiel a partir d’un jeux de donnée contenant deux classes d’images: celles qui sont fake et celles non modifiés.
Pendant l’entrainement le reseau de neurone « apprend » a faire le distinguo entre les deux classes.
Il s’agit d’un reseau de neurone de type « classification ».
Les reseaux de neurones qui cree des fakes sont de type generatif.
La mise au point de reseaux de type generatif est vraiment beaucoup est plus compliqué que celle d’un reseau de type classification. Et ca coute egalement beaucoup plus cher a entrainer car l’apprentissage est plus long.
Du fait de ces dissymétries, pour le moment, il y a un avantage pour les AI detecteurs de fake.
@John Smith: Alors pour les images je vois bien comment y arriver. Mais pour le texte j’ai plus de mal. Comment une IA peut détecter qu’un texte est généré par une IA ? Avec quel pourcentage de réussite. Et aussi, comment cette IA qui génère un fake peut t-il apprendre a déjouer cette détection ? Le gros avantage de l’IA étant qu’il est possible de l’entrainer rapidement.
On peut coller une IA « Fakeuse » et une autre « détecteur » l’une en face de l’autre et les laisser jouer au chat et à la souris jusqu’au moment où le taux de détection passe en dessous d’un seuil non ? C’est super dur à combattre je trouve.. Ou alors il y a un truc que j’ai pas compris.
@Pierre Lecourt:
<> Ah , excellent ! C’est presque exactement de cette facon que sont entrainé les GAN (Generative Adversial Network). Le reseau de neurone derriere le celebre https://thispersondoesnotexist.com/ est un pure GAN
L’entrainement des GAN est compliqué, l’algo ne converge pas toujours et/ou difficilement. La partie « generateur » du GAN n’arrive jamais a 100% a trompé la partie « discriminante » du GAN. Generalement si la partie « discriminante » est trop efficace, l’entrainement ne converge pas …
On peut donc creer un autre reseau de neurone plus efficace que la partie « discriminante » du GAN qui pourra detecter le fake.
Pour le texte ,en effet, sur les petit corpus, c’est quasi indetectable, ou alors avec beaucoup de faux positifs …
si l humain est bien capable de generer une idee ex nihilo (enfin rares sont ceux qui le font).
Il ne faut pas confondre une idée et un concept entier.
Le fait d utiliser un langage ne change pas ce fait, en tout cas pas pour des langages humains (un langage mathématique lui bloquerait de par sa conception cette génération ex nihilo).
A un moment, l’évolution se fait avec des idées qui ne sont pas inférés (sinon on aurait cessé d’évolué depuis bien longtemps).
Les bases initiales étant assez faible, il y a eu pas mal d’idées créées ex nihilo de l’humain.
Par contre aucune théorie connue ou architecture n’a été créée ex nihilo, ce qui serait de toute facon un peu idiot : on s’appuie tous sur le savoir ancestral pour toute action, ne pas le faire serait une perte idiote d’énergie.
Mais dans la création globale, les génies savent ajouter une idée issue de nulle part pour résoudre un problème.
Par exemple le génie d einstein n est pas la relativité en elle même : cette dernière est bien issue de travaux passés et les idées nouvelles issues de travaux plus anciens, sauf une qui a servi a mettre une base « physique » et « expliquer » le pourquoi. Cela fait peu mais cela fait tout le génie.
L’IA de par son principe actuel ne le permet pas.
Pour un texte, certaines IA peuvent éventuellement détecter leur origine, et le font pas si mal : ce sont les ia utilises pour la recherche de l’origine des histoires, IA elles même issues de celles utilises pour la biologie.
Bonjour Pierre,
Merci pour votre site et vos articles, toujours aussi intéressant.
Concernant une AI pour créer une oeuvre graphique, il y « DALL-E 2 » qui semble être pas mal. J’avais lu un article qui était pas mal, mais je ne le retrouve plus.
Je vous laisse faire vos recherche et votre avis. Personnellement, je ne me suis basé que sur des articles pour DALL-E et le votre pour ChatGPT ;)
Est-ce que quelqu’un pourrait demander à ChatGPT pour quelle raison il demande le n° de téléphone portable, si c’est nécessaire et si l’usage qu’il en fait est conforme au rgpd ? :-)
@pourinfo: Nous sommes tout à fait d’accord sur l’aspect évolutif. Mais, le principe du deep learning introduisant des biais intrinsèques, il sera toujours possible d’entraîner un autre système à reconnaître ces mêmes biais. Le jeu d’apprentissage étant alimenté par le fruit de la modération manuelle des commentaires, par générations successives, le modèle serait auto-adaptatif. Le problème ne se pose vraiment que si la modération manuelle est, elle aussi, en échec. C’est peu probable avec des contenus à caractère mercantile qui restent toujours identifiables, mais ça pourrait l’être avec des réactions d’opinion.
@Jean-Yves Castermans: pour ma part j’ai préféré ne pas lui faire confiance, et me passer de ses services.
@Etienne: Je m’en passe aussi, mais je suis curieux de savoir ce qu’ils en font ?
@J-Y Castermans:
https://www.reddit.com/r/OpenAI/comments/zj2urq/why_does_chatgpt_registration_require_your_phone/
L’hypothèse d’éviter les abus paraît plausible..
Dans mon cas c’est plus par principe que par paranoïa que je préfère éviter
Nos esprits critiques avaient déjà fort à faire contre les biais humains…
Il faudra désormais redoubler de vigilance face à cette nouvelle forme de pollution de l’information.
Chat alors, GPT ça sent mauvais ^^
De bonne fêtes à toutes et à tous.
Lien ? :)
https://www.nextinpact.com/article/70661/ia-contre-ia-montpellier-interdit-reconnaissance-faciale-a-aide-chatgpt
@Luc: Frank LEPAGE sur youtube via son spectacle inkulture il brasse des cartes et sur chaque carte il y a un mot et il fait un discour de politique, c’est à voir une fois dans sa vie.
On pourra peut être bloquer les bots de ces IA pour pas crawler tout les site web???