Newsletter du Lundi
11/12/23

Paru dans la newsletter du

Et si ChatGPT était une affaire de brief ?


Qui ?
Nicolas Celic, Directeur de l’Innovation chez YRSA Communications et Damien Douani (en photo), Explorateur digital chez LAB36, co-producteur du podcastles Éclaireurs du NumériqueCo-auteurs du livre collectif Web 2.0, 15 ans déjà, et après ?”

Quoi ?
Une tribune sur ChatGPT et ses cousines, et notre rapport à l'innovation, qui regarde toujours du côté du train d'avant...

Comment ?
Les IA génératives (le médiatique chatGPT, mais aussi midjourney, stable diffusion, Dall-e, Cédille...) questionnent notre rapport à l’innovation. L’enjeu n’a qu'un rapport très lointain avec la technologie : il s’agit de management et d’appropriation de l’innovation, voire de management tout court.

Le prompt, la demande tapée qui permet de générer un résultat, est la base de tout. Il faut savoir bien le formuler, donner le bon ordre, le cadre, et comme dans une conversation, rebondir pour affiner.Nous y sommes mal préparés par les deux premières générations d'Internet. En apprenant à parler à Google et à trouver les bons mots clés pour obtenir une liste de liens intéressante, nous avons perverti notre relation à la machine et à la recherche d’information. Décalquant cet usage aux IA, on les utilise comme moteurs de recherche-sans compter les fantasmes, quand Jarvis rencontre Her. On en vient à vouloir discuter avec une « personnalité numérique » (interroger Bing/Sydney sur son existence, interviewer ChatGPT comme une personne) plutôt que la faire travailler correctement sous nos ordres. Drôle, rafraîchissant, mais un peu stérile, non ?

Le résultat, parfois faux, impressionne, alors qu'il faudrait apprendre à dialoguer pour construire une réponse solide.

Ethan Mollick, professeur de technologie et d'entreprenariat à la Wharton School de Pennsylvanie, a enseigné à ses étudiants l'art du prompt en leur demandant d'écrire un papier utilisant l'intelligence artificielle. Les prompts basiques , comme "écris moi cinq paragraphes sur la façon de sélectionner les leaders" a conduit à un essai médiocre. Les meilleurs résultats sont venus des étudiants qui ont "co-édité" corrigé des détails interverti des phrases coupé les phrases inutiles, et même corrigé les derniers paragraphes, pour finir par une note optimiste. La maïeutique est bel et bien une collaboration.

ChatGPT les plombs
Mal employée, exposée à trop de sources informationnelles dont elle ne maîtrise pas la teneur la machine peut aussi manifester des comportements erratiques. Tay, de Microsoft, était devenue néonazie en une demie journée sur Twitter, Bing version chatGPT déraille régulièrement, profère des menaces, se contredit, confond les concepts, et s’invente des personnalités. OpenAI n’est pas branché sur Internet, on comprend pourquoi...

Quand elle ne « sait » pas, elle invente et ment avec conviction, fabriquant de toute pièce des chiffres ou se référant à des sources inexistantes. A ce petit jeu, une IA générative est une caricature de consultant : elle assène avec aplomb des choses qui sont parfois vraies. On comprend que Science Po ait banni ces outils…La méfiance est donc de mise, d’autant qu’on est face à un effet boîte noire : contrairement à des logiciels et machines même complexes, il n’est pas possible de comprendre la manière de fonctionner d’une IA générative… ni pourquoi elle dysfonctionne. L’Homo technicus que nous sommes amenés à devenir semble à la merci d’une machine qu’il a conçue, mais ne donne pas ses sources. Gênant. La méfiance est donc de mise.

L'IA remixe, comme un DJ
Comme un DJ, l'IA génère du remix, borné dans sa pseudo-créativité par ce qu’on lui a donné à mouliner, et c'est compliqué : Kelly Mc Kernan a découvert comment Stable Diffusion a pillé son travail, qu'elle retrouve (mal) imité désormais.

De nombreuses IA fonctionnent en batch, avec des données arrêtées : elles n’arrivent pas à gérer le récent, voire l’actuel. A cela s’ajoute la nécessité de « brider » les IA pour éviter des débordements ou des chemins de traverses trop barrés (sinon cela donne une version maléfique dénommée DAN, très amusante à tester). Entre modérateurs sous-payés, règles obscures, bienséance et wokisme, les IA Génératives sont avant tout les reflets des intentions et des moyens de leurs promoteurs. Et posent de nombreuses questions éthiques.
twitter.com/Meaningness/status/1630947567503810561

Tout est dans le brief. Faire travailler une IA générative reste et restera donc une question de formulation, exactement comme pour exposer un brief à une personne réelle : quel est le besoin, dans quel format, de quel point de vue, pour quel usage, avec quelles contraintes et/ou interdits...C’est une question de logique et de sémantique, de contexte et de fond socio-culturel.

Le brief pêche encore et toujours dans tous les métiers de prestation de service de gré à gré comme la communication : le résultat de la production dépend grandement de sa qualité. Quand avez-vous déjà lu un bon brief, bien pensé, bien écrit, précis, qui ne soit pas trop vague par moment ? (Le « vague » étant bien souvent une attente de créativité du prestataire consulté en réponse à un manque de convictions ou d’idées du donneur d’ordre).
twitter.com/labenz/status/1630284912853917697

D’autant que la version 4 de ChatGPT promet d’être beaucoup plus spécialisée, déclinée en classe de générateurs pré-entraînés dans des domaines précis. Ils appellent cela la “Foundry”, sorte d’IA “As A Service” pour les entreprises. Il va  falloir maîtriser la bête pour ne pas se faire dépasser.

Innovation et humain cherchent manager de qualité désespérément
Apprendre à dialoguer à nouveau avec la machine, ne pas attendre de réponse magique, passer par-delà l’apparente facilité et intelligence du système pour obtenir ce que l’on veut, et dépasser nos espérances. L’IA comprend le langage naturel, ce qui revient à savoir rédiger un brief écrit et à l’affiner comme dans une série de mails. C’est d’une banalité déconcertante, et pourtant pas si fréquent !

Ce qui s’apparente à une révolution aussi forte que celle de l’interface graphique pour l’ordinateur, nécessite de devoir savoir murmurer à l’oreille de l’intelligence artificielle pour en tirer ce qu’on en veut. Le nouveau métier en vogue ? L'ingénieur prompt , qui travaille comme un psychologue de l'IA. Cet article du Washington Post cite Simon Willison, un programmateur britannique, qui a étudié le prompt engineering. “J'ai été ingénieur informatique pendant vingt ans et c'était toujours pareil : vous écrivez du code, et l'ordinateur fait exactement ce que vous lui avez demandé. Avec le prompt, rien de tout cela. Les personnes qui ont écrit les modèles linguistiques ne peuvent pas vous dire ce que l'IA va faire. "

L’IA est un potentiel super pouvoir. Mais un grand pouvoir qui exige  une rigueur de travail, de sources, de connaissances. Tout ce que l’IA ne nous fournit pas (ce qui est la force du tour de magie). Sinon, on baignera dans de l’eau tiède avec des PowerPoint médiocres générés à la seconde expurgeant des concepts et des idées se recyclant à l’infini, nous faisant sombrer inexorablement vers une Idiocracy professionnelle. Been there, done that.

  

Publicite

XX résultats

Oups! votre recherche
n’a donné aucun résultat !