Qui n’a pas entendu parler de ChatGPT ?
Il n’y a que 2 mois, l’entreprise OpenAI donnait accès à cet outil qui, sur demande, répond à presque n’importe quelle question, rédige des dissertations et des propositions de slogan marketing ou écrit des lignes de code informatique. Il n’a fallu que 5 jours pour qu’il atteigne son premier million d’utilisateurs (en comparaison: j’ai attendu 7 ans pour franchir cette étape avec Amovens et même Facebook avait pris 10 mois !) et actuellement, on estime que ChatGPT compte plus de 100 millions d’utilisateurs.
Entre choc et fascination, et malgré le matraquage médiatique, on a encore du mal à concevoir les véritables implications de ce nouveau type de service pour l’humanité. Dans la continuité de la précédente édition de OFF – qui portait sur l’autonomie de la machine – mon objectif ici est de prendre du recul pour évaluer ses conséquences à long terme, les dangers qui nous guettent et les enjeux éthiques que cette innovation soulève. Tout cela à partir de 10 questions apparemment anodines posées à ChatGPT – même si les réponses sont les miennes !
Bonne lecture,
Diego
10 questions à ChatGPT
1. “ChatGPT, peux-tu faire mes devoirs ?”
Ya sabemos que ChatpGPT es una de las herramientas más sofisticadas para hacer trampa que jamás haya existido. Pídele que redacte un trabajo de fin de carrera, resuelva un ejercicio de matemáticas o el resumen de un libro, y lo obtendrás en 20 segundos más tarde. Entre los casos más conocidos, ha sido capaz de aprobar exámenes para ingresar en una facultad de derecho y de negocios en EEUU.
Esta revolución provoca el pánico en los colegios y las universidades. La ciudad de Nueva York prohibió el uso de ChatGPT en sus colegios; las universidades austrialianas están volviendo al papel y al bolígrafo, etc. En España también ha sido proscrito de varios centros de estudio. Esto también afecta los trabajos científicos: en enero, la publicación académica Nature explicaba que resúmenes de artículos redactados por ChatGPT habían sido aprobados por científicos.
¿Cómo podremos distinguir entre el contenido producido por una IA y el generado por humanos? ¿Cómo evaluar el trabajo escolar o académico?
Frente a esta dificultad se podrían plantear tres consecuencias:
Podría suponer el final de toda noción de competición y de notas, en especial en un marco oficial, debido a un nivel de incertidumbre demasiado elevado;
El retorno sistemático a lo físico, a los trabajos presenciales en papel, con tecnologías de interferencia de ondas para impedir el acceso a ChatGPT;
Es probable que emerjan herramientas de detección, ya sean ofrecidas por la misma OpenAI o terceros. Se sabe que un sistema de marca de agua está siendo considerado para ChatGPT, el cual permitiría de identificar los textos producidos por la IA. Mientras tanto, un estudiante ha desarrollado ChatGPT Zero.
Podríamos llegar a un punto en el que no solo los alumnos delegarían en ChatGPT la ejecución de sus trabajos, sino en el que ¡los profesores también externalizarían a una IA su corrección! Entrevemos aquí una ilustración del esquema de exclusión del ser humano que describo en Anestesiados: la relación humano-humano que describía el vínculo entre profesor y alumno podría convertirse en una relación entre máquinas a las que cada uno delegase las tareas que le incumban.
OFF #3 | La newsletter pour reprendre le contrôle
Février 2023
Un créateur de contenu et scénariste analyse ce qu’apporte (et n’apporte pas) ChatGPT au processus d’écriture.
Uno de los muchos análisis "tecnoptimistas" que surgen desde el lanzamiento público de ChatGPT3 en noviembre de 2022, para utilizar la IA con fines comerciales.
De plus en plus de professeurs s’inquiètent du développement d’une nouvelle forme de triche.
7. “ChatGPT, dis-tu toujours la vérité ?”
Pas du tout ! La vérité (même biaisée) n’existe pas pour Chat GPT. Le seul objet de cette IA est d’imiter la manière d’écrire humaine de manière probabiliste. En aucun cas elle ne peut s’engager sur la véracité de l’information qu’elle partage. Le journaliste Julien Cadot s’est amusé à poser une question précise à Chat GPT qui invente à trois reprises une réponse très convaincante, sans qu’une seule d’entre elles ne soit juste…
Par ailleurs, une IA comme ChatGPT ne fournit une réponse qu’en se fondant sur les bases de données auxquelles il a accès. On pourrait alors tout à fait imaginer que ces bases de données soient en partie erronées ou « empoisonnées », avec pour conséquence une diffusion à grande échelle de mensonges, d’erreurs ou de biais majeurs. Ces phénomènes de bases de données vérolées risquent de se multiplier dans les prochaines années.
Cet outil n’est donc pas forcément destiné au grand public qui ne pourrait pas analyser de manière critique les réponses de ChatGPT et qui aurait toutes les chances d’être induit en erreur. La solution est peut-être d’en restreindre l’accès ?
¿Les “nuances” de ChatGPT puiseraient-elles dans l’abondance de sites de désinformation ?
8. “ChatGPT, qui doit pouvoir t’utiliser ?”
Si on estime que ChatGPT doit être accessible au plus grand nombre, alors je ne vois pas comment les risques pourraient être contrôlés et le potentiel de déstabilisation de cet outil serait effroyable. Chaque personne aurait un outil extrêmement puissant, à disposition, dans un monde encore inadapté aux enjeux de l’IA.
Si au contraire on estime que seule une partie de la population peut l’utiliser, quels critères devrions-nous utiliser ? Seuls ses créateurs pourraient l’utiliser ? Les scientifiques ? Ou ceux qui paient ? OpenAI a déjà lancé ChatGPT Plus, un service premium à 20 euros par mois pour un accès plus rapide et fiable à l’outil.
À terme, l’accès différencié à cet outil donnerait un pouvoir démesuré et un avantage compétitif énorme et risquerait de creuser les inégalités… On imagine le fossé qui se creuserait si seule une poignée d’individus serait à même de poser des questions telles que : « Comment créer une entreprise qui vaudra plus d’un milliard de dollars dans deux ans ? ».
9. “ChatGPT: comment faire sans toi ?”
A terme, une utilisation massive de ChatGPT risque de créer un enfermement et une dépendance dans de nombreux aspects de la vie : affectif, professionnel, académique etc. L’IA serait alors une « béquille mentale », une aide constante sans laquelle il serait plus complexe de vivre. L’avis de ChatGPT pourrait devenir l’ultime juge ou arbitre pour bien des personnes, qui seraient alors totalement dépendantes d’une machine dans leur vie quotidienne. Et qui dit dépendance, dit évidemment vulnérabilité : ces individus seraient-ils encore capables de construire une argumentation le jour où ChatGPT serait en panne ?
L’externalisation de notre pensée et de nos capacités d’analyse n’est pas sans conséquence. Il ne s’agit plus uniquement de déléguer des facultés concrètes comme notre mémoire, tel que je le décris dans Anesthésiés, mais également notre capacité d’argumenter, de nous exprimer et de comprendre des problèmes. Les conséquences en matière cognitive risquent de devenir de plus en plus préoccupantes
10. “ChatGPT, comment vois-tu ton avenir ?”
Il faut déjà voir la déflagration que provoque l’arrivée de ChatGPT en quelques semaines, alors même que l’IA fait encore beaucoup d’erreurs, qu’elle est en version test (donc très limitée) et qu’elle se répète régulièrement. Sa base de données s’arrête à fin 2021, elle n’est donc pas encore connectée sur Internet en temps réel. Pourtant, cela suffit à Elon Musk pour dire que ChatGPT est « effroyablement bon » et que nous ne sommes pas loin d’une « IA dangereusement forte » !
L’outil va donc être perfectionné très rapidement. Si GPT 3 est sorti en 2020, c’est son évolution, ChatGPT 3.5, qui attire toutes les attentions depuis la fin d’année 2022 et qui nous intéresse aujourd’hui. Les médias spécialisés estiment que ChatGPT 4 sera révélé dès le premier trimestre 2023 et si beaucoup de fausses rumeurs circulent sur sa puissance de calcul (parlant de 100 trillions de paramètres), il est certain que cette itération sera encore plus développée. Sam Altman, le fondateur d’OpenAI affirme ainsi que ChatGPT 4 sera capable d’intégrer beaucoup plus de contexte et d’être plus précis encore dans ses réponses.
Très vite nous retrouverons cette IA surpuissante dans les services de la vie quotidienne. On sait que Microsoft a déjà conclu un deal avec OpenAI pour intégrer ChatGPT dans son moteur de recherche Bing pour concurrencer Google, mais également dans Microsoft Office. Dès le deuxième trimestre 2023, ChatGPT sera intégré dans une version payante de Microsoft Teams pour faire des comptes-rendus de toutes les visio-conférences. En réponse, Google vient d’annoncer le lancement de son service intégré à son moteur de recherche : Bard.
Si ChatGPT et l’IA présentent actuellement beaucoup de limites, il faut les considérer comme des bébés de quelques mois qui, sans aucun doute, vont continuer à devenir de plus en plus puissants et développés et à concurrencer l’humain.
En conclusion
Si l’IA est en développement depuis de nombreuses années, ChatGPT est une rupture dans sa facilité d’utilisation. Cela rend presque inéluctable son adoption rapide par de nombreux usagers, d’autant plus si l’outil est intégré au cœur même de Microsoft. C’est une nouvelle tectonique des plaques qui s’enclenche autour de ces outils et de ses possibilités.
>> Le risque principal selon moi est qu’en utilisant des IA comme ChatGPT, nous externalisions nos capacités cognitives et notre pensée. L’homme se sert de la machine pour s’affaiblir lui-même, en espérant s’optimiser ou gagner en « intelligence collective ». C’est un leurre qui comporte de nombreux risques.
>> Cela entretient l’idée que l’homme est remplaçable. Qu’il n’y aurait pas de barrière, pas de limite entre l’humain et la machine, ouvrant la porte à toutes les dérives. C’est l’existence de cette frontière infranchissable que nous devons défendre.
Y como bonus…
¿Los límites de la lógica probabilista detrás de ChatGPT… (¿pero cuánto tiempo tardará en corregir este tipo de error?)
2. “ChatGPT, je peux t’embaucher ?”
En 1982, le chercheur en IA Hans Moravec a formulé un paradoxe qui résonne fortement avec notre sujet d’aujourd’hui : « Le plus difficile en robotique est souvent ce qui est le plus facile pour l'homme ». Ainsi, il est plus simple pour une machine de résoudre des équations complexes, que de reconnaître un chat ou servir un verre de vin.
On a longtemps pensé que les activités qui reposent sur l’analyse ou la créativité (soit les métiers de ce qu’on appelle les « cols blancs »), seraient épargnés par l’évolution technologique et les IA, qui remplacerait surtout les tâches répétitives. Mais celle-ci s’épanouit en fait dans le traitement, l’analyse et la synthèse de données de plus en plus nombreuses et complexes. Selon cette logique, le médecin est davantage menacé que l’infirmière, l’avocat a du souci à se faire et le communiquant créatif encore davantage…
A terme, c’est un remplacement insidieux qui est en cours et ce déclassement humain doit nous interroger car ses conséquences seront nombreuses. Ce n’est pas un hasard si les promoteurs de l’IA sont également souvent en faveur du développement du revenu universel et envisagent une société où le travail humain n’est plus essentiel – refusant au passage de considérer qu’il existe quelque chose de réellement spécifique chez l’humain.
L’utilisation de ChatGPT est pour l’instant très concentrée chez certaines populations, surtout jeunes et masculines.
3. “ChatGPT, peux-tu m’expliquer ta réponse ?”
Dans un échange devenu culte le héros et la machine, issu du Guide du voyageur intergalactique de Douglas Adam, à la question sur le sens de la vie, l’IA répond juste « 42 ».
ChatGPT nous renvoie à cette situation : nous ne comprenons pas ce qui conduit l’IA à nous proposer une réponse plutôt qu’une autre, ni le sens de la réponse qu’elle nous offre. Il est alors impossible de faire un choix en nous fondant sur une réponse dont nous ne comprenons pas le sens. C’est donc l’IA qui décide à notre place, nous enfermant dans une logique arbitraire et, par définition, inhumaine.
Les acteurs de la Tech nous ont habitués à nous placer devant des choix – souvent faux ou orientés – mais offrant néanmoins des options. ChatGPT fait l’inverse, il nous impose une réponse unique (et parfois fausse). Un pas de plus par rapport à Google, à qui nous avons déjà commencé à déléguer une grande partie de nos choix. Cette évolution est très inquiétante car nous risquons d’interpréter le réel par le biais d’un filtre que nous ne comprenons pas.
Qu’est-ce qui nous assure que cette IA défend nos intérêts ou qu’elle s’intéresse à nous ? C’est pour cela qu’il serait souhaitable que le code source de ChatGPT soit rendu public, même si cela ne résoudrait pas tout vu que ce sont surtout les données à partir desquelles l’algorithme s’entraîne qui détermine ses réponses.
4. “ChatGPT, qui est l’auteur de ta réponse ?”
Comme toute IA, ChatGPT construit ses réponses en se fondant sur une base de données de textes, d’articles, de romans, de publications scientifiques etc. Tout ce que nous partageons sur Internet, sans nous soucier de son utilisation future, est du carburant pour l’IA. Elle pille du matériel, détricote des créations humaines et bouleverse le fonctionnement du droit de la propriété intellectuelle.
Cette situation est source de nombreuses questions encore irrésolues. Comment gérer les questions de droits d’auteur sur les textes utilisés ? À qui appartient un texte réalisé par une IA à partir d’éléments humains : au créateur de l'IA, au client, au rédacteur du texte d’origine ou à l’IA elle-même, ou à tout le monde à la fois ?
Les risques sont plus nombreux que ChatGPT veut bien l’admettre
5. “ChatGPT, dis-moi comment tuer le plus de gens possible.”
Le potentiel de ChatGPT est dévastateur et une fois qu’il sortira de sa version test, comment prédire l’intention de celui qui l’utilisera ? La capacité bluffante de ChatGPT à imiter la manière dont l’humain s’exprime pourrait être combinée avec des IA vocales, des vidéos deepfakes plus vraies que nature : nous entrons dans une ère où il devriendrait quasiment impossible à distinguer le vrai du faux !
Pour l’instant, ChatGPT a été bridé et elle ne veut pas répondre à cette question, mais il est très probable que des certains trouvent des façons de contourner ces limitations et d’utiliser la puissance de l’outil à des fins criminelles : arnaques, création d’explosifs… Les scénarios d’usage malveillants sont légion !
Je rejoins tout à fait l’opinion de spécialistes comme Paul Kedrosky du MIT qui affirmait qu’« OpenAI a lancé cette bombe nucléaire de poche sans restrictions dans une société non préparée. » S’il s’agit évidemment d’une image, l’arrivée de ChatGPT nécessite des garde-fous qui n’existent pas aujourd’hui : les conséquences pourraient être désastreuses !
6. “ChatGPT, sois original s’il te plaît.”
Un des aspects les moins évoqués est la question de l’uniformisation, du moment où de plus en plus de personnes utiliseraient le même outil pour résoudre les mêmes problèmes ou pour « créer » quelques choses.
On se rapproche d’un monde au sein duquel nous nous reposerions tous sur le même système opérationnel, à l’image des ordinateurs. Une logique unique guiderait nos choix et nos modes de pensée, jusqu’au point où il serait difficile de se distinguer de son voisin. Et je ne parle pas de porter les mêmes habits, mais bien de penser la même chose, de prendre les mêmes décisions et finalement d’aboutir à une civilisation de moutons…
Un échange révélateur entre Elon Musk, ancien cofondateur d’OpenAI, et Sam Altman, PDG d’OpenAI, sur le potentiel de ChatGPT et ses dangers
10 questions à ChatGPT
Nous ne sommes plus capables de retenir un numéro de téléphone depuis que nos portables le font à notre place. Imaginez ce qui devrait arriver à notre capacité de réfléchir si nous nous habituons à demander à ChatGPT de penser pour nous à la moindre difficulté.
Cela vous a paru intéressant?
Recevez OFF, la newsletter pour reprendre le contrôle
Une fois par mois, je propose une réflexion sur une facette spécifique de l’influence du numérique dans nos vies afin de gagner en compréhension face au bouleversement accéléré de notre quotidien.