🥊 Chat GPT vs. Superintelligence / Faut-il stopper l'IA ?

Monthly recap - Avril 2023

✨ Bonjour à tous,

Je suis très heureux de vous retrouver pour un nouveau monthly recap, un peu particulier puisque c’est l’anniversaire 🎂 de Lettres Ouvertes !

📰 Ma newsletter vient de fêter sa deuxième année d’existence et elle a bien grandi depuis son lancement le 21 avril 2021 : +1 500 abonnés et 80 publications à ce jour. La plus populaire de toutes reste ma lettre de fin d’année. Encore une fois, merci à toutes et tous.

Comme vous allez le voir, l’édition d’aujourd’hui fait la part belle à l’Intelligence artificielle (ou IA), une technologie qui est en train de marquer de son empreinte l’année 2023. Voici le programme :

1. 📝 La sélection du mois sur les différentes formes d’IA

2. ❓ La question du mois : faut-il stopper l’IA comme le soutiennent des experts ?

3. 📚 Le livre du mois : Life 3.0 de Max Tegmark

4. 🗞️ La news du mois : Elon Musk lance sa boite d’IA !

Comme pour les autres rapports mensuels, seule la première partie est accessible à tous mes abonnés ; les suivantes sont réservées aux abonnés payants 🔐.

Avant de débuter, n’hésitez pas à partager Lettres Ouvertes à votre entourage, cela permettra d’élargir la communauté, et d’engager plus de débats :

---

I/ Les trois formes d’IA

Bien sûr, l’IA est l’objet de beaucoup de craintes, d’espoirs et parfois aussi de fantasmes. Du coup, il est utile de rappeler qu’il en existe trois formes et que ces trois formes n’en sont pas du tout au même stade d’avancement :

• 1️⃣ Commençons par le degré d'IA le moins avancé, ou ce qu’on appelle aussi IA faible. Il s’agit d’une IA qui ne dispose pas de capacités d’apprentissage ou d’analyse avancées. Exemple : un chatbot classique qui suit un script prédéfini pour répondre à des requêtes spécifiques.

• 2️⃣ Continuons avec le degré d’IA intermédiaire qu’on dénomme souvent IA forte . Cette forme d’IA est en mesure d’apprendre par elle-même. Elle peut générer de nouveaux contenus (images 🖼️, textes 📄 ou vidéos 🎥) à partir d’une base de données. L’IA générative en fait donc partie. Chat GPT et MidJourney en sont les exemples les plus connus. Le stade d’IA forte le plus avancé encore à construire serait l’AGI (Artificial General Intelligence) qui aurait un niveau d’intelligence comparable à celui de l’espèce humaine.

• 3️⃣ Concluons avec le stade d’IA le plus avancé : la superintelligence, une IA superhumaine qui dépasserait largement l’intelligence humaine, et qui pourrait prendre des décisions. Je précise qu’elle n’existe pas à l’heure actuelle et qu’elle n’existera peut-être jamais … Ici, il y a deux écoles qui s’affrontent :

  • ✅ ceux qui pensent qu’une superintelligence peut nous aider à répondre à tous les grands défis humains : la maladie 💊, la production d’énergie, la résolution d’énigmes mathématiques, la création d’une démocratie 2.0, etc ;

  • ❌ l’autre école est beaucoup plus pessimiste : la superintelligence va prendre le contrôle et nous asservir.

Vous l’aurez donc compris en lisant 👨‍💻 mon résumé, Chat GPT n’est pas du tout une superintelligence. Ce logiciel permet de construire des argumentaires ou répondre à nos questions, mais reste sous le contrôle humain, et fonctionne grâce à des connaissances humaines.

Concernant Midjourney, un logiciel capable de créer de fausses images, il peut nous duper à un instant t. Mais au final, nous restons, enfin je l’espère, capable de distinguer le vrai du faux avec un minimum d’esprit critique 🧠... Pensez-vous vraiment que Trump puisse se faire arrêter manu militari ou que le pape porte au quotidien une doudoune Balanciaga en mode rappeur américain ?

D’ailleurs, les contrefaçons ont toujours existé dans l’Histoire. Exemple : il y a eu plein de copies de la Joconde mais la vraie est toujours exposée au Louvre ! … Une fausse image n’est qu’une nouvelle forme de contrefaçon (numérique). Les voir prospérer peut même lancer un débat 🗣️ plus vaste sur la qualité des contenus diffusés sur la Toile. Les fausses images sont donc l’illustration d’un problème plus large.

II/ Faut-il stopper l’IA ?

Pour beaucoup, les progrès rapides (ou considérés comme tels) de l’intelligence artificielle posent à la fois des menaces ⚠️ sur l’emploi et sur l’humanité. Du coup, il serait temps de la débrancher …

• D’un côté, l’IA pourrait, selon certains, avoir les mêmes effets sur les cols blancs (= les cadres 👨🏻‍💼) que la révolution industrielle sur les cols bleus (= les ouvriers). En gros : elle pourrait entrainer des destructions massives d’emplois.

• D’un autre côté, l’IA pourrait, dans un avenir lointain et hypothétique, devenir plus intelligente que l’homme et, du coup, menacer notre civilisation. (Autre hypothèse)

💬 De là, faut-il vraiment stopper l’IA, comme le soutiennent certains experts ?