Ingénieur en IA : "L’extinction est le scénario par défaut."

Canal WhatsApp de Pause IA : https://chat.whatsapp.com/B5rq81F4BSI6Hv1wf2o6Bl?mode=ac_t
Serveur Discord de Pause IA : https://discord.gg/xpNxGyqsxh


ME SOUTENIR FINANCIÈREMENT

Tipeee : https://tipeee.com/le-futurologue
Patreon : https://patreon.com/LeFuturologue
PayPal : https://paypal.com/donate/?hosted_button_id=BBXFGSM5D5WQS


MES RÉSEAUX SOCIAUX

Discord : https://discord.gg/DqfKxvxYYg
TikTok : https://tiktok.com/@le.futurologue
Instagram : https://instagram.com/le.futurologue
Facebook : https://facebook.com/le.futurologue
X : https://twitter.com/le_futurologue
LinkedIn : https://www.linkedin.com/in/shaimanthurler
Threads : https://threads.net/@le.futurologue
Bluesky : https://bsky.app/profile/lefuturologue.bsky.social
Mastodon : https://mastodon.social/@le_futurologue


AGIR POUR LA SÉCURITÉ DE L’IA

S’informer
https://lefuturologue.tinypages.co/sinformer
Faire un don
https://lefuturologue.tinypages.co/donner
Devenir bénévole
https://lefuturologue.tinypages.co/benevole
Repenser votre carrière
https://lefuturologue.tinypages.co/carriere


MES RECOMMANDATIONS

Mes livres préférés sur l’IA
https://amzn.to/3CO02aa
Tous les livres que j’ai lus
https://amzn.to/493QW5b
Mon matériel high-tech
https://amzn.to/495WFaL


DESCRIPTION DE L’ÉPISODE

Maxime Fournes cumule plus de dix ans d’expérience en intelligence artificielle. Après avoir travaillé pour de grands fonds d’investissement et occupé des postes enviés, il a choisi de tout quitter pour cofonder en 2024 Pause IA, une association qui milite pour une pause dans le développement des intelligences artificielles les plus dangereuses. Nous avions déjà échangé dans plusieurs épisodes, mais la thématique est loin d’être épuisée. Depuis notre dernière conversation, les avancées en IA ont été fulgurantes. Dans cet entretien, nous revenons sur ces progrès et sur les immenses risques qu’ils font peser sur notre avenir.


TIME CODE

0:00 Introduction
1:40 Alpha Evolve
10:33 Sakana AI
21:31 Claude 4
33:47 AI 2027
37:42 Le virage des géants de la tech
41:15 Une interdiction de réguler ?
46:41 Une pause de l’IA Act ?
52:07 Vers l’extinction humaine ?
57:58 La super IA va-t-elle se remettre en question ?
1:06:09 La super IA est-elle une opportunité pour la nature ?
1:10:01 Comment la super IA va-t-elle nous tuer ?
1:11:28 Alignement interne vs alignement externe
1:14:55 Qu’est-ce que la super IA va optimiser ?
1:22:01 La France va-t-elle perdre la course ?
1:26:09 Des nouvelles de Pause IA
1:29:26 Un message pour l’humanité


CRÉDITS

Captation : Studio Module
Montage : Swann Rossignol
Miniature : Drazik (VideoBees)
Le reste : Shaïman Thürler