Les limites de la pensée

Les nouvelles générations d'algorithmes génératifs s'appuient sur des astuces comme l'apprentissage avec résultats vérifiables, le Chain of Thought ou le RLAIF pour améliorer la fiabilité de leur réponse. Cette vidéo explique l'intérêt, mais aussi les limites de ces approches.
#ChatGPT #LeFabuleuxChantier #Tournesol #Bayes #Science4All

Elle réagit en particulier à une vidéo très informative et très pédagogique de @ScienceEtonnante , mais qui me semble sous-évaluer les limites de la pensée, ce qui me semble avoir des conséquences sociétales importantes.
https://tournesol.app/entities/yt:YcIbZGTRMjI

Script + sources : https://github.com/lenhoanglnh/manuscripts/blob/main/IA/57-self_play.md
Contribuez à Tournesol : https://tournesol.app/

0:00 Introduction
2:08 Jeu de go versus recommandation
8:45 Apprentissage avec résultats vérifiables
14:49 RLAIF et Chain of Thought
21:35 L'alignement démocratique
27:42 Conclusion

Bluesky : https://bsky.app/profile/science4all.org
LinkedIn : https://www.linkedin.com/in/l%C3%AA-nguy%C3%AAn-hoang/

Guide de survie au cybercrime en entreprise (mon 6e livre, avec Romain du Maraiis, aka @Pour 1nf0 ) :
https://www.dunod.com/entreprise-et-economie/guide-survie-au-cybercrime-en-entreprise-fuites-donnees-ransomwares
La dictature des algorithmes (mon 5e livre, avec Jean-Lou Fourquet, aka @ApresLaBiere ) :
https://www.tallandier.com/livre/la-dictature-des-algorithmes/
SmartPoop (mon 4e livre, avec Tristan Le Magoarou, aka @RisqueAlpha ) :
https://bit.ly/smartpoop-fr
Turing à la plage (mon 3e livre, avec Rachid Guerraoui) :
https://www.dunod.com/sciences-techniques/turing-plage-intelligence-artificielle-dans-un-transat
Le fabuleux chantier (mon 2e livre, avec El Mahdi El Mhamdi) :
https://laboutique.edpsciences.fr/produit/1107/9782759824304/Le%20fabuleux%20chantier
La formule du savoir (mon 1er livre) :
https://laboutique.edpsciences.fr/produit/1035/9782759822614/La%20formule%20du%20savoir