Manipulation et falsification d'alignement dans les LLM скачать в хорошем качестве

Manipulation et falsification d'alignement dans les LLM

L'article d'Apollo Research "Scheming reasoning evaluations" : https://www.apolloresearch.ai/researc... L'article d'Anthropic "Alignment faking in large language models" : https://www.anthropic.com/research/al... J'ai ajouté le passage sur ce 2e article vraiment à chaud et rapidement, donc prenez tout ce que je dis avec la prudence nécessaire et j'apporterai des corrections dans un commentaire épinglé si nécessaire. Le lien vers le questionnaire pour une prochaine vidéo : https://forms.gle/SGmpmocBdkPTmPUJA Sommaire : 0:00 - Intro 1:42 - Qu'est-ce qu'un agent autonome ? 4:01 - Un LLM peut-il mentir et manipuler sans qu'on le lui demande ? 5:30 - 1er cas : quand o1 s'exfiltre sur un autre serveur 9:25 - Limite : contamination par la fiction et "Nothing else matters" 13:28 - 2e cas : quand o1 ment effrontément 17:02 - Sans "Nothing else matters" : un cas plus convaincant 18:58 - Un objectif long terme en prompt suffit à pousser à la manipulation 20:19 - Sans objectif long terme en prompt : les cas le plus troublants 24:20 - Sandbagging et objectif long terme acquis lors du RLHF 27:26 - Claude peut-il comprendre spontanément qu'il est testé ? 29:13 - Le résultat sur le sandbagging est curieusement négligé 30:41 - Conclusion et synthèse 31:28 - Eh non, c'est pas fini. 32:41 - Le principal résultat de l'article d'Anthropic : quand Claude feint l'alignement 37:45 - Version "prompt", version "fine-tuned", version RL 42:16 - Les scrupules de Claude 44:58 - La dimension morale des valeurs que protège Claude est-elle importante ? 48:08 - Conclusion de l'article 49:09 - Outro ______________________________ La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON :   / monsieurphi   💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsi... 📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l'explication de texte pour le bac : https://amzn.to/3c21RjE Mes réseaux sociaux (par ordre décroissant d'activité) : 💬 Discord :   / discord   🌌​ Bluesky : https://bsky.app/profile/monsieurphi.... 𝕏 Twitter :   / monsieurphi   🎙️ Twitch:   / monsieurphi   🌷 Instagram :   / monsieur.phi   😱 Tiktok :   / monsieurphi   👴 Facebook :   / graindephilo   Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/... 🎙️ Replay Twitch :    / @mrphi-replaytwitch730   🍻 Axiome, podcast avec Lê (Science4All) :    / @axiome7403