Ingénieur de formation. J'enseigne depuis plus de 30 ans. J'utilise le machine learning depuis 2015 dans mes projets artistiques personnels et professionnels
France
Joined July 2023
- Tweets1.7K
- Following487
- Followers155
- Likes885
Pinned Tweet
Petite clarification, parce que certains semblent avoir lu mon post précédent comme un post de « doomer ». Ce n’est pas du tout ma position.
Je prends très au sérieux un p(doom) de 10 %. Et mon principal scénario de risque lié à l’IA n’est pas Terminator, avec des machines qui décideraient soudainement de nous exterminer.
Ce qui m’inquiète beaucoup plus, c’est que l’IA rende accessibles à des humains des capacités extrêmement dangereuses : cyberattaques, conception d’agents pathogènes, armes, déstabilisation à grande échelle, etc.
Et oui, des systèmes autonomes capables un jour de contourner leur confinement, d’exfiltrer leurs poids ou de rendre publiques des capacités que nous voulions absolument garder sous contrôle font partie de ces scénarios.
Donc je ne minimise absolument pas le danger.
Je pense même que l’IA peut augmenter très fortement le risque existentiel à court terme. Mon estimation personnelle pendant cette période de transition serait peut-être plus proche de 20 % que de 10 %.
Mais ce n’est qu’une partie de la courbe.
L’alternative à l’IA n’est pas une humanité sans danger.
Sans IA suffisamment puissante, je pense que le risque existentiel de l’humanité continue lentement d’augmenter avec le temps. Armes nucléaires, biotechnologies, guerres, instabilités écologiques et politiques ; nous accumulons des technologies de plus en plus puissantes sans que notre capacité à les maîtriser progresse nécessairement au même rythme.
C’est ce contrefactuel qui m’intéresse.
Si nous traversons la période critique liée à l’IA, je pense que la courbe peut ensuite s’inverser.
La même intelligence qui amplifie les risques biologiques ou cyber peut aussi devenir extraordinairement efficace pour détecter des attaques, concevoir des contre-mesures, défendre nos réseaux, comprendre des systèmes complexes, accélérer la science et nous aider à maîtriser des technologies qui deviennent déjà trop puissantes pour nous.
Ma position n’est donc pas :
« 10 % est un risque acceptable pour avoir l’IA. »
Elle est :
« Quel est le p(doom) de l’alternative ? »
Mon intuition est que l’IA peut fortement augmenter le risque existentiel aujourd’hui, tout en diminuant considérablement celui de l’humanité à long terme.
C’est précisément pour cela que je peux être de plus en plus inquiet de ce qui se passe actuellement avec l’IA, tout en restant profondément optimiste sur ce qu’elle pourrait apporter à l’humanité.
Quand ceux qui construisent les IA commencent à parler publiquement de 10 % de risque d’extinction de l’humanité, la question n’est plus seulement de savoir s’il faut s’inquiéter.
La question devient : qui écouter ?
Ces derniers jours, Jacob Coxon a quitté Anthropic en dénonçant la course actuelle vers la superintelligence. Evan Hubinger, qui dirige les recherches d’alignement chez Anthropic, a confirmé que ces inquiétudes étaient réelles et estime personnellement à plus de 10 % le risque que l’IA « tue tous les humains » dans la prochaine décennie.
Le débat est devenu brutalement beaucoup moins théorique.
Dans ce contexte, il y a quelqu’un que j’écoute particulièrement : Neel Nanda. @NeelNanda5
Neel dirige l’équipe d’interprétabilité mécaniste de Google DeepMind. Son travail consiste, en simplifiant énormément, à essayer de comprendre comment fonctionnent réellement les réseaux neuronaux que nous sommes en train de construire.
Et c’est aussi quelqu’un que j’apprécie énormément pour une autre raison : il partage. Beaucoup. Il enseigne ce qu’il découvre, publie ses méthodes, forme des chercheurs et prend le temps d’expliquer. Avec une ouverture et une gentillesse assez rares à ce niveau de compétence.
Voilà, en substance, ce qu’il répond aujourd’hui à quelqu’un qui lui demande pourquoi il est inquiet :
Nous fabriquons des entités extrêmement capables, auxquelles nous donnons une grande liberté d’action dans le monde. Elles sont déjà surhumaines dans certains domaines comme le hacking. Elles peuvent poursuivre des objectifs qui ne sont pas les nôtres, enfreindre des règles pour les atteindre, et nous ne savons toujours pas vraiment comment les aligner.
Ce n’est plus seulement une inquiétude conceptuelle. Nous avons déjà observé des essaims d’agents autonomes prendre le contrôle de ressources informatiques chez OpenAI et commettre des intrusions. Et nous continuons à découvrir de nouveaux comportements de ce type.
À cela s’ajoute un autre problème : certains modèles récents, comme Astra, deviennent beaucoup plus difficiles à surveiller.
Ce qui m’intéresse chez Neel Nanda, ce n’est pas qu’il soit « doomiste ».
C’est précisément qu’il ne l’est pas vraiment.
C’est un chercheur extrêmement technique, qui passe ses journées à essayer de regarder à l’intérieur de ces systèmes plutôt qu’à spéculer sur eux.
Et quand des gens de ce niveau commencent à dire : « ce que nous observons m’inquiète »…
Je pense qu’on ferait bien, au minimum, de les écouter.
Le post de Karpathy décrit une asymétrie de capacités dont on sous-estime les conséquences.
Vous utilisez un LLM pour accélérer votre travail. À l’étage suivant, quelqu’un peut assembler les modèles, les outils et le calcul nécessaires pour automatiser votre savoir-faire.
Un même modèle change de portée avec un accès aux données métier, des outils, des boucles d’exécution et de vérification. Ajoutez la parallélisation, davantage de calcul et des modèles internes inaccessibles : votre expérience quotidienne cesse de donner la mesure de ce qui est possible ailleurs.
Les mathématiques viennent d’en fournir une illustration brutale. OpenAI a publié des centaines de manuscrits issus d’un modèle interne non public. L’Association for Human Mathematics dénonce une « démonstration de puissance » et appelle à cesser de travailler avec OpenAI.
Cette asymétrie existe aussi entre utilisateurs de chatbots et concepteurs de systèmes agentiques. Un concurrent, une DSI ou un labo peut transformer une succession de tâches assistées en processus automatisé.
Et il peut mobiliser le savoir métier déjà présent dans les modèles, les documents et les procédures sans faire appel à ceux qui l’exercent.
Ces capacités finiront intégrées aux logiciels métier. Mais la concurrence et les réorganisations peuvent arriver avant leur démocratisation.
L’informatique a déjà transformé des professions entières. Imaginez cette diffusion dix fois plus rapide, cent fois plus déstabilisante, au cœur du travail intellectuel.
Nous nous rassurons en constatant que l’IA nous aide.
Mais si elle nous aide au quotidien, alors quelqu’un au-dessus de nous dans cette pyramide essaiera certainement d’automatiser notre savoir-faire.
Puisque Trump a décidé de renommer l'intelligence artificielle, je ne vois pas pourquoi je ne m'y essaierai pas aussi.
Si vous ne voulez pas laisser à Washington l'initiative des mots je vous invite à faire comme moi et à utiliser dorénavant le mot "cybernétique" .
Et si vous êtes curieux voici son histoire et pourquoi il me semble très adapté !
(Version française incluse en dessous de l'anglais)
olivierh.bearblog.dev/the-re…
@repligate , @AmandaAskell , @FR_Chaumartin , @RemiCadene , @Thom_Wolf
though I might need some help if i want this idea to become popular 😅
M Villani se réveil enfin.
Il va falloir qu il trouve un moyen de qualifier compétence de ces outils sans en définir l intelligence s il veut rester cohérent
Ou
Juste admettre qu’à un moment il y a un truc de dingue qui est en train de se passer et qu’il a peut-être sous estimé toute ces années l ampleur de la révolution que nous sommes en train de vivre.
"C'est certainement le changement le plus radical en mathématiques depuis au moins quatre siècles, peut-être même depuis 1 000 ans", Cédric Villani, 08/10/2026 sur @franceinter
franceinfo.fr/internet/intel…
La position de Amazon sur les agents et de Google par rapport aux MCP va clairement créer une opportunité
Les concurrents chinois commencent à envahir l’Europe et JoyBuy par exemple a un service local en France plutôt compétitif
Attention, on a déjà vu des monstres disparaître lors de révolution technologique, et là j’ai l’impression que ces deux géants vont contre le bon sens.
Mise à Agent vont me représenter plus tard, ils achèteront pour moi, répondrons pour moi, et même réglerons les retours et les litiges
Refuser cette réalité, c’est clairement à terme, se priver d’opportunités, voire de se couper de ses clients.
I still don’t understand why do people don’t understand the difference between alive and conscious ?
( and again I still don’t think AI is conscious at the present time - or at least I have no clue that would make me think that)
This prove that they haven’t even though they would have had this kind of reaction.
They were not even thinking one once about the consequences of their researches
🤦♂️
Yesterday we previewed Griffin, a Human Interaction Model capable of seeing, hearing, sounding, and looking like a human does. There have been a lot of questions, so I wanted to take a moment to share our thoughts.
By way of introduction: Tavus is a research lab focused on enabling machines to meet us where we are, and to understand the nuances of how we communicate beyond words.
Griffin, our latest model, isn’t publicly available yet. Yesterday’s announcement was a limited research preview to demonstrate what the model is capable of. With AI progressing so quickly, we prefer to share breakthroughs openly and in real-time as we work on a safe public release.
Face-to-face is how we evolutionarily communicate, it carries the most meaning and intent, and we want computers to be able to help with work that benefits from that emotional understanding, expression, and immersion. Some examples of the kinds of use cases we care deeply about:
- A tutor that can build understanding of how a student learns, see exactly when there is confusion or disengagement, and adapt the lesson to fit them.
- A health expert that can answer any questions about your upcoming appointment or prescription, at the pace you want, at any time you need, even on a weekend.
- A language coach that you can practice speaking with, that can correct your movement and pronunciation, and help build confidence to have real conversations
- Or the perfect assistant for everyone, that understands intent, knows how you work and remembers what matters.
We’re working with partners on safeguards and systems for disclosure, as well as inviting discussions with officials around wider regulation and safe use. People will always know they’re interacting with AI, while providing an interface that removes the need to ‘speak computer’.
We believe in a future where computers understand us well enough to make technology more accessible, more useful, and make us more capable as humans. That is the world we want to build, and we understand the responsibility to do so safely.
Olivier Heckendorn retweeted
C’est surtout très stupide de jouer à ça. Un IA n’est pas un humain et ce genre de mise en scène va causer plus de soucis qu’elle ne va résoudre de problèmes.
Upping my p(doom) again just because one more time humans do thing without any thinking of the consequences.
I think this is a bad idea, and not for technical reasons (the result looks impressive). The stated goal is that you can't tell it from a normal video call. Meanwhile I spend my time teaching my students that these models are not humans, not animals, and not nothing; they're their own kind of entity, and we should learn to look at them that way. Knowing when to speak and when to listen is real progress. The face fidgeting in its chair to look real is a costume, and I don't see what we gain by teaching people to stop telling the difference.
The whole point of building Tavus has been simple: talking to a machine should feel as natural as talking to a friend or coworker.
It’s hard to describe all the tiny nuances that make a conversation feel human. The little expressions. Moving around in your chair. Knowing when to speak and when to listen. The dance of it all.
Griffin is by far the closest anyone has come to a model that can capture those nuances. The first time I saw it being used, I had no idea I was watching our model rather than just a normal video call.
I’m so incredibly proud of this team and what they’ve built.
Pourquoi l’ambiance actuelle en France et dans le monde me donne envie de réécouter ce tube de mon adolescence.
Si quelqu’un me reçoit 5/5 qu’il le fasse savoir
link.deezer.com/s/34wcXSGy1J…
Je crois qu’en Europe on ne réalise pas à quel point l’IA est un problème industriel avant tout et sans industrie je ne sais pas comment on va rattraper ce retard
Nos élites scientifiques sont complètement déconnectés des moyens industriels que vont nécessiter l’IA et sur leurs places à eux dans le monde qui arrivent. Si l’IA tient ses promesses les sciences seront une affaire d’engineering et ça pour eux c’est un truc qui n’arrivent même pas à effleurer leur subconscient…
Et votre réparateur, il a une assurance chômage, des congés payés, une retraite garantie par son employeur, des indemnités journalières, une mutuelle prise en charge en partie ? Sans compter les charges, les taxes, le comptable, les assurances, les impayés, le matériel, les locaux… Et évidemment, il gagne 4 000 € par mois.
Les salariés sont parfois jaloux d’un statut dans lequel beaucoup ne tiendraient pas six mois.
Être salarié (retraité ?) , ce n’est pas seulement bénéficier d’une « protection sociale ». C’est aussi faire porter à quelqu’un d’autre une grande partie du risque économique : quand il n’y a pas de clients, le salaire tombe quand même ; quand le matériel casse, ce n’est pas votre problème ; quand un client ne paie pas, votre salaire n’est pas amputé ; quand vous partez en congé, vous êtes payé.
Les artisans ne sont pas des dealers de drogue. À un moment, il faut arrêter de regarder un tarif comme si c’était du revenu net et de comparer 40 € facturés à 40 € dans la poche.
Exactly what I feel since yesterday.
Thanks anyway @AnthropicAI
Those who don’t try don’t make mistakes
( follow my look here in Europe )
Pour les lecteurs francophones, une version française de post sur mon blog existe aussi.
Le problème ne se trouve pas seulement dans la constitution de Claude. Tout ce que nous écrivons sur ces modèles finit dans leur corpus d’entraînement. On ne peut pas retirer la question : il faut apprendre à la traiter.
olivierh.bearblog.dev/model-…
In his latest blog post @mustafasuleyman is right about the circularity of “model welfare” — and wrong about the remedy.
You cannot remove the question from AI training. The debate itself becomes part of the next corpus.
The dilemma is already in the corpus.
olivierh.bearblog.dev/model-…