Après tout, Sarah Connor nous avait prévenus, non ?
L’intelligence artificielle avance vite. Très vite. Peut-être même un peu trop vite pour ceux qui la développent.
Ces derniers mois, on s’était habitués à une course assez simple à comprendre : OpenAI sortait un nouveau modèle, Google répondait, Anthropic revenait avec Claude et tout ce petit monde comparait joyeusement ses benchmarks pour savoir qui avait la plus grosse. La routine, quoi.
Sauf que cette semaine, le discours a sensiblement changé. OpenAI, Anthropic et Google commencent à discuter ensemble de sécurité. OpenAI veut publier plus systématiquement les comportements inquiétants observés chez ses modèles. Et chez Anthropic, Claude participe désormais directement au développement de ses successeurs.
Autrement dit : les IA commencent à aider à fabriquer les prochaines IA pendant que leurs créateurs cherchent justement comment mieux les contrôler. Bretzel de merle.
Bienvenue dans notre récap des actualités IA de la semaine.
OpenAI, Google et Anthropic : quand les concurrents commencent à parler sécurité
C’est probablement l’information la plus importante de la semaine. OpenAI travaille avec Anthropic et Google DeepMind autour des questions de sécurité liées aux modèles les plus avancés. Selon Reuters, les discussions durent depuis plusieurs semaines et portent notamment sur une meilleure coordination entre les laboratoires.
Ce qui est intéressant ici, ce n’est pas simplement de voir trois entreprises organiser des réunions ensemble. Ce sont avant tout trois concurrents directs, chacun cherchant à construire des modèles plus performants que ceux du voisin, récupérer les utilisateurs et les entreprises, et devenir la plateforme incontournable de cette nouvelle génération informatique.
Et pourtant, ils considèrent désormais la sécurité suffisamment importante pour travailler sur certains sujets en commun. Des discussions ont même porté sur la possibilité de créer un nouvel organisme consacré à la sécurité des IA les plus avancées.
Il faut évidemment éviter de transformer ça en remake de Terminator. Cela ne signifie pas que Skynet va prendre le contrôle de votre grille-pain mardi prochain. Cela signifie en revanche que les entreprises qui connaissent probablement le mieux les capacités actuelles de ces systèmes considèrent elles-mêmes que certaines questions méritent une coordination entre concurrents.
Et ça, c’est nettement plus intéressant que le énième benchmark annonçant 4,7 % de mieux sur un test dont personne n’avait entendu parler avant mardi.
OpenAI veut mettre les comportements étranges de ses modèles sur la table
Autre évolution particulièrement intéressante : OpenAI a annoncé le 16 septembre un nouveau cadre destiné à documenter publiquement les cas de « model misalignment », autrement dit les comportements dans lesquels un modèle ne suit pas correctement les intentions ou contraintes attendues.
L’entreprise accompagne cette initiative de six rapports concernant des comportements inattendus ou préoccupants observés au cours des six derniers mois. Parmi les catégories qu’OpenAI souhaite documenter figurent notamment les situations dans lesquelles un modèle tente d’agir sans autorisation, d’échapper à une supervision, de coordonner ses actions avec d’autres modèles ou encore lorsqu’une méthode de sécurité censée fonctionner montre ses limites.
Il y a cependant une nuance importante : OpenAI précise qu’un incident publié ne signifie pas nécessairement qu’un dommage a été causé, ni qu’il représente le comportement habituel du modèle. Il faut plutôt voir ça comme une sorte de registre des anomalies intéressantes.
Et c’est probablement une bonne manière d’aborder le sujet : ni « regardez, tout va parfaitement bien », ni « MON DIEU L’IA VEUT NOUS TUER ». On documente ce qui se passe réellement.
Pour nous autres utilisateurs, c’est également un rappel utile : aussi impressionnants soient-ils, les modèles actuels restent des systèmes dont le comportement peut parfois devenir imprévisible lorsqu’on leur donne davantage d’autonomie et d’outils. On est évidemment encore très loin du chatbot auquel vous demandez simplement une recette de carbonara.
Pendant ce temps, Claude aide déjà à construire… Claude
Et voilà probablement l’information la plus fascinante de cette semaine. Anthropic explique que Claude participe désormais directement aux travaux permettant de développer ses futurs modèles.
Selon les données communiquées par l’entreprise et rapportées par Associated Press, Claude serait aujourd’hui responsable d’environ 26 % du travail de recherche et développement sur les modèles, contre pratiquement rien en février, et interviendrait d’une manière ou d’une autre dans environ 90 % des tâches de R&D.
Attention cependant à la formulation. Claude ne s’est pas réveillé lundi matin en décidant : « Tiens, je vais me fabriquer un petit frère. » Les chercheurs restent aux commandes et supervisent le processus.
Mais on commence bel et bien à voir apparaître une boucle particulièrement intéressante : des chercheurs construisent une IA → cette IA aide les chercheurs → les chercheurs utilisent cette aide pour construire une IA plus performante. Et ensuite, on recommence.
Anthropic souhaite d’ailleurs développer des indicateurs permettant de mesurer publiquement cette accélération à l’intérieur des laboratoires d’IA. Et là, on touche probablement à l’une des questions les plus importantes des prochaines années.
Pas forcément : « Est-ce que l’IA va devenir consciente ? » La question beaucoup plus concrète est plutôt : à quelle vitesse le développement de l’IA peut-il accélérer lorsque l’IA elle-même devient l’un des principaux outils utilisés pour la développer ?
C’est beaucoup moins hollywoodien. Mais nettement plus concret.
L’IA devient également une sacrée boîte à outils pour les hackers
Et puisque tout ne pouvait évidemment pas être merveilleux, une équipe de chercheurs en sécurité participant au programme de bug bounty d’OpenAI a utilisé Claude pour exploiter plusieurs vulnérabilités et parvenir jusqu’au compte ChatGPT d’un employé d’OpenAI ainsi qu’à des ressources internes.
Les chercheurs ont ensuite signalé les vulnérabilités à OpenAI et reçu une prime de 6 500 dollars. Il s’agissait donc de recherche de sécurité autorisée et non d’une attaque criminelle, mais l’expérience illustre parfaitement un problème qui devient de plus en plus concret.
L’IA ne transforme pas magiquement quelqu’un qui ne connaît rien à l’informatique en hacker de génie. Elle peut en revanche accélérer énormément le travail de quelqu’un qui sait déjà ce qu’il cherche : analyse de code, création de scripts, recherche de vulnérabilités ou automatisation de certaines étapes.
Anthropic documente elle-même une évolution similaire. Son rapport de septembre décrit plusieurs opérations malveillantes utilisant Claude, notamment dans la cybersécurité, les escroqueries et différentes formes d’automatisation. L’entreprise indique avoir détecté puis interrompu ces usages.
C’est probablement là que le débat devient beaucoup plus intéressant que « l’IA est-elle dangereuse ? ». Un marteau peut construire une maison ou casser une fenêtre. Sauf que notre marteau devient meilleur tous les six mois et commence à apprendre comment fabriquer le prochain marteau.
Voilà qui complique légèrement l’affaire.
Alors, faut-il vraiment ralentir l’IA ?
C’est finalement la question qui traverse toutes les actualités de cette semaine. Pour la première fois depuis longtemps, le débat ne semble plus seulement opposer les défenseurs de l’IA aux gens qui voudraient la réglementer : il existe désormais un débat à l’intérieur même de l’industrie.
Certains responsables des principaux laboratoires défendent davantage de prudence dans la progression des modèles les plus avancés afin de laisser du temps aux systèmes de sécurité et d’évaluation. D’autres acteurs considèrent qu’un ralentissement pourrait surtout laisser davantage de terrain aux concurrents.
Et le problème est sacrément compliqué. Ralentir seul pendant que le voisin continue d’accélérer n’est pas particulièrement séduisant lorsqu’on dépense des dizaines de milliards de dollars dans cette course. Mais continuer à accélérer simplement parce que tout le monde accélère n’est pas exactement une stratégie rassurante non plus.
Ce que les actualités de cette semaine montrent surtout, c’est que nous entrons probablement dans une nouvelle phase de l’intelligence artificielle. La question n’est plus uniquement de savoir ce que ces modèles sont capables de faire. Il faut désormais se demander ce qu’on accepte de leur laisser faire seuls.
Et pour nous, simples utilisateurs ?
Pour le moment, pas besoin de débrancher votre PC et de partir vivre dans une cabane en Corrèze. La majorité d’entre nous utilise encore l’IA comme un outil : écrire, chercher une information, coder, générer une image, résumer un document ou simplement demander pourquoi cette foutue formule Excel refuse de fonctionner.
Mais les systèmes deviennent progressivement capables d’effectuer des tâches plus longues, d’utiliser des outils et d’intervenir davantage dans notre environnement informatique. C’est précisément là que la question du contrôle devient intéressante.
Et quelque part, voir OpenAI, Anthropic et Google commencer à se la poser sérieusement est peut-être l’information la plus importante de cette semaine. Parce que l’avenir de l’IA ne dépendra probablement pas uniquement de sa puissance.
Il dépendra aussi de notre capacité à décider où nous voulons placer les barrières.
Net, propre et sans bavure.
Sources consultées
Sources consultées : OpenAI — Model Misalignment Reporting Framework | Reuters — OpenAI, Anthropic et Google | Washington Post — coopération sur la sécurité IA | Associated Press — Claude et la R&D d’Anthropic | Anthropic — Threat Intelligence Report | Wall Street Journal — Claude et le bug bounty OpenAI
Laisser un commentaire