IA 2025 : Révolution Galopante, Risques Géants

La huitième édition du « Artificial Intelligence Index Report 2025 » du Stanford Institute for Human-Centered Artificial Intelligence (HAI) s’impose comme une boussole indispensable. Ce rapport, le plus complet à ce jour, est une note de synthèse d’une rigueur analytique irréprochable, née de l’expertise de plus de 900 leaders mondiaux et 100 experts thématiques. Il traque le progrès, l’adoption et l’impact de l’IA à travers le temps et les géographies, équipant chacun d’entre nous d’informations « précises, rigoureusement validées et de source mondiale » pour des décisions éclairées.

Ma lecture de ce document massif et dense révèle une dichotomie frappante : d’un côté, une performance technique de l’IA qui défie l’imagination, débloquant des potentialités immenses ; de l’autre, une montée en flèche des risques, une gouvernance fragmentée et une fracture numérique persistante. L’IA n’est plus « une histoire de ce qui est possible, c’est une histoire de ce qui se passe maintenant et comment nous façonnons collectivement l’avenir de l’humanité ». Il est donc impératif d’en saisir les nuances, les avancées spectaculaires comme les zones d’ombre, pour ne pas subir mais maîtriser cette révolution.

Voici les 15 points essentiels à retenir de ce rapport :

1. Des Performances Techniques de l’IA Toujours Plus Exigeantes et Améliorées

Les systèmes d’IA continuent de s’améliorer de manière spectaculaire sur des bancs d’essai de plus en plus difficiles. En 2023, de nouveaux benchmarks comme MMMU, GPQA et SWE-bench ont été introduits pour tester les limites des systèmes avancés. Un an plus tard, les performances ont bondi de 18,8, 48,9 et 67,3 points de pourcentage respectivement sur ces tests. Au-delà des chiffres, l’IA excelle désormais dans la génération de vidéos de haute qualité, et certains agents de modèles linguistiques ont même surpassé des humains dans des tâches de programmation avec des contraintes de temps. De nouveaux défis comme « Humanity’s Last Exam » (HLE) ou FrontierMath sont continuellement proposés pour évaluer les systèmes d’IA de pointe, car les benchmarks traditionnels atteignent la saturation. Les modèles les plus récents, comme le modèle o3 d’OpenAI, montrent des signes de raisonnement avancé, notamment en décomposant des problèmes complexes en étapes plus petites.

2. L’Industrie Mène la Course à l’Innovation des Modèles, l’Académie Produit la Recherche Influente

L’hégémonie de l’industrie dans le développement de modèles d’IA notables s’accentue. En 2024, près de 90 % des modèles d’IA remarquables provenaient de l’industrie, contre 60 % en 2023. Cela confirme une tendance observée dans les éditions précédentes du rapport. Cependant, l’académie conserve son rôle primordial dans la production de recherche fondamentale de haut niveau, restant le principal producteur de publications très citées (top 100) au cours des trois dernières années. Aux États-Unis, 16,5% des publications en IA proviennent de l’industrie, contre 8% en Chine, où le secteur académique domine avec 84,5% des publications. Cette répartition suggère que l’innovation de rupture se fait de plus en plus dans le privé, tandis que les universités continuent d’être le terreau de la connaissance théorique.

3. Une Hausse Alarmante des Incidents Liés à l’IA

L’intégration croissante de l’IA dans nos vies s’accompagne d’une augmentation préoccupante des incidents. Selon la base de données AI Incidents Database, le nombre d’incidents signalés liés à l’IA a atteint un niveau record de 233 en 2024, soit une augmentation de 56,4 % par rapport à 2023. Ces incidents incluent des utilisations éthiques contestables, comme l’exploitation de l’identité d’individus décédés par des chatbots IA, des décisions de systèmes de reconnaissance faciale menant à des arrestations injustifiées, ou des dysfonctionnements de véhicules autonomes. Cette hausse reflète non seulement l’expansion de l’IA, mais aussi une plus grande sensibilisation du public à ses impacts.

4. Les Entreprises Reconnaissent les Risques, mais Peinent à Agir

Le rapport met en évidence un décalage entre la prise de conscience et l’action au sein des entreprises. Une enquête de McKinsey révèle que si les organisations identifient clairement les risques liés à l’IA responsable (RAI) – tels que l’inexactitude (64 %), la conformité réglementaire (63 %) et la cybersécurité (60 %) – leurs efforts d’atténuation restent insuffisants. Pour chaque catégorie de risque, moins d’organisations prennent des mesures actives que celles qui les jugent pertinentes. L’écart est particulièrement notable pour la violation de la propriété intellectuelle et la réputation organisationnelle. Cela suggère que les engagements en matière de RAI peinent à se traduire en mesures techniques concrètes.

5. Une Intensification de la Coopération Internationale en Gouvernance de l’IA

Face aux risques croissants, l’année 2024 a été marquée par une intensification de la coopération mondiale en matière de gouvernance de l’IA. Des organisations majeures comme l’OCDE, l’Union européenne, les Nations Unies et l’Union africaine ont publié des cadres et des principes axés sur la transparence, la fiabilité et d’autres principes fondamentaux de l’IA responsable. Des sommets sur la sécurité de l’IA à Séoul ont vu de nombreux pays (Japon, France, Allemagne, Italie, Singapour, Corée du Sud, Australie, Canada, UE) s’engager à lancer des instituts de sécurité de l’IA, renforçant la coordination internationale. Ce mouvement témoigne d’un consensus croissant sur la nécessité d’une approche coordonnée plutôt que d’initiatives nationales isolées.

6. Le « Data Commons » se Rétrécit Rapidement

L’un des défis majeurs pour le développement futur de l’IA est le rétrécissement rapide du « data commons ». Les modèles d’IA dépendent de quantités massives de données web accessibles au public pour leur entraînement. Or, une étude récente a révélé que les restrictions d’utilisation des données ont considérablement augmenté de 2023 à 2024, de nombreux sites web mettant en œuvre de nouveaux protocoles pour freiner le « scraping » de données pour l’entraînement de l’IA. La proportion de « tokens » restreints a bondi de 5-7 % à 20-33 % dans les domaines activement maintenus du jeu de données C4. Cette diminution a des conséquences pour la diversité des données, l’alignement des modèles et leur évolutivité, et pourrait forcer l’émergence de nouvelles approches d’apprentissage avec des contraintes de données.

7. Une Transparence Accrue des Modèles Fondateurs, Mais des Lacunes Persistantes

La transparence de la recherche sur les modèles fondamentaux s’améliore, mais le chemin est encore long. L’indice de transparence des modèles fondamentaux (Foundation Model Transparency Index) a montré que le score de transparence moyen des principaux développeurs de modèles est passé de 37 % en octobre 2023 à 58 % en mai 2024. Ces gains sont prometteurs, mais le rapport souligne qu’il reste beaucoup à faire. Des zones d’opacité importantes persistent, notamment en ce qui concerne l’accès aux données, le statut des droits d’auteur et les détails sur l’entraînement des modèles.

8. L’Émergence de Nouveaux Benchmarks pour la Fiabilité et la Véracité

Face aux limites des anciens benchmarks (comme HaluEval et TruthfulQA) pour évaluer la véracité et la factualité des modèles d’IA, de nouvelles évaluations plus complètes ont vu le jour. Des outils comme le leaderboard du Hughes Hallucination Evaluation Model (HHEM) mis à jour, FACTS et SimpleQA sont apparus pour évaluer la factualité dans des contextes plus difficiles et diversifiés. FACTS, par exemple, évalue la capacité des LLM à générer des réponses factuellement exactes et suffisamment détaillées à partir d’un document contextuel, y compris dans des domaines complexes comme la finance ou la médecine. Ces nouveaux outils sont essentiels pour avoir une meilleure compréhension des capacités et des faiblesses des modèles.

9. La Recherche Académique Accorde une Attention Croissante à l’IA Responsable

Le domaine de l’IA responsable (RAI) gagne en importance au sein de la communauté de recherche académique. Le nombre d’articles sur la RAI acceptés lors de conférences majeures sur l’IA a augmenté de 28,8 %, passant de 992 en 2023 à 1 278 en 2024. Cette tendance à la hausse constante depuis 2019 souligne l’attention croissante portée aux aspects éthiques, de sécurité, de confidentialité et d’équité de l’IA. Les États-Unis dominent le nombre de soumissions académiques sur la RAI, suivis par la Chine et l’Allemagne.

10. L’Investissement Privé Mondial dans l’IA Atteint un Niveau Record

L’investissement corporatif dans l’IA a atteint un niveau sans précédent de 252,3 milliards de dollars en 2024, marquant une croissance de 26 % par rapport à l’année précédente. L’investissement privé a grimpé de 44,5 % et les fusions-acquisitions de 12,1 %. Le secteur a connu une expansion fulgurante au cours de la dernière décennie, avec un investissement total multiplié par plus de treize depuis 2014. Cette expansion reflète une sophistication croissante du paysage de l’IA, les fonds étant de plus en plus dirigés vers des applications spécialisées dans l’automatisation d’entreprise et les solutions spécifiques à l’industrie.

11. L’IA Révolutionne la Science et la Médecine

L’impact de l’IA sur la science et la médecine est reconnu par des distinctions majeures : deux prix Nobel (physique et chimie) ont récompensé des travaux ayant conduit au deep learning et à son application au repliement des protéines, tandis que le Prix Turing a honoré des contributions fondamentales à l’apprentissage par renforcement. En 2024, une vague de modèles de fondation à grande échelle dédiés à la médecine (Med-Gemini, EchoCLIP, VisionFM, ChexAgent) a été publiée. Les bases de données publiques de protéines ont connu une croissance significative (AlphaFold +585% depuis 2021), et les données synthétiques générées par l’IA montrent des promesses pour identifier les déterminants sociaux de la santé et accélérer la découverte de médicaments. Le nombre de publications sur l’éthique de l’IA médicale a quadruplé entre 2020 et 2024. Des innovations comme GluFormer prédisent les trajectoires de santé à long terme à partir de données de surveillance du glucose.

12. Le Raisonnement Complexe Reste un Défi pour l’IA

Malgré les progrès remarquables, les modèles d’IA continuent de buter sur des tâches de raisonnement complexe. S’ils excellent à résoudre des problèmes de l’Olympiade Internationale de Mathématiques, ils peinent encore sur des benchmarks de raisonnement complexe comme PlanBench. Ils ne parviennent souvent pas à résoudre de manière fiable des tâches logiques, même lorsque des solutions prouvablement correctes existent, ce qui limite leur efficacité dans des contextes où la précision est critique. Cela met en évidence une limite fondamentale actuelle de l’IA, en dépit de ses capacités impressionnantes dans d’autres domaines.

13. L’Optimisme Mondial Croît, Mais les Fractures Régionales Demeurent Profondes

L’optimisme global concernant les produits et services d’IA est en hausse, passant de 52 % de personnes les jugeant plus bénéfiques que néfastes en 2022 à 55 % en 2024. Cependant, de profondes divisions régionales persistent. Des majorités écrasantes en Chine (83 %), en Indonésie (80 %) et en Thaïlande (77 %) sont très optimistes, tandis que cet optimisme reste beaucoup plus faible au Canada (40 %), aux États-Unis (39 %) et aux Pays-Bas (36 %). Néanmoins, l’optimisme a significativement augmenté depuis 2022 dans plusieurs pays auparavant sceptiques, comme l’Allemagne (+10 %) et la France (+10 %).

14. L’Expansion des Instituts de Sécurité de l’IA à l’Échelle Mondiale

L’année 2024 a été marquée par la création et l’expansion d’instituts internationaux de sécurité de l’IA dans le monde entier. Suite au premier Sommet sur la sécurité de l’IA en novembre 2023, le Royaume-Uni et les États-Unis ont lancé les premiers instituts. Au Sommet de l’IA de Séoul en mai 2024, des engagements ont été pris pour créer des instituts similaires au Japon, en France, en Allemagne, en Italie, à Singapour, en Corée du Sud, en Australie, au Canada et dans l’Union Européenne. Cette coordination mondiale indique une reconnaissance croissante de la nécessité d’une approche unifiée pour gérer les risques liés à l’IA.

15. L’Éducation à l’IA et l’Accès aux Compétences : Des Progrès Inégaux

L’éducation à l’informatique (CS) pour les élèves du primaire et du secondaire est en pleine expansion : deux tiers des pays dans le monde offrent ou prévoient d’offrir une telle éducation, un chiffre qui a doublé depuis 2019. Les pays africains et latino-américains sont ceux qui ont le plus progressé. Cependant, les élèves des pays africains ont le moins accès à l’éducation en CS, principalement en raison du manque d’électricité dans les écoles. Cette inégalité souligne la fracture numérique persistante. Aux États-Unis, le nombre de diplômés en Master d’IA a presque doublé entre 2022 et 2023, suggérant une tendance à la hausse pour tous les niveaux de diplôme. Le rapport souligne la nécessité d’une éducation en IA inclusive, incluant à la fois les compétences techniques et une « lentille critique interrogeant l’éthique de l’IA ».

L’IA, un Défi de Volonté Collective

Le « Artificial Intelligence Index Report 2025 » est une feuille de route complexe et fascinante des avancées fulgurantes de l’IA, de ses applications révolutionnaires en science et médecine, et de l’augmentation des investissements. Mais c’est aussi un avertissement solennel. Il confronte nos sociétés à la réalité d’une accélération des risques, d’une érosion de la transparence dans certains domaines, de biais persistants dans les modèles et d’une gouvernance qui peine à suivre le rythme. Les questions techniques sont de moins en moins des obstacles insurmontables, tandis que les défis éthiques, de gouvernance, d’équité et de confiance deviennent prépondérants. La fragmentation des efforts d’atténuation des risques dans les entreprises, le rétrécissement du « data commons », et les inégalités d’accès à l’éducation en IA sont autant de fissures dans le socle de cette révolution. Le rapport nous invite non pas à la fatalité, mais à la volonté collective. La construction d’un avenir où l’IA sert véritablement l’humanité, et non quelques-uns, exigera une collaboration sans précédent entre les chercheurs, les industriels, les gouvernements et la société civile. L’heure est à l’action concertée, étayée par des données rigoureuses, pour façonner un avenir de l’IA qui soit à la fois puissant et profondément responsable.