.png)
DeepSeek, ChatGPT et l'avenir de l'IA
La révolution des modèles de distillation et les obstacles européens
Tout le monde a une opinion sur DeepSeek. Bien sûr, Wouter Verlinden aussi !
Grâce à l'innovation de DeepSeek, les coûts de formation de modèles d'IA avancés ont chuté de façon spectaculaire. Alors que seuls de riches géants de la technologie tels qu'OpenAI, Meta et Google disposaient auparavant des ressources nécessaires pour développer des systèmes d'IA de pointe, il est désormais de plus en plus facile de former de nouveaux modèles. Cela pourrait provoquer une explosion cambrienne des IA, entraînant une diversité de modèles qui se répandent et innovent rapidement. On peut supposer que tout le monde ne continuera pas à travailler avec un modèle OpenAI. La diversité sur le lieu de travail, y compris pour nos collègues spécialistes de l'IA ! Pour l'humanité, il s'agit d'une évolution positive, mais pour les grandes entreprises technologiques américaines établies, c'est un cauchemar : le contrôle exclusif qu'elles pensaient conserver leur échappe.
Après les anciennes industries telles que l'acier, le transport maritime et l'industrie automobile, la Chine devance désormais l'Occident en matière de robots et d'IA. Heureusement, nous fabriquons toujours des sacs à main en Europe.
L'essor des modèles de distillation
L'une des causes de ces réductions de coûts est l'essor des modèles de distillation. Il s'agit de modèles entraînés par d'autres modèles, un processus qui n'est pas sans rappeler le système éducatif dans lequel les réseaux de neurones biologiques s'entraînent les uns les autres. DeepSeek, un développeur chinois d'IA, semble déjà utiliser cette technique pour former de nouvelles versions de ses propres modèles. Bien entendu, cela va à l'encontre de conditions de service d'OpenAI et de Meta. Mais cela signifie qu'un modèle d'IA peut s'affiner et s'améliorer sans intervention humaine. Cela nous place au point d'un « décollage » technologique, où les IA entraînent les IA et où le développement s'accélère de façon exponentielle.
Quelle époque pour vivre ! Fusées, IA, vélos électriques, écrans plats, téléphones portables,... Qui aurait cru que la science-fiction deviendrait une œuvre de non-fiction ?
Pourquoi cela ne se produit-il pas dans l'UE ?
Aux États-Unis et en Chine, de nouveaux développements en matière d'IA sont mis en œuvre rapidement, tandis que l'Europe se tient à l'écart. La loi européenne sur l'IA, qui vise à garantir la transparence et la sécurité, impose des exigences strictes en matière de données d'entraînement et d'utilisation de modèles généraux d'IA. Les données de formation doivent non seulement être conformes à la loi sur le droit d'auteur (par où commencer si les données de formation incluent l'intégralité d'Internet et tous les livres ?) , mais toutes les données d'entraînement doivent également être conservées. Dans la pratique, cela rend la distillation quasiment impossible, car l'origine et le traitement des données d'entraînement ne sont plus faciles à déterminer. La formation des enseignants et des étudiants en IA se déroule directement au niveau des neurones numériques et n'a pas immédiatement d'équivalent lisible par l'homme. Alors que le reste du monde expérimente et innove, l'Europe se bloque avec des réglementations qui sont pour l'essentiel dépassées au moment de leur mise en œuvre.
Leçons de l'histoire
La situation en Europe n'est pas sans rappeler la législation néerlandaise sur les brevets entre 1869 et 1912. Au cours de cette période, les Pays-Bas ont aboli le droit des brevets sous l'influence de ceux qui abusaient du marché libre parmi les libéraux. Cela a donné à des entreprises telles que Philips (°1891) l'opportunité de se développer rapidement et de devenir un poids lourd industriel. ASML, On semiconductor, Signify et NXP en sont les conséquences directes.
Une situation similaire avec Nordisk (et son concurrent Novo, qui fusionnera plus tard). Les médicaments tels que l'insuline n'étaient pas brevetables (le procédé de production, toutefois). La non-brevetabilité des médicaments au début du XXe siècle a permis à Nordisk de produire de l'insuline sans obstacles juridiques et de se positionner comme leader du marché. Les détenteurs de brevets américains Eli Lili et Novo Nordisk dominent toujours ces marchés gigantesques plus de 120 ans plus tard.
L'Europe peut suivre la même voie et tous Supprimer les restrictions relatives aux droits d'auteur et les exigences de formation sur les cours de formation sur l'IA. La distillation permet de construire des modèles concurrents même s'ils sont désavantagés, mais la législation actuelle empêche ces évolutions. Ce n'est pas que les modélistes américains et chinois se conforment à la législation européenne.
Si nous voulons que tout reste tel quel, il faut que tout soit différent.
Auteur : Wouter Verlinden
Date : 29/01/2025
