Distillation : les modèles d’OpenAI alimentent les IA chinoises malgré les restrictions

Chaque réponse achetée à un service américain peut devenir une donnée d’entraînement réutilisable pour un concurrent chinois. Alors que Washington verrouille l’accès aux accélérateurs, cette pratique offre aux développeurs locaux un moyen de progresser avec moins de ressources.

Une enquête de Reuters, fondée sur plus de 300 publications scientifiques, brevets, communications d’entreprises, offres d’emploi et documents gouvernementaux chinois, décrit un recours croissant à cette méthode. Elle dépasse désormais l’expérimentation universitaire pour entrer dans les processus de développement industriels.

La distillation, du laboratoire aux modèles Qwen

Le principe consiste à entraîner un modèle « élève » sur les réponses, le code ou les étapes de résolution produits par un modèle « professeur » plus performant. L’intérêt économique est évident lorsque les GPU deviennent difficiles à obtenir : sur le marché gris chinois, un serveur NVIDIA équipé de 8 GPU H200 atteint 900 000 dollars, soit environ 830 000 euros à titre indicatif, dans un contexte également marqué par des restrictions commerciales plus strictes imposées par Pékin.

En novembre 2024, des chercheurs de l’université Jiao Tong de Shanghai ont ainsi sélectionné environ 5 000 réponses d’OpenAI o1, puis utilisé GPT-4o mini pour les traduire. Ils en ont tiré 10 750 exemples d’entraînement bilingues destinés à poursuivre l’entraînement de Qwen2.5-72B, le modèle d’Alibaba. Les chercheurs avertissent toutefois qu’une dépendance excessive à la distillation risque de limiter les percées originales.

En 2025, des chercheurs d’Alibaba ont également produit des données d’entraînement dans d’autres langues que le chinois, en utilisant GPT-4 et GPT-4o pour noter et filtrer les réponses destinées à de plus petits modèles Qwen. En février 2026, des équipes de Jiao Tong et du géant chinois de la livraison Meituan ont exploité GPT-4o pour générer des plans de coordination entre agents sur des tâches de programmation, afin d’entraîner un modèle local plus petit.

Washington déplace le débat vers la propriété intellectuelle

La distillation est pratiquée dans le monde entier et n’est pas illégale en soi. OpenAI et Anthropic interdisent cependant, dans leurs conditions d’utilisation, d’exploiter leurs modèles pour entraîner des concurrents. La distinction entre technique d’entraînement et usage contractuellement interdit est au cœur des tensions décrites par Reuters.

Lors de réunions à Chengdu en juillet, jusqu’alors non rendues publiques, des responsables du département américain du Commerce ont averti les régulateurs chinois que la collecte de réponses d’IA américaines pouvait constituer un vol de propriété intellectuelle. Un responsable américain informé de ces échanges présente la « distillation à l’échelle industrielle » comme le principal moteur du rapprochement des performances entre modèles chinois et américains.

Un éventuel cadre juridique visant à empêcher l’utilisation des modèles d’OpenAI et d’Anthropic par les acteurs chinois reste une hypothèse, pas une mesure annoncée. En parallèle, les difficultés d’approvisionnement continuent d’alimenter d’autres circuits, dont la contrebande de GPU NVIDIA B300 haut de gamme.

La distillation ne supprime pas le besoin de calcul : le modèle élève doit toujours être entraîné. Elle permet en revanche de réutiliser les résultats d’un système avancé plutôt que d’en reproduire tout le développement. Les restrictions sur les puces peuvent donc renchérir la progression des acteurs chinois sans bloquer ce transfert de capacités, dont le contrôle dépend aussi de l’accès aux services américains.

Source : Reuters

Wael.K

Ravi de vous accueillir sur ma page dédiée aux articles ! Je suis Wael El Kadri, et je suis un ingénieur civil de profession. Mais ma véritable passion est le matériel informatique. J'en suis passionné depuis l'âge de 12 ans, et j'aime apprendre et découvrir de nouvelles choses. En 2016, j'ai créé ma page personnelle sur les réseaux sociaux, baptisée Pause Hardware. C'est là que je partage mes créations en modding, mais aussi divers sujets liés au matériel informatique en général. J'ai également crée le site web, pausehardware.com, en 2019 où je publie des articles plus approfondis sur le matériel à travers des tests et revues et articles de news. J'ai eu l'opportunité de participer en tant qu'exposant à plusieurs événements liés aux jeux vidéo, aux côtés de grandes marques, notamment lors de la Paris Game Week en 2018 et 2019. Je reste constamment en quête de nouvelles manières de partager mes connaissances et ma passion pour le matériel informatique avec d'autres passionnés. Voici quelques publications médiatiques qui ont mis en lumière mon travail : Deux articles dans le magazine Extreme PC, parus dans ses  numéros 1 et 21 : Extreme PC Magazine Issue 21 (adobe.com) Également, un article sur Forbes intitulé "Dix Modèles de PC Incroyables en 2021" sur forbes.com : Ten Incredible PC Mods Of 2021 (forbes.com)
guest
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x