Trop d'intelligence artificielle tue l'intelligence artificielle. Ainsi pourrait-on résumer (grossièrement) le concept de "model collapse" (en français l'effondrement des modèles). Ce phénomène, qui inquiète régulièrement l'industrie depuis quelques mois, vient d'être validé scientifiquement dans la revue Nature. Une étude publiée le 24 juillet démontre que si les modèles d'intelligence artificielle générative sont nourris avec trop de données produites elles-mêmes par des IA, ils finissent par produire du charabia et des images absurdes. Le problème concerne à la fois les grands modèles de langage (LLM) comme GPT-4 d'OpenAI ou Claude d'Anthropic, et les générateurs d'images tels que Stable Diffusion, Midjourney ou DALL-E.
Comment cette dégénérescence s'opère ? Pour comprendre le processus, il faut rappeler que les modèles d'IA produisent du contenu de manière probabiliste. Et ils ont tendance à sur-représenter les images ou les mots fréquents, et à sous-estimer ceux qui sont moins récurrents. Ce problème s'amplifie au fur et à mesure. Imaginez que l'on demande à une IA de représenter un chien. Le modèle produira plus d'images de golden retrievers, car ce sont les chiens les plus représentés dans les banques d'images, et moins de dalmatiens ou d'autres races moins répandues. Si ensuite ce même modèle est entraîné sur les images qu'il a produites, il représentera encore plus de golden retrievers. C'est la première étape de l'effondrement. Les chercheurs l'appellent « la perte de variance ». Et au fur et à mesure des entraînements, le modèle produit des golden retrievers à l'anatomie aléatoire, expliquent les chercheurs canadiens et britanniques à l'origine de l'étude. Car en plus de sur-représenter certaines races, l'IA introduit des erreurs.
Les IA ont tendance à sur-représenter certains contenus
« Les modèles perdent de leur utilité parce qu'ils sont submergés par toutes les erreurs et les idées fausses introduites par les générations précédentes des modèles », explique au Financial Times Ilia Shumailov, chercheur en informatique à l'Université d'Oxford, qui a mené ces travaux. Le phénomène est comparable à copier à l'aide d'une imprimante une image elle-même scannée puis imprimée. Au fur et à mesure des copies, l'image sera de plus en plus sombre.
Par ailleurs, ce processus de dégradation est rapide, estiment les chercheurs. Au bout de 9 générations de modèles entraînés sur des données synthétiques, les résultats deviennent totalement absurdes, démontrent les chercheurs.
Les auteurs estiment que ce problème doit être pris « au sérieux ». Pourquoi ? Parce que l'utilisation de données synthétiques -le nom donné aux contenus produits par IA- est de plus en plus courant dans l'industrie. D'une part parce que le web est lui-même alimenté par des textes et des images produites par IA, et qu'il sert de base d'entraînement aux grands modèles. Et d'autre part, parce que les entreprises, OpenAI et d'autres, utilisent sciemment des set de données synthétiques.
Ces données artificielles peuvent toutefois s'avérer très utiles si elles sont produites de manière contrôlée, dans un but spécifique. Certaines entreprises, comme Qbits Pharmaceuticals, font même des données synthétiques une valeur ajoutée. Dans ce cas précis, Qbits Pharmaceuticals utilise des données moléculaires produites par IA pour entraîner ses modèles et trouver de nouveaux traitements. Les données synthétiques pouvant nuire à la qualité des modèles sont plutôt celles que l'on trouve majoritairement sur le Web - des faux sites entièrement écrits par ChatGPT, par exemple.
On ne sait pas encore bien distinguer les données humaines des données synthétiques
Pour contourner le problème, il faudrait pouvoir être capable de distinguer les contenus produits par les humains des contenus des IA. Pour le moment les ingénieurs butent sur ce problème. En juillet dernier, OpenAI a fermé son outil AIClassifier, préposé à cette mission, car il n'était pas assez précis.
Cela signifie que les données « humaines » vont prendre encore plus de valeur, estiment les chercheurs. D'autant que le cadre légal et la méfiance des utilisateurs et des producteurs de contenu vis-à-vis de l'IA, risquent de compliquer leur collecte pour l'industrie. Comme en témoignent les récents déboires de Meta, obligé d'abandonner la collecte des données des utilisateurs européens afin d'entraîner ses IA, pour suspicion de non conformité au Règlement général de la protection des données.
Autre élément intéressant : les chercheurs notent que les premiers venus de l'industrie pourraient avoir un avantage, car leurs premiers modèles ont été entraînés sur un Web pré-IA, donc davantage représentatif de la réalité.
« Le tourisme en Corse est broyé par les dysfonctionnements » (César Filippi, GHR)
Sujets les + commentés