La Chine et les Etats-Unis auront ce mardi leur première discussion sur les « risques » de l'intelligence artificielle, ont annoncé de hauts responsables américains. L'occasion pour Washington d'évoquer son inquiétude sur les avancées chinoises en la matière.
Des représentants des deux pays se rendront donc à Genève pour mener ce dialogue, qu'avaient promis le président américain Joe Biden et son homologue chinois Xi Jinping lors d'un sommet en automne dernier en Californie, selon des responsables américains, qui ont requis l'anonymat.
Un « échange de vues » en premier temps
Il s'agira d'un « échange de vues », sans publication de communiqué conjoint, sans annonces concrètes et sans objectif de coopération, a dit l'un d'eux lors d'une conférence de presse.
« La Chine a fait du développement de l'intelligence artificielle une priorité nationale majeure et elle déploie rapidement des capacités dans le domaine civil et militaire, souvent d'une manière qui nuit, selon nous, à la fois à la sécurité nationale des Etats-Unis et à celle de nos alliés », a-t-il ajouté.
« Nous avons pris des décisions ciblées pour répondre à ces risques », décisions qui « ne sont pas négociables », et « nous répéterons nos inquiétudes sur l'utilisation de l'intelligence artificielle par Pékin », lors du dialogue à Genève, a encore déclaré ce haut responsable.
Partager l'IA ?
Si la Chine n'est pas l'un des pays les plus avancés dans le domaine de l'IA, notamment générative, elle y travaille assidument. Pékin a déjà commencé à investir dans l'IA et ses entreprises géantes, comme Alibaba et Baidu, ont annoncé avoir développé leurs propres concurrents nationaux du robot conversationnel de l'américain OpenAI. Mais jusqu'ici, ces derniers n'ont pas fait beaucoup de bruit.
En janvier, au sommet économique de Davos, le Premier ministre chinois Li Qiang, avait même appelé les pays disposant de technologies d'intelligence artificielle à les partager avec ceux ayant du retard. « L'IA doit être inclusive et bénéfique pour tous, et pas uniquement pour un petit groupe de personnes », avait-il déclaré. Avant d'ajouter : « Les intérêts des pays en développement doivent être priorisés pour réduire la fracture technologique avec les pays développés ».
Pékin avait également émis des alertes concernant les dangers de la technologie : « L'IA doit être dirigée dans une direction qui bénéficie au progrès de l'Humanité, et il doit donc y avoir des lignes rouges qui ne doivent pas être franchies et que tout le monde doit respecter ».
« Assurer la sécurité nationale »
Mais le président américain Joe Biden a mis la pression avec un objectif clair : « assurer la sécurité nationale » des Etats-Unis. Semi-conducteurs, intelligence artificielle (IA), véhicules électriques: Washington veut conserver une longueur d'avance sur Pékin ou rattraper son retard. Et empêcher l'armée chinoise de disposer des dernières technologies.
Durant le mandat de Donald Trump, la principale cible a été le groupe de télécoms Huawei, numéro un mondial du secteur, que les Etats-Unis ont voulu tenir hors de leurs réseaux 5G et de ceux de leurs alliés.
Avec Joe Biden, les restrictions se sont multipliées. « L'objectif est toujours de limiter l'accès de l'armée chinoise aux semi-conducteurs les plus avancés qui pourraient alimenter des avancées sur l'IA et des ordinateurs sophistiqués », a ainsi rappelé mi-octobre la secrétaire américaine au Commerce, Gina Raimondo.
Reste un point important : les matériaux stratégiques, nécessaires pour ces nouvelles technologies et sur lesquels Pékin a pour l'instant largement la main. Là encore, l'objectif de Washington est de contourner et isoler la Chine.
Protection des données
Par ailleurs, le développement rapide de l'IA vient désormais poser de manière encore plus aiguë la question des données, du risque qu'elles impliquent et la manière de mieux les protéger. Des questions sur lesquelles l'Union européenne ou l'Inde ont avancé depuis de nombreuses années, de même que la Chine.
« La Chine a largement développé son propre système de protection des données, avec d'importantes restrictions concernant le transfert de données vers l'étranger » explique ainsi Martin Chorzempa, chercheur au PIIE, « au point de risquer à un moment de se découpler elle-même du reste du monde » sur ce point.
Sauf que pendant longtemps, les Etats-Unis se préoccupaient peu de la question des données personnelles et de leur usage. Mais la montée en puissance de l'intelligence artificielle et l'opposition stratégique avec la Chine dans le domaine technologique forcent Washington à revoir son approche.
Le président américain Joe Biden a donc signé début mars un décret visant à limiter le transfert de données sensibles vers les pays dits à risque, au premier rang desquels la Chine. Dans la foulée, l'ouverture d'une enquête sur les véhicules connectés chinois, ou les logiciels et équipements chinois embarqués dans des véhicules construits ailleurs, était annoncée.
Car, au-delà de la question de l'IA, le futur d'internet repose en grande partie sur le décollage de l'internet des objets (IoT), qui doit connecter tout, tout le temps, au réseau mondial, générant des monceaux de données et dont la voiture connectée est l'exemple le plus évident et visible.
Mais cela va plus loin : aux Etats-Unis, données génétiques, biométriques, de santé ou financières sont achetées et vendues régulièrement par des courtiers spécialisés, sans être nécessairement anonymisées, et il peut être très simple de reconstituer le profil d'une personne.
Quand l'IA se met à dériver. D'après une étude, alors que les programmes actuels d'intelligence artificielle sont conçus pour être honnêtes, certains ont développé une capacité de tromperie. Ces programmes sont par exemple parvenus à abuser des humains dans des jeux en ligne, ou encore à vaincre des logiciels censés vérifier que tel utilisateur n'est pas un robot, souligne cette étude de la revue Patterns. Même si ces exemples peuvent sembler anodins, ils exposent des problèmes qui pourraient bientôt avoir de graves conséquences dans le monde réel, avertit Peter Park, chercheur au Massachusetts Institute of Technology, spécialisé dans l'IA. « Ces capacités dangereuses ont tendance à être découvertes seulement après coup », confie-t-il à l'AFP. Contrairement aux logiciels traditionnels, les programmes d'IA fondés sur l'apprentissage en profondeur ne sont pas codés, mais plutôt développés via un processus similaire à la culture sélective des plantes, poursuit l'expert. Dans lequel un comportement semblant prévisible et contrôlable peut rapidement devenir imprévisible dans la nature. En conclusion, les auteurs de l'étude du MIT mettent en garde contre les risques de voir un jour l'intelligence artificielle commettre des fraudes ou truquer des élections. Dans la pire des hypothèses, préviennent-ils, on peut imaginer une IA ultra-intelligente cherchant à prendre le contrôle sur la société, conduisant à écarter les humains du pouvoir, voire provoquant l'extinction de l'humanité. A ceux qui l'accusent de catastrophisme, Peter Park répond que « la seule raison de penser que ce n'est pas grave est d'imaginer que la capacité de tromper de l'IA restera à peu près au niveau actuel ». Or, ce scénario semble peu probable, compte tenu de la course féroce à laquelle se livrent déjà des géants des technologies pour développer l'IA.Une menace déjà présente
(Avec AFP)
Dissolution : la France est attaquée sur les marchés financiers
Sujets les + commentés