IA : les modèles d’IA chinois émergent des versions occidentales


Il s’appelle Wu Dao 2.0 et, selon ses concepteurs, il surpasse les géants de l’apprentissage en profondeur, en particulier le modèle GPT-3 d’OpeinAI. En effet, le nombre de paramètres qu’il peut composer s’avère bien supérieur à ce concurrent. Pourtant, ce dernier a impressionné le monde en 2020 avec une capacité extraordinaire par rapport à la moyenne. Que signifie ce gigantisme apparent ?

Voir aussi : Intelligence artificielle : à quoi correspond ce domaine innovant ?

Les arts martiaux dévoilés au grand jour

L’intelligence artificielle sort de l’ombre lors d’une conférence organisée par l’Institut d’intelligence artificielle de Pékin le 1er juin 2021. Il s’agit d’un événement annuel d’échange académique qui a débuté en 2019, réunissant plus de 30 000 professionnels dans le domaine de l’intelligence artificielle ainsi que des experts chinois et étrangers.Dans ce contexte, les chercheurs de l’Institut proposent ce nouveau Intelligence Artificielle MultimodaleCe terme signifie que Wu Dao ne se limite pas à une seule tâche comme tant d’autres :

  • générer du texte (un poème, un titre pour une image…)
  • Identifier les images
  • comprendre le langage humain (Traitement du langage naturel)
  • Prédire la structure 3D des protéines
  • Des rendus presque réalistes

Au cours de la réunion, le directeur de l’institut l’a comparé à Des centrales électriques qui alimentent les données et les transforment en capacités intelligentesL’objectif de Budo 2.0 est : « Le grand modèle est la prochaine plate-forme centrale de l’intelligence artificielle et l’infrastructure stratégique pour le développement futur de l’intelligence artificielle. ». Articles de l’Institut d’intelligence artificielle de Pékin (BAAI) sur la conférence

Pourquoi Ai Wudao fait-il tant de bruit ?

Près d’un an après le lancement du modèle GPT-3 et de ses 175 milliards de paramètres, l’Institut de recherche de Pékin a balayé le record avec 1,75 billion de paramètres. Si GPT-3 a dix fois la capacité de la plupart des autres programmes, Budo multiplie à nouveau cette valeur par dix ! Ce nombre est l’indice de force de cette IA. En effet, le réseau de neurones artificiels qui le compose possède un certain nombre de paramètres, comme le nombre de couches, le nombre de neurones dans chaque couche, ou encore le nombre de canaux parcourus par les données. Comme vous pouvez le voir, la Chine retire son artillerie lourde en intelligence artificielle. Notez que nous ne connaissons pas encore exactement son potentiel ou ses limites. Vous devez donc être prudent à ce sujet.

A Voir  Apple CarPlay compatible avec 200 modèles de voitures

Le progrès n’est pas que des chiffres

En plus de cette grande valeur, Les arts martiaux sont la source des perspectives vraiment intéressantes de la ChinePremièrement, il s’appuie sur un éducation rapide Similaire au portefeuille d’experts (MoE) de Google. Cependant, le système chinois a plus de flexibilité car il permet à Wu Dao de s’entraîner sur des supercalculateurs et des GPU plus traditionnels. De plus, FastMoE ne nécessite pas de matériel propriétaire comme MoE, ce qui le rend plus accessible. Dans la même logique, le système supporte le framework PyTorch. Il s’agit d’une bibliothèque logicielle open source pour le langage Python avec l’apprentissage automatique en son cœur. Par conséquent, le Budo est plus facile à démocratiser que les autres modes.

Ce Ministère de l’Éducation est une technologieapprentissage automatique Un grand nombre d’experts (sous-réseaux de réseaux de neurones artificiels) sont utilisés pour diviser la solution du problème en différentes régions homogènes.

nouveau système d’apprentissage

Actuellement, La grande majorité des recherches et résultats dans le domaine de l’intelligence artificielle s’appuient sur des corpus constitués de contenus en anglais. Par exemple, l’apprentissage automatique pour l’intelligence artificielle qui traite le langage naturel extrait presque systématiquement les fonctionnalités de cette collection. Ainsi, le corpus ne comporte qu’un seul jargon et des textes majoritairement associés à la culture anglo-saxonne. Ces différences peuvent devenir problématiques lors du développement de l’IA en Asie. A ce titre, le Budo bénéficie d’un corpus adapté à son pays d’origine et à sa langue. Par conséquent, le modèle a subi un « apprentissage » composé de 4,9 To de données (textes et images), dont 3,7 To en chinois. Quant aux 1,2 To restants, ce sont des textes en anglais. Sans aucun doute, l’une des langues les plus importantes au monde à part !

A Voir  AMD Zen 4 et Ryzen 7 : fiche technique, date de sortie, prix... tout ce que vous devez savoir

L’intelligence artificielle des arts martiaux est-elle forte?

Malgré le peu que nous en sachions, il est difficile de ne pas être impressionné par ce nouveau paradigme de l’IA. Notez qu’il arrive en tête d’une série de neuf points de repère L’intelligence artificielle a été hautement reconnue par tous les secteurs de la société. Il peut même surpasser le modèle GPT-3 dans l’un d’entre eux. malgré cela, Si ses concepteurs aspirent au stade de l’IA forte/générale, rien ne dit que les Arts Martiaux 2.0 peuvent s’en approcher. En fait, la puissance seule ne suffit pas aux machines pour développer l’intelligence humaine. Plus largement, certains experts doutent de la possibilité d’y parvenir grâce au deep learning. Cela dit, même dans l’obscurité de la nuit, un pas en avant reste un pas en avant.

« Les arts martiaux 2.0 s’efforcent de faire en sorte que les machines pensent comme les humains et atteignent des capacités cognitives au-delà du test de Turing » Tang Jie – Chercheur en chef des arts martiaux 2.0

Sources et crédits

Source : https://mp.weixin.qq.com/s/lS0b-e2RNQ_xhdxpHf78Mg