Processing

Please wait...

Settings

Settings

Goto Application

1. WO2022126316 - DEVELOPMENT METHOD AND APPARATUS FOR ARTIFICIAL INTELLIGENCE (AI) MODEL

Publication Number WO/2022/126316
Publication Date 23.06.2022
International Application No. PCT/CN2020/136119
International Filing Date 14.12.2020
IPC
G06N 3/063 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
063using electronic means
Applicants
  • 华为技术有限公司 HUAWEI TECHNOLOGIES CO., LTD. [CN]/[CN]
Inventors
  • 连朔 LIAN, Shuo
  • 王晨曦 WANG, Chenxi
  • 昌晶 CHANG, Jing
  • 孙方轩 SUN, Fangxuan
  • 梁雪 LIANG, Xue
  • 周君 ZHOU, Jun
Agents
  • 北京龙双利达知识产权代理有限公司 LONGSUN LEAD IP LTD.
Priority Data
Publication Language Chinese (zh)
Filing Language Chinese (ZH)
Designated States
Title
(EN) DEVELOPMENT METHOD AND APPARATUS FOR ARTIFICIAL INTELLIGENCE (AI) MODEL
(FR) PROCÉDÉ ET APPAREIL DE DÉVELOPPEMENT D'UN MODÈLE D'INTELLIGENCE ARTIFICIELLE (IA)
(ZH) 人工智能AI模型的开发方法和装置
Abstract
(EN) A development method and apparatus for an artificial intelligence (AI) model. The method comprises: splitting an AI model to obtain a plurality of split results, each split result in the plurality of split results comprising a plurality of first sub-models, each first sub-model in the plurality of first sub-models corresponding to at least one processor in M processors, M being a positive integer greater than 1, and each first sub-model being capable of running on the corresponding at least one processor, such that each split result has a running overhead for running a plurality of first sub-models (210); determining a first split result in the plurality of split results, a first running overhead of the first split result being less than a second running overhead of one or more second split results in the plurality of split results (220); and outputting the first split result (230). When the AI model is deployed on a device comprising M processors according to the first split result, the efficiency of deploying the AI model on the device can be improved, and the running overhead of the AI model on the device can be reduced.
(FR) Procédé et appareil de développement d'un modèle d'intelligence artificielle (IA). Le procédé consiste : à diviser un modèle IA de façon à obtenir une pluralité de résultats de division, chaque résultat de division dans la pluralité de résultats de division comprenant une pluralité de premiers sous-modèles, chaque premier sous-modèle de la pluralité de premiers sous-modèles correspondant à au moins un processeur parmi M processeurs, M étant un nombre entier positif supérieur à 1 et chaque premier sous-modèle pouvant être exécuté sur ledit processeur correspondant, de telle sorte que chaque résultat de division dispose d'une surcharge d'exécution permettant d'exécuter une pluralité de premiers sous-modèles (210) ; à déterminer un premier résultat de division dans la pluralité de résultats de division, une première surcharge d'exécution du premier résultat de division étant inférieure à une seconde surcharge d'exécution d'un ou plusieurs seconds résultats de division dans la pluralité de résultats de division (220) ; et à produire le premier résultat de division (230). Quand le modèle IA est déployé sur un dispositif comprenant M processeurs selon le premier résultat de division, l'efficience de déploiement du modèle IA sur le dispositif peut être améliorée et la surcharge d'exécution du modèle IA sur le dispositif peut être réduite.
(ZH) 一种人工智能AI模型的开发方法和装置。该方法包括:对AI模型进行拆分,以得到多种拆分结果,多种拆分结果中的每种拆分结果包括多个第一子模型,多个第一子模型中的每个第一子模型对应M个处理器中的至少一个处理器,M为大于1的正整数,每个第一子模型能够运行于对应的至少一个处理器以使得每种拆分结果具有运行多个第一子模型的运行开销(210);在多种拆分结果中确定第一拆分结果,第一拆分结果的第一运行开销小于多种拆分结果中的一个或多个第二拆分结果的第二运行开销(220);输出第一拆分结果(230)。当根据第一拆分结果将AI模型部署在包括M个处理器的设备上时,能够提高AI模型在设备上的部署效率和降低AI模型在设备上的运行开销。
Latest bibliographic data on file with the International Bureau