现如今AI技术、概念火爆、落地应用更是繁多，但开发呢？是否困难？到底有多痛？
据了解，大部分AI开发者的工作时间并不长，并且十有八九可能不是“科班出身”。从编写的教材、录制的课程中就可以看出，所有的教学都不可避免地带有很强的的学术性，即便有意避免研究导向，仍然离产业界的需求相去甚远。
并且随着新一波人工智能的热潮，人们发现手里的数据多了，电脑运算的更快了，但实际上，这些AI开发者使用的工具并不顺手。
为帮助开发者更深入地了解AI开发，快速上手AI开发必备技能，12月20日，InfoQ联合华为云举办了一场以「基于ModelArts平台的AI 开发实战」为主题的现场挑战Workshop！现场由来自华为云深度学习服务团队负责人洪斯宝为开发者讲解了ModelArts的 相关技术与应用，帮助开发者学习如何从0到1打造一款AI应用模型。
ModelArts——更快的普惠AI开发平台
ModelArts是面向AI开发者的一站式开发平台，提供海量数据预处理及半自动化标注、大规模分布式训练、自动化模型生成，以及端-边-云模型按需部署能力，帮助用户快速创建和部署模型，管理全周期AI工作流。
同时，ModelArts 能够在 AI 开发全生命周期中，从原始数据、标注数据、训练作业、算法、模型、推理服务等，提供全流程可视化管理。支持千万级模型、数据集以及服务等对象的管理，无需人工干预，自动生成溯源图，选择任一模型就可以找到对应的数据集、参数、模型部署在哪里。其中最实用的训练断点接续功能、训练结果比对功能，在华为内部开发者中也颇受欢迎。
简单来说，ModelArts 的特点是“四快”：
数据管理快——让数据准备效率百倍提升
想象一下，如果你的老板给了你10万张无标签的图片，并要求你为这些数据打上标签。你该怎么办呢？
许多公司都在数据的大海里遨游，不论是交易数据、物联网传感器产生的海量数据、安全日志，还是图像、语音数据等等，这些都是未标注的数据。
正如洪斯宝所说，“当前做AI开发，最让开发者头疼的就是数据的采集和数据的处理。曾有开发者吐槽，光是数据准备就要占掉整体开发时间的70%。”那么，为什么数据的处理这么难？效率为什么这么低呢？
人工智能界有一个说法：“有多少人工就有多少智能。”因为目前实现人工智能的主要方法是机器学习（目前火热的深度学习也是机器学习的一部分），而机器学习中目前大部分应用都是有监督的学习，即需要大量的标注样本去训练人工智能算法模型。
例如图像识别任务中，必须有大量已经标注好的图片，比如一张猫的图片，狗的图片等，你必须明确的告诉AI算法，这些图片里面是什么东西，它再从中去学习出相应的“知识”。
所以，AI并不像传统想象的那样，丢一堆数据给AI算法，AI算法就能够从中学习到各种有用的知识。而是背后有大量的人工在标注数据。
而ModelArts在数据管理方面，会将数据进行预处理，用AI的数据去标注数据，即自动化标注和半自动化标注。ModelArts可对数据采样和筛选，预标注，缩减需要标记的数据量，降低工作量。目前， ModelArts 已经在自动驾驶领域有非常多的应用，包括人车模型、信号灯模型等等，这些模型在自动驾驶的场景里面，可以快速地提升数据处理的效率，实时地处理数据。在未来，ModelArts 也将面向通用计算机的其他领域。
训练快——模型训练耗时减低一半
在模型训练部分，ModelArts通过硬件、软件和算法协同优化来实现训练加速。尤其在深度学习模型训练方面，华为将分布式加速层抽象出来，形成一套通用框架——MoXing（“模型”的拼音，意味着一切优化都围绕模型展开）。
基于 MoXing 和 ModelArts 的训练速度提升
采用与fast.ai一样的硬件、模型和训练数据，ModelArts可将训练时长可缩短到10分钟，创造了新的纪录，为用户节省44%的时间。
MoXing是华为云ModelArts团队自研的分布式训练加速框架，它构建于开源的深度学习引擎TensorFlow、MXNet、PyTorch、Keras之上，使得这些计算引擎分布式性能更高，同时易用性更好。
华为云MoXing架构图
MoXing内置了多种模型参数切分和聚合策略、分布式SGD优化算法、级联式混合并行技术、超参数自动调优算法，并且在分布式训练数据切分策略、数据读取和预处理、分布式通信等多个方面做了优化，结合华为云Atlas高性能服务器，实现了硬件、软件和算法协同优化的分布式深度学习加速。
有了MoXing后，上层开发者可以聚焦业务模型，无需关注下层分布式相关的API，只用根据实际业务定义输入数据、模型以及相应的优化器即可，训练脚本与运行环境（单机或者分布式）无关，上层业务代码和分布式训练引擎可以做到完全解耦。
另外，衡量分布式深度学习框架加速性能时，主要看吞吐量和收敛时间。在与吞吐量和收敛时间相关的几个关键指标上，华为云 ModelArts 都做了精心处理：
- 在数据读取和预处理方面，MoXing通过利用多级并发输入流水线使得数据IO不会成为瓶颈；
- 在模型计算方面，MoXing对上层模型提供半精度和单精度组成的混合精度计算，通过自适应的尺度缩放减小由于精度计算带来的损失；
- 在超参调优方面，采用动态超参策略（如momentum、batch size等）使得模型收敛所需epoch个数降到最低；
- 在底层优化方面，MoXing与底层华为自研服务器和通信计算库相结合，使得分布式加速进一步提升。
那么，在MoXing一系列的优化之后，实际效果如何？以国际权威成绩来参考：
在斯坦福大学发布DAWNBenchmark 最新成绩中，在图像识别（ResNet50-on-ImageNet，93%以上精度）的总训练时间上，华为云ModelArts排名第一，仅需10分28秒，比第二名提升近40%。
在这个汇聚谷歌、亚马逊AWS、fast.ai等高水平队伍的国际权威深度学习模型基准平台上，华为云ModelArts第一次参加国际排名，便实现了低成本、快速又极致的AI开发体验，其海量数据预处理及半自动化标注、大规模分布式训练、自动化模型生成以及端-边-云模型按需部署能力，更是体现了当前中国业界深度学习平台技术的领先性。
上线快——一键部署到云、端、边，支持各种上线场景
现如今，纵观整个AI产业，不仅仅是云，还会有边和端都需要部署的场景。然而，在 AI 规模化落地的场景下，模型部署会非常复杂，需要写代码集成到应用系统，维护、更新。例如在智慧交通领域，更新后的模型，需要一次性同时部署到各种不同规格、不同厂商的摄像头上，这是一项非常耗时、费力的巨大工程。
对于此类场景，ModelArts可以一键推送模型到所有边缘、端的设备上，云上的部署还支持在线和批量推理，满足大并发和分布式等多种场景需求。
开发者可以在ModelArts上获得一些高并发、自动弹性伸缩的特性。能够根据用户制定的策略，自动调整云服务器的计算资源，跟随用户的业务需求变化。在业务需求下降时自动减少云服务器，节约资源和成本；在业务需求高峰时自动增加云服务器，保证业务平稳健康运行。
上手快——自动学习，零AI基础构建模型
ModelArts 具备自动学习功能，支持模型的自动设计与自动调参等，能够帮助开发者提升开发效率、快速上手。
为什么需要自动学习？
AI开发有两大类，第一类为AI认知服务，比如图像识别和OCR等，这一类门槛很低，但灵活性差，只支持特定类型。当不满足需求时，只能定制一个模型，周期非常长费用也比较高。第二类就是找AI的算法工程师、算法专家，去做自己的模型；还有一类就是那些直接用AI的框架自己写代码以及自己训练数据，这一类的门槛较高，灵活度也很高。而自动学习就是希望能够打破这两者，既有一定的定制化的能力，又能够降低AI定制化模型的门槛，不需要写代码，用户可以定制化自己的模型的特点。
在自动深度学习里面，关键的技术是能够做到多维度下的模型的架构自动设计，包含模型的元学习，涉及一些训练指标，还有推动网络涉及的推理速度和监控等。另外还包括一些元学习的训练参数的自动配置、模型训练的参数配置及搜索等。
另外，由于深度学习向计算机视觉输入原始数据，整个特征工程是在神经网络里面做的，而机器学习需要很多算法工程师去识别哪些特征是对业务是起正向作用的，所以自动机器学习的关键技术，就是高效自动特征工程和自动调参。
除此之外，据洪斯宝介绍，华为云ModelArts还有一个特色，就是面向应用开发者。对于有经验的开发者，可以在 ModelArts 上自行编写并导入算法代码，核心组件 MoXing SDK 支持丰富的模型库、优化算法和各类工具库；支持自动超参数调优；包含训练 - 验证 - 预测 - 模型导出的整套框架；开发者只需要编写一套代码就能自动实现单机及分布式化。
对于编程苦手却想快速生成模型的 AI 初学者，ModelArts 也预置了能够覆盖大部分常用应用场景的算法模型（如 RestNet_50、Faster_RCNN、SegNet_VGG_16 等，未来还将上线更多算法模型），所有预置模型的基于开源数据集训练，模型精度领先。只需配置数据路径 / 日志输出路径和 Hyper Parameter 自动选择设置就可以一键启动训练。
ModelArts应用实例：金融票据OCR识别
金融票据，包括银行承兑票据和商业承兑票据，目前银行承兑票据占了90%以上的票据市场份额，金融票据OCR识别工作重点在于银行票据的识别。
对于业界普通OCR软件，在金融票据领域识别准确率不高，对于现有一些针对金融票据做过优化的OCR，识别准确率也算达到90%。由于金融票据金额不低，对于OCR识别要求很高，而金融票据难点在于票据格式多样且差别细微等。
另外，票据模型开发训练难点包括数据标注、模型训练、调参和部署上都有较多难点，对于AI开发水平要求很高，需要非常资深的AI专家进行繁琐和长时间对于票据AI进行不断训练。
通过ModelArts助力金融票据OCR识别的实战。多位ATN社区使用者使用后认为：ModelArts适合AI的初学者，通过数据集的分类，可自动学习，无需调参等操作；适用于迁移学习；线上部署便利，逐步集成更多的数据标注工具，扩大应用范围。
后续，华为云ModelArts将进一步整合软硬一体化的优势，提供从芯片（Ascend）、服务器（Atlas Server）、计算通信库（CANN）到深度学习引擎（MindSpore）和分布式优化框架（MoXing）全栈优化的深度学习训练平台。
华为云ModelArts会逐步集成更多的数据标注工具，扩大应用范围，将继续服务于智慧城市、智能制造、自动驾驶及其它新兴业务场景，在公有云上为用户提供更普惠的AI服务。