智东西5月10日报道,近期,一个规模化AI模型生产平台在Github悄然上线。 这个平台叫AI SUITE – YMIR(中文名:挖米匠),能以无代码开发 方式,实现数据管理、数据挖掘、模型训练、模型验证 等功能。 由于各功能均已开源,你既可以用这个平台高效训练出AI模型,也可以按需任意修改代码,并且无论是个人使用或商用,都完全免费 ! 其核心发起人阵容亦相当吸睛,有多位知名国际AI大牛,包括:云天励飞首席科学家王孝宇;美国硅谷NEC实验室媒体分析部主管、UCSD教授,印裔科学家Manmohan Chandraker;前谷歌、亚马逊、Snap机器学习研究员,硅谷初创公司Heali联合创始人、首席AI官,法裔科学家William Brendel等等。
▲云天励飞首席科学家王孝宇(图左),印裔科学家Manmohan Chandraker(图中),法裔科学家William Brendel(图右)
王孝宇告诉智东西,有多家美国科技巨头公司的首席AI官担任这个开源项目的顾问。 此前,YMIR主要发起人撰写的论文《YMIR: A Rapid Data-centric Development Platform for Vision Applications》已被国际顶级机器学习会议NIPS 2021收录。
▲YMIR论文
除了大牛云集外,在上手试用YMIR平台后,智东西的感受是,对于有一定编程基础的开发者而言,这个平台绝对会带来生产力的飞跃。 曾经TensorFlow、PyTorch等开源框架,掀起了AI开发普及的盛世,那么如今这些国际AI大牛发起的开源AI基础软件平台,又能带来哪些改变? 相比此前已有的AI模型开发平台,YMIR有哪些独特优势?它通过怎样的核心技术,来满足在真实业务场景中大批量生产模型的需求? 带着问题,智东西联系到了YMIR平台的几位发起人和核心研发成员,挖掘其背后的技术真经。 YMIR项目链接: http://www.viesc.com/
Github传送门: https://github.com/IndustryEssentials/ymir
YMIR论文链接: https://arxiv.org/pdf/2111.10046.pdf
为什么国际AI科学家们,要联合发起这样一个开源AI模型生产平台? 云天励飞首席科学家王孝宇是YMIR平台的核心发起人之一,据他回忆,发起YMIR的初衷,是希望通过开源AI系统能力,让每一家企业都能拥抱AI,加速AI产业化、平民化。 未来AI会渗入各行各业,AI能力或AI思维将会成为一个从业者需具备的基本素质,但因资源有限,每个企业都招聘很多博士去做AI开发是不现实的。 这也是YMIR核心发起团队的共识:加速AI普及,一定需要一个开源平台,来帮助AI企业低门槛、高质量地完成AI开发。
▲YMIR主页
就像40年前,使用电脑是一项专业技能,而随着Windows操作系统、Office办公软件等工具地发展,如今基本受过高等教育的人都会使用电脑。 AI亦是如此,要从早期过程不标准化、对人才专业度要求高的“快糙猛”研发方式,过渡到大规模应用于各垂类行业阶段,搭建系统性能力平台至关重要 。 “业内 虽然已有不少开源项目,但还缺少针对算法研发全流程工作的产品级开源工具 。”王孝宇说。 AI算法开发是一整套专业研发环节的组合,包括数据标注、计算框架、神经网络设计、数据挖掘设计等等。这些工作通常需要AI专业的硕士或博士通过编程进行每个环节的设计,并手动将这些环节连接起来形成一整套研发流程。 如果缺乏开源易用的工具,那么高质量的AI研发就只能是“专家的事”。 YMIR团队对国内外的模型生产工具做过详细调研,他们发现,这些工具的开发多由科学家或科研人员主导,缺乏对产业认知,无法真正解决业界痛点。 “算法的研发是持续的过程。”王孝宇说,“根据我们的经验,第一次训练的模型是百分之百不能满足业务需求的,你必须在客户现实的场景中去迭代模型,才能达到业务所需的目标。 ” 但当前许多模型生产工具都是“一次性”、“理想化”的,训练一遍就不再动了,等模型被用到实际场景,很可能出现偏差。 而YMIR项目由一帮有丰富产品经验的AI算法开发人员参与,他们将此前的经验以数据、流程 等可视化的形式沉淀积累,通过流水线流程设计,让AI开发的工作效率飞速转起来。 “以前这么多人可以干一件事情,现在这么多人可以干十件事情,效率更高。”王孝宇说。 无论是小型AI公司,还是有AI开发需求但缺少AI研发人才的企业,都能免费使用这一开源平台,针对目标场景,训练出满足需求的专用AI模型。 据YMIR核心研发成员胡文泽博士透露,一些AI芯片公司也在投入人力向YMIR提交代码,从而批量化生产模型,满足研发芯片期间测试特定算法的需求。 这样一来,高精度AI模型开发,不再只是AI专家的独享技能。
▲YMIR团队分享的一个简短背景介绍视频
智东西试用后,感觉YMIR极易上手,整个过程无需敲入代码,只用进行鼠标点击或拖拽,每个步骤都有清晰的指引,而且可视化显示界面很方便用户对数据和模型的管理和查看。 YMIR采用 项目制管理 设计,覆盖了典型AI模型开发过程中端到端的全流程步骤,通过将训练流程标准化和可视化,为数据处理、模型训练、模型评估、模型迭代 等业务需求提供一站式服务 。 在使用YMIR前,你需要先准备好数据集,并安装好英伟达驱动环境,然后就可以进行数据集导入了。
▲界面1:数据集导入
需注意的是,当你导入带标注文件的数据集时,要确保标注类型属于系统已有的标签列表,否则需先进入标签管理界面,添加自定义标签。 YMIR支持使用开放的LabelFree标注工具,提供有一键标注服务,对数据集大小、用户数量、项目数量等均无限制。你也可以外接其他标注工具。
▲界面2:LabelFree数据标注
胡文泽告诉智东西,经过其内部测试,YMIR可支持数百万级数据规模 的目标检测任务。 深度学习训练需要对大量的数据进行标注,如果全部由人工进行标注,人力和时间成本都很高。 而YMIR平台采用主动学习 的方法,通过挖掘、标注和重训练的循环,比将全部数据标注后再训练的方法更加高效,减少了对低质量数据的标注成本 。
▲界面3:数据挖掘
在AI模型开发周期中,模型迭代占据90%以上的时间,而数据迭代是模型迭代的关键部分。 YMIR提供的数据集版本管理功能,能自动生成数据集版本,并记录每次对数据集的操作,完整追踪数据集的迭代,对有大量数据挖掘的研发非常友好。 在模型训练界面,你可以清晰地看到训练进度以及一些关键参数。
▲界面4:模型训练
每次模型训练后,YMIR还可以对模型结果进行验证,即通过可视化方式查看模型在真实图片中的表现。如果达到预期,即可下载模型;如果需继续使用该模型挖掘,则可进入下一轮的“ 挖掘-标注-训练 ”循环,直至达到预期效果。
▲界面5:模型验证
YMIR以 模型与数据集的迭代 为核心目标来设计,一套流程走下来,不仅能针对业务场景持续提高模型性能,还能提高开发效率,降低研发门槛。 YMIR核心开发者黄轩介绍,过去用传统研发方式,大概至少需1个月迭代1次数据和模型,现在用YMIR平台1周就能迭代2次。 以前经验丰富的AI算法工程师才能完成的工作,现在,只要具备计算机操作知识,你就能用YMIR平台实现类似的高精度模型结果。 为什么YMIR在降低操作门槛的同时,能确保没有在产出模型质量上做妥协?
针对不同应用场景,YMIR如何做到发挥稳定地训练出高精度模型? YMIR是一个数据驱动 的AI训练平台,与模型驱动的训练方式相比,在面对具体任务时,往往能更为快速地在目标场景中,迭代出高精度的AI模型。 模型驱动的显著特征是当模型足够准确时,其结果在绝大多数情况下可达到预期甚至取得最优。但在实际应用中,即使对一个具体任务进行精确实验室建模,其也极难在应用场景中达到预期。 而数据驱动的方式,是让模型在数据中不断校验调优,最终得出符合预期需求模型的过程。 早在2015年,机器学习泰斗、斯坦福大学教授吴恩达(Andrew Ng)就在演讲中提到“公司的壁垒不是算法,而是数据 ”。 他认为,要打造一款AI产品,需要让算法利用足够的数据,使得产品运行起来,然后通过产品来获取用户,用户再提供更多的数据……周而复始。 吴恩达预言,在未来的AI研发中,数据迭代带来的性能提升,将大大超过模型架构本身的演进带来的性能提升。 而YMIR的核心理念,便是依靠产品级模型生产流水线平台,以主动学习、数据驱动方式,让更多不具备专业知识和经验的人参与到算法开发中,从而加速AI技术和应用的繁荣。
▲一个典型的YMIR工作流程
YMIR平台先用少量已标注数据 训练出一个初始模型,再用该模型从海量数据中挖掘出对优化模型最有利的数据 ,然后仅针对这些高质量数据进行标注 ,实现对原本的训练数据集进行高效扩充。 接着,该平台使用更新后的数据集再次训练模型 ,如此循环往复,模型的质量就会不断提升。 由于YMIR各功能都是开源的,你可以将自己开发的工具对接到YMIR平台提供的开放API,也可以按照自己的想法修改代码,包括数据存储、模型训练、标注工具、可视化界面等等。 据了解,YMIR也参与了云天励飞获得2021年吴文俊人工智能科技进步一等奖的项目,是实现模型快速迭代平台的关键组成。 YMIR核心开发成员向智东西透露,目前已有超过20家机构申请试用YMIR平台。
边际成本是未来十年AI行业的竞争核心要素。目前,AI模型通用性低导致的项目碎片化、交付效率低是行业的普遍痛点。未来高效率、低成本边际成产AI算法将成为行业的竞争焦点。 而拥有流程化、一站式、开放设计、无代码、开源免费 五大特点的YMIR平台,对推动AI模型生产更加高效低质的目标,起到积极的推进作用。 总体来说,YMIR平台的使用门槛很低,采用RPA流程化思维设计,一站式覆盖AI模型生产的整个生命周期,支持无代码开发,不需要使用者具备专业AI技能,并且个人、企业均可免费使用不受限。 有编程基础的开发人员,不妨申请试用,也可以参与到这个国际开源社区中交流,或许能被启发或贡献一些新的想法,助力优化AI模型生产流程。 (本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。)