研华整合英伟达方案布局边缘AI应用 聚焦三大主轴
工业电脑大厂研华宣布,6月5日至6日举办研华边缘AI展示与交流会,并于会中展示应用英伟达方案之全系列产业AI平台,展出边缘端生成式AI、医疗AI,智能制造AI解决方案等三大主轴,从端到云展示最新且完整的AI边缘运算系统与服务器。
研华产业云暨影像科技副总经理鲍志伟表示,边缘 AI 将是下一波 AI 的发展趋势,但不同于过往的产业电脑 发展,要能做到规模化,方能加速产业 AI 化之落地; 而要能跃升规模化方程式则包含场域、平台、协作与AI加速等四大要素。 此外,产业生态系的构建与协作,更是实践边缘 AI 规模化至关重要的要素。
研华此次展示内容将聚焦如何通过深度学习,实现产业 AI 可行性与必要性,并藉此带来产业新的态势。 因此,将首先针对智慧城市与安全控制应用、医疗设备、智能制造,以及自主性机器人等产业,提供针对边缘端生成式AI、医疗AI,智能制造AI解决方案等三大主轴之边缘AI解决方案。
其中,在边缘端生成式AI方面,通过研华MIC-733-AO边缘AI系统,整合英伟达Jetson AI实验室的生成式人工智能模型,已成功高效率运行大型语言模型、视觉语言模型、视觉变换器,以及图像生成和对话生成Llamaspeak。
此外,研华MIC-733-AO基于英伟达 Jetson AGX Ori,整合 AI 软件和预先训练的模型,将能大幅缩短开发与部署时间,较于云端 AI,边缘端生成式 AI 将提供更即时的反应、更低的资安风险与更低的网络传输成本,更适合在需要实时反应的智慧城市与安全控制的应用,此方案也已成功导入运用在研华自家产线。
医疗设备AI上,研华医疗级AI IGX Orin系统MIC-735M-IO整合英伟达Holoscan SDK,已成功开发出包含心脏超声波检测与大肠镜检测等8种AI模型。 开发人员可直接于英伟达 Holohub 下载不同的 Holoscan 模型,并直接安装于 MIC-735M-IO 打造医疗设备,可大幅缩短 AI 模型开发时程,将 AI 直接引进手术室,快速处理传感器数据与 AI 推论,以协助临床医疗团队针对病患做出决策和建议。
研华表示,AI AOI解决方案可应用在高速自动化检测设备,透过AI抓出难以定义之瑕疵或非预期的瑕疵,此将大幅降低人力成本并同时提高生产良率与检测速度,包括台湾半导体代工厂正诚电子,已导入AIAOI方案检测,打造半导体封装检测生产线。
另外,研华AMR自主移动机器人,透过专属的AI推论系统MIC-732-AO,内嵌英伟达ISAAC Nova Orin,整合所有AMR专用的影像、通讯与控制介面,将加速客户部署自主移动机器人,多合一的功能让开发者不需要再额外整合分上位机与下位机。