高通如何开创边缘计算时代

 
近日，高通公司高级工程总监Jilei Hou表示，随着云计算时代即将结束，边缘计算成为焦点，开发人员和公司开始看到从集中式计算流程转向分散计算流程的主要好处。
“我们正在研究的边缘计算的一个基本方面是平台创新，以及如何提供最有效和最有效的处理工具，以便为行业提供可扩展的支持性影响，”Hou说。
Qualcomm AI Research是Qualcomm Technologies，Inc。的一项倡议，它有一个雄心勃勃的目标：在整个AI领域进行人工智能研究和开发，尤其是在无线边缘的设备AI。该公司希望成为基本上无处不在的设备上应用程序的先锋。
该公司十多年来一直专注于人工智能;当他们为公司推出他们的第一个AI项目时，他们是最初认识到该技术的重要性和潜力的公司的一部分。接下来是深入学习，当时他们成为最早考虑如何将深度学习神经网络带入设备环境的公司之一。
目前，侯的人工智能研究团队正在对生成图像，视频或音频样本的深度生成模型进行大量基础研究，广义卷积神经网络(CNN)提供模型等效于2D和3D旋转，以及深度使用案例学习图形，计算机视觉和传统麦克风或相机之外的传感器类型。
边缘计算将如何变得无处不在
为了迎接边缘计算的时代并将AI分配到设备中，高通公司的研究人员正在将注意力转移到打破设备AI为开发人员提供的障碍上，侯说。从相对意义上讲，与云相比，设备上的计算资源非常有限，因此处理仍然受到我们所拥有的区域和功率限制的限制。
“在如此有限的空间内，我们仍然必须提供出色的用户体验，使用例能够以非常流畅的方式实时执行，”他解释说。 “我们今天面临的挑战归结为电源效率 – 确保应用程序运行良好，同时仍保持在合理的功率范围内。”
诸如深度学习之类的机器学习算法已经使用了大量能量，并且边缘设备以云不是这样的方式受到功率约束。基准测试正迅速成为可以从每一焦耳能量中挤出多少处理。
节能创新
Qualcomm AI Research还发布了许多创新技术，旨在使开发人员能够以高效的方式将工作负载和用例从云迁移到设备，包括紧凑神经网络的设计，如何通过模型压缩来修剪或缩小模型大小，有效地编译模型和量化。
“例如，谷歌正致力于使用机器学习技术在最有效的模型架构中实现搜索，我们正在尝试使用类似的机器学习技术进行模型量化，压缩和自动编译。方式，“侯说。
侯继续说，许多应用程序开发人员，甚至当今社区的研究人员都只知道或专注于浮点模型，但他的团队正在考虑的是如何将浮点模型转换为量化或定点模型，对功耗产生巨大影响。
“对很多人来说，量化可能听起来很简单，”侯说。 “您只需将浮动转换为固定点模型。但是一旦你试图转换到定点模型，在非常低的位宽–8位，4位或潜在的二进制模型 – 那么你就会意识到这是一个巨大的挑战，并且还会设计权衡。“
使用训练后量化技术，您不依赖于模型再训练，或者在位宽变得非常低的情况下，转到二进制模型，您如何通过允许微调来保持模型的性能或精度?
“我们现在处于最方便的位置，进行系统硬件协同设计，以确保我们提供工具，帮助我们的客户有效地将他们的模型转换为低位宽定点模型，并允许在设备上非常有效地执行模型，”他解释。 “这绝对是一个改变游戏规则的方面。”
Qualcomm AI研究用例
“我们专注于提供量化，压缩和编译工具，以确保研究人员能够方便地在设备上运行模型，”侯说。
该公司开发了Qualcomm Snapdragon移动平台，使OEM能够构建能够提供身临其境体验的智能手机和应用程序。它采用了高通AI引擎，可以在相机，延长电池寿命，音频，安全性和游戏等领域实现引人注目的设备AI体验，硬件有助于确保更好的整体AI性能，无论网络连接如何。
这导致了边缘计算领域的一些重大创新。这里只是几个例子。
个性化的进步。语音是一种变革性的用户界面(UI) – 免提，永远在线，对话，个性化和私密。而且，设备上的人工智能语音用户界面需要大量的实时事件，但其中最重要的可能是用户验证，侯说，这意味着语音用户界面可以识别谁在说话，然后完全个性化回应和行动。
用户验证特别复杂，因为从声音到音调，每个人的声音都会随着季节变化，温度变化甚至空气中的水分而变化。为了实现最佳性能，需要高通公司研究人员正在进行的持续学习的进步，这使得模型本身能够适应用户语音随时间的变化。
随着技术的成熟，情感分析也变得越来越有可能，研究人员正在寻找新的方法来设计并将这些功能和功能整合到语音UI产品中。
有效的学习飞跃。卷积神经网络或CNN模型可以处理所谓的移位不变性属性，换句话说，只要狗出现在图像中，AI就应该将其识别为狗，即使它是水平或垂直移位的。然而，CNN模型与旋转不变性斗争。如果狗的图像旋转30或50度，则CNN模型性能将明显降低。
“开发人员今天如何应对这种情况是通过一种解决方法，增加了大量的数据增加，或增加了更多的轮换数字，”侯说。 “我们试图让模型本身拥有我们称之为等效性的能力，这样它就可以在2D或3D空间中以非常高的精度处理图像或物体检测。”
最近，研究人员将这个模型扩展到任意流形，应用来自现代物理学领域的相对论的数学工具，他补充说，使用类似的技术以非常有效的方式设计等效CNN。等效CNN也是一个基本的理论框架，可以在3D空间中实现更有效的几何深度学习，以便识别具有任意表面的对象并与之交互。
统一架构方法。为了使设备上的AI高效，神经网络必须变得更加高效，并且统一架构是关键。例如，即使音频和语音通过相同的传感器，也可能需要许多不同的任务，例如处理语音识别的分类;回归，用于清除音频中的噪声以便进一步处理;和压缩，它发生在语音呼叫上，具有语音编码，压缩，然后在另一侧进行解压缩。
但是，虽然分类，回归和压缩是单独的任务，但是可以开发通用神经网络以在一般上下文中一起处理所有音频和语音功能。
“一般来说，这可以帮助我们提高数据效率，同时也可以让模型在不同的任务中非常健壮，”侯说。 “这是我们正在积极研究的角度之一。”
研究障碍
侯说，研究人员面临的障碍一般分为两类。
首先，研究人员必须拥有可供他们使用的最佳平台或工具，以便他们可以进行研究或将模型移植到设备，确保他们可以从原型设计角度获得高质量的用户体验。
“另一个归结为从根本上沿着自己的研究路径前进，研究创新挑战以及他们将如何开展研究，”侯说。 “对于机器学习技术本身而言，我们面临着非常好的挑战，但机遇在我们面前。”
模型预测和推理仍处于早期阶段，但研究正在取得进展。随着ONNX越来越广泛地应用于移动生态系统，模型的普遍性变得更加强大，对象多任务变得更加复杂，边缘计算的可能性将继续增长。
“这是关于推动人工智能创新，以实现设备上的人工智能用例，并主动扩展利用5G连接边缘和云，我们可以在那里进行灵活的混合培训或推理框架，”侯说。 “通过这种方式，我们可以最好地服务于移动行业并为生态系统服务。”