3月3日为什么提高AI计算的速度很重要
在许多情况下,神经网络必须以对时间要求严格的方式执行其任务。在边缘尤其如此,人工智能模型必须对其环境的实时变化做出响应。低延迟人工智能计算至关重要的用例之一是自动驾驶汽车。自动驾驶汽车依靠神经网络来了解他们的环境、检测物体、在道路和街道上找到自己的路并避免碰撞。
“我们人类只能用我们的眼睛作为引导,纯粹基于视觉,才能驾驶汽车,而且我们可以以 90-100 英里/小时的速度轻松驾驶。目前,对于自动驾驶汽车,如果仅依靠摄像头,它们将无法以这种速度驾驶汽车。主要原因之一是处理视频信息的 AI 模型没有达到需要的速度,”Shen 说。“由于我们可以减少处理数据和在视频上运行 AI 计算所需的时间,我们认为我们将能够让汽车以更快的速度行驶。潜在地,我们将能够赶上人类的表现。”
需要明确的是,要解决开放环境中自动驾驶汽车的挑战,需要的不仅仅是超快速神经网络。也就是说,与人类驾驶员不同,神经网络在处理未经训练的情况方面的能力非常有限。但是能够提高处理神经网络的速度肯定会让这个行业处于比现在更好的位置。
在许多其他领域,低延迟神经网络计算可以改变游戏规则,尤其是在物理世界中部署 AI 模型的领域。示例包括无人机操作和机器人手术,两者都涉及安全问题,需要控制硬件的 AI 模型进行实时响应。
“低延迟人工智能在边缘至关重要,但在云中也有应用。我们早期的模型更有可能部署在云端,不仅是超大规模数据中心,还包括本地数据中心或建筑物中的本地服务器机房,”Shen 说。
随着我们网络基础设施的发展,能够以超低延迟运行 AI 模型的服务器将变得更加突出。也就是说,5G 网络的发展将为大量实时人工智能应用程序铺平道路,这些应用程序在边缘执行任务,但在本地服务器上运行神经网络计算。增强现实应用程序、运输和医学是可以从超高速人工智能服务器中获益的一些领域。