对于机器人系统、自动驾驶、无人机等自动系统来说，硬件和软件错误等因素往往会对它们的安全性构成威胁。因此，如何构建兼具安全性和可靠性的计算系统成为一个亟待解决的问题。
为此，美国佐治亚理工学院与深圳市人工智能与机器人研究院、中国科学院计算技术研究所、美国罗切斯特大学团队合作，创新性地提出了一种面向自主机器的漏洞-自适应保护（VAP，vulnerability-adaptive protection）范式，即根据算子的鲁棒性差异来合理分配保护力度，通过对时间成本和保护措施开销的平衡与优化，应对硬件故障对系统安全性的挑战。
在无人机和自动驾驶系统中的实验结果表明，相较于传统“一刀切”的策略，这种新方案不仅能够以最小的开销实现相同的保护覆盖率，还平均节省了 51% 的延迟和 54% 的能耗。
“我们的实验结果是在模拟器中开展的，并已经在真实环境中的车辆和无人机中进行验证。”该论文第一作者兼通讯作者、佐治亚理工学院博士生万梓燊说。
图丨万梓燊（来源：万梓燊）
日前，相关论文以《安全漏洞-自适应保护范式》（The Vulnerability-Adaptive Protection Paradigm）为题发表在 Communications of the ACM（Association for Computing Machinery）上 [1]。
佐治亚理工学院博士生万梓燊是第一作者兼共同通讯作者，中国科学院计算技术研究所助理教授甘一鸣是共同第一作者，深圳市人工智能与机器人研究院具身智能中心主任刘少山担任共同通讯作者。
图丨相关论文（来源：Communications of the ACM）
此前，特斯拉等公司通常采用针对整个系统进行统一保护的策略。例如，在硬件层面采用双重模组方式，即用两套硬件来运行同一代码，虽然能达到较好的保护效果，但整体成本居高不下。
在该研究中研究人员发现，自主机器系统中不同单元的鲁棒性存在显著差异。其中，传感器的感知和建图功能等前端相对来说鲁棒性较强，而路径规划和控制等后端则鲁棒性较差。
“这种新范式的核心在于寻求成本和效率之间的平衡，保护所消耗的资源与算子本身的可靠性呈反比关系，即越可靠的算子需要花费的资源越少，而越不可靠的算子则需要投入更多资源来进行保护。”万梓燊表示。
因此，通过基于这些差异自适应分配保护资源，不需要像传统方法那样配备大量额外的硬件，不仅能够实现更高效且有针对性的可靠性增强，还可以大幅度降低硬件和软件的整体成本。
图丨自适应自主机器的不同软件和硬件保护技术的设计（来源：Communications of the ACM）
从技术细节层面来看，轻量级保护主要集中在软件层面，例如通过异常值检测、代码重复执行等方法。
而对于那些非常敏感、脆弱的算子节点，研究人员则采用硬件层面的保护措施，如存储和恢复机制以及重复硬件技术，即设置相同的硬件设备同时运行，以此来确保系统的安全性和可靠性。
值得关注的是，该方法还能够降低计算延迟。举例来说，假如自动驾驶车在没有保护措施的情况下需要 100 毫秒计算，传统保护方法可能因不断进行保护操作，导致计算时间具有额外的开销（例如 20 毫秒）。
而这种新方法由于开销较低，能够以更快的速度计算，这意味着它能在更短时间内对障碍物做出反应，并保持更快的安全行驶速度，进而使车辆在单位时间内能完成更多任务，并相应地提升效率。
图丨计算延迟和功率对自动驾驶汽车系统的影响（来源：Communications of the ACM）
对于前端和后端存在显著的鲁棒性差异，研究人员也进行了分析，其主要原因在于以下几点：
首先，前端的信息量相对较大，从环境中提取信息时存在大量信息冗余，这些信息使得前端即使有一两个信息点出错，对环境的认知依然能够支持其完成任务，从而相对较为鲁棒。
其次，后端的信息量相对较少，因而鲁棒性较差。另外，前端可能存在创新的融合技术，这种融合自带一定的保护效果；而后端则是直接控制机器人、无人机或自动驾驶的操作，直接关联到最终的动作，所以相对不鲁棒。
再次，从计算机体系架构的角度来看，前端的错误在向后端传递过程中，有些可能会被掩盖掉。也就是说，在错误传导的过程中，前端的错误有可能在中途被掩盖，而后端的错误则更容易直接影响最终的动作。
在接下来的研究阶段，该课题组计划继续研究无人机等系统的可靠性和鲁棒性，特别是与具身智能系统结合的可能性方面。
另一方面，他们还将从安全性角度关注提升有效性的方法，并探索如何通过软硬件协同设计提高自动驾驶、无人机和机器人的计算系统速度，并降低能效。
“我们希望通过软件优化、系统优化以及在应用阶段采用专用体系架构或专用芯片等层面，探索如何能够同时保障系统的安全性、高效性和高性能。”万梓燊表示。
参考资料：
1.Wan,Z. et al. The Vulnerability-Adaptive Protection Paradigm. Communications of the ACM，67, 9，66-77(2024). https://doi.org/10.1145/3647638
排版：刘雅坤、何晨龙
01/
02/
03/
04/
05/
