机器人、无人机、自动驾驶汽车等自治系统的可靠性、安全性评估
一、自治系统
随着人工智能技术、机器人技术等的快速发展、进步，自治系统（Autonomous Systems，AS）也得到了广泛关注。由于自治系统其优越的硬件、软件能力，诸如自动驾驶汽车、机器人、月球车、无人机等均采用自治系统进行决策。这些自动驾驶汽车、机器人、月球车、无人机等新物种、新技术正在快速影响工业和社会的各个方面，正在快速融入我们的社会。
大多数自治系统都部署在“混合”环境中，它们将与非自治系统交互。例如，自动驾驶汽车将与人类驾驶的汽车、行人和自行车共享街道；自动驾驶船舶在航行中可能遇到非自动驾驶船舶；无人机可以与人类驾驶的飞机共享空间等。自治系统也可能依赖于人类进行操作，例如，在需要时，自治系统车载安全驾驶员和/或远程操作员接管控制。人类还将作为用户与自主系统进行交互。未来，这些自治系统将在更广泛的意义上与社会互动，这就涉及到社会的接受和信任。
大多数自治系统本身内部也存在较多的交互。自治系统不同组成组件之间也存在交互作用。这些组件包括硬件、软件、计算机硬件（当然也包括与外部环境、人的操作的交互）等。所有这些交互作用都发生在一个可能未知且难以预测的混合环境中。
总的来说，机器人、无人机、自动驾驶汽车等自治系统具有软件-硬件-人交互的作用，具有其复杂性、涌现特性。这样的特性，对于可靠性评估、安全性评估都是一个重要挑战。目前，很多的定量评估方法都是假设组件之间相互独立的，都是分开进行评估。交互作用的影响往往被忽略。
那么，对于自治系统如何进行可靠性评估、安全性评估呢？
二、现有标准、方法
目前，与自治系统可靠性、安全性相关的标准有：
（1）工业领域功能安全标准——IEC 61508 (电气/电子/可编程电子安全相关系统的功能安全)。
（2）道路车辆功能安全标准——ISO 26262，这个标准是基于IEC61508编制的。
（3）轨道交通相关的功能安全标准——IEC 62279，该标准也是基于IEC61508编制的。
（4）机械控制系统的功能安全标准——ISO 13849。
（5）飞机系统设计与分析的安全标准——AC 25.1309-1A。
（6）机载电子硬件设计保证相关的标准——RTCA/DO-254。
随着技术的快速发展，尤其是人工智能、自治系统领域的发展，可靠性、安全性的标准也需要不断更新与发展，以适应新技术的需求。需要制定相关标准、措施，确保自治系统的安全、可靠，甚至保密要求，需要确保自治系统与人或者其它的安全及交互。
目前，与自治系统可靠性、安全性评估相关的方法有：
（1）故障树分析方法（FTA）
（2）故障模式、影响及危害性分析方法（FMECA）
（3）系统理论过程分析方法System theoretic process analysis (STPA)
（4）功能响应分析方法 Functional Resonance Analysis Method (FRAM)
...等等
通过分析，目前这些方法给出的解决方案都无法很好地满足自治系统的可靠性、安全性评估需求，需要新的方法或者改进方法适应自治系统的可靠性、安全性评估需要。
三、提出的一种新评估方法
结合自治系统的特点，以及本单位技术团队的积累，提出了一种适用于自治系统可靠性、安全性评估的新方法。
若需了解更多，可咨询我们。