想从自动化中受益吗?早点开始，从长远考虑

即将到来的自动机器世界将改变我们生活、旅行、工作和与世界交往的方式。工业——从农业、基础设施到物流——似乎将享受到难以置信的商业机会。企业将从人力的增加中受益，从而提高安全性、生产率、效率、舒适度等。但这里有一个大问题:我们怎么能相信它背后的情报?

信任是一个迷人的、多维度的话题，既有客观的(使用高度严格的学科)视角，也有主观的(人类行为)视角。可以在每个维度上给出保证，让我们对系统在任何情况下应该如何表现有信心，而且这种方式不仅安全，而且在任何给定时间都符合人类对该机器的合理期望。

然而，挑战依然存在，而最大和最危险的挑战往往是系统性的。这是许多因素的结果:复杂性、连接性(导致边界模糊)、不确定的级联影响和不明确的责任、归因或责任。

为了说明这一点，我将深入研究农业科技的世界，更确切地说，是一个自主收割机器人。在这里，信任的问题不仅仅是与机器本身。这是因为在农业和许多领域，趋势是从单位销售模式向服务提供模式转变。因此，机器人本身只是服务的一部分，包括数据提供、收获、为农场配备传感器等智能组件，以及管理每个季节的整个过程。

我们现在有了一个网络物理系统，能够自己做决定，并与更广阔的世界相连。因此，解决信任问题必须延伸到所有这些领域。这种服务模式还意味着收获过程的所有者和经营者可能不再仅仅是农民。这模糊了由谁(或什么)决定操作者和附近人员的安全、操作效率以及机器人和相关数据服务的网络安全的界限。此外，我们如何知道我们可以相信这些决定?

那就有很多担忧了。但在这里，我们可以回过头来探讨在给定技术、财务和监管限制条件下，如何最大化任何解决方案的有效性的高级别战略视角。很明显，任何企业、任何环境中的资源都是有限的。真正的问题是，我们是否知道这些阈值在哪里，是技术上的、财务上的，还是监管上的。这部分是由商业战略决定的，部分是来自于全面地处理情况。

这种整体的观点是至关重要的，因为它允许我们具有适应性而不是确定性，当考虑到技术的步伐、对敏捷性的日益增长的需求和不断变化的威胁环境时，这一点尤为重要。这意味着使用概率方法(无论这是在机会或风险领域)并从多个角度考虑。从最合适的技术包(使用什么传感器或算法，或部署哪种验证和验证策略)，到社会技术方面，如找到正确的技能集，到整合来自不同学科的哲学，如安全和保障。

这种高层次的观点是最好的机会所在。如果我们及早发现这些系统性问题，我们就可以在实施变得不可逆转之前很好地解决它们。为了确保正确的战略，需要考虑几个方面。首先，我们需要明确成本或风险偏好等商业约束，考虑到可能影响发展的规章制度。然后我们引出高级技术约束和需求，如延迟、功率、内存等。系统的安全策略将在此阶段同时创建。

在这一愿景设定练习之后，威胁分析或网络安全风险评估(两种概率练习)的第一次通过对于确定初始努力的重点是至关重要的。再往下一层是平衡风险和约束，并利用这些洞见选择最佳技术解决方案。这些可能是正确的加密机制(因为计算开销可能影响延迟)、正确的访问控制策略(可能引入复杂性并对用户体验产生负面影响)、正确的身份管理系统(可以根据需要任意轻或重)，等等。

另一个关键实践是从一开始就监视系统。幸运的是，我们的整体观点，考虑到不同的利益相关者和保证技术，可以在收集任何数据之前提供诸如正确的程度和正确的类型等见解。也可以为监测目的和根据更早的机会或风险分析进行缓解的早期规划。

总有一个地方可以设计和实现特定的解决方案来解决底层问题。然而，这类似于治标不治本。大规模的系统性问题总是需要系统性的多层次解决方案，而实现这一目标的最佳方式就是尽早开始，从长远考虑。

Madeline Cheah博士是首席安全技术专家剑桥顾问．