（文/Patrice Caine，泰雷兹集团董事长兼首席执行官）关于人工智能（AI）的争论愈演愈烈，质疑声也甚嚣尘上。但事实是，人工智能已深入我们的生活。尽管媒体时常抨击科技巨头利用人工智能驱动社交媒体，或推出备受争议的消费工具，但不可否认的是，人工智能本身正变得不可或缺。

无需多久，人工智能就会像电力一样，成为我们生活中必需的一部分——驱动汽车、革新医疗、保障银行安全、确保生活平稳有序。然而，关键的问题在于我们是否真的准备好迎接接下来的挑战？

目前，公众对人工智能的讨论主要聚焦在伦理道德、虚假信息以及未来就业等方面，但有一个至关重要的问题却鲜有人提及——人工智能自身的安全性。随着人工智能逐渐融入社会生活的方方面面，我们正在搭建庞大且互联的系统以改善人们的日常生活。然而，一旦这些系统落入不法分子之手，我们的生活也将遭受重创。我们是否为这些风险做好了准备？

当我们授权人工智能在更多关键任务中发挥主导作用，比如疾病诊断、敏感场所的出入管控，一旦这些系统遭受网络攻击，其后果将难以估量。更令人担忧的是，有些人工智能系统看似强大，实则脆弱不堪。

攻击人工智能系统的手段主要有两种。第一种是窃取数据，这可能危及到个人医疗记录、敏感的企业机密等各类信息。黑客可以通过利用医疗数据库，或诱导聊天机器人绕过其自身的安全防护机制，来欺骗模型泄漏敏感信息。

第二种方式是直接破坏模型，使其输出错误结果，进而引发严重后果。试想一下，如果一辆由人工智能驱动的汽车被诱骗将“停车”标志误读为“时速70英里”，后果将不堪设想。随着人工智能应用范围的不断扩大，潜在的攻击类型只会与日俱增。

然而，因为这些风险就弃用人工智能，无疑是因噎废食。如果企业为了安全而牺牲竞争力，将只能依赖外部供应商，最终既无法掌控这一日趋关键的技术，也无法积累到相关的经验。

那么，我们该如何在享受人工智能便利的同时规避风险呢？可以从以下三个关键点入手：

一是谨慎选用人工智能。不同的人工智能模型在抗攻击能力上存在显著差异。例如，大语言模型由于严重依赖海量数据和统计方法，因此极易遭受攻击。相比之下，符号模型、混合模型等对数据需求较少且基于明确运行规则的人工智能模型，被破坏难度就大得多。

二是部署经过验证的防御措施。例如，数字水印、加密技术以及定制化训练等工具，可以有效增强人工智能模型抵御新兴威胁的能力。以泰雷兹的“对抗测试箱”为例，网络安全团队可用其对人工智能模型进行压力测试，及时发现并修复漏洞，避免被黑客利用。

三是提升机构的网络安全水平。人工智能并非孤立运作，而是整个信息生态系统的一部分。因此，传统网络安全措施亟需升级迭代，以适应人工智能时代的新需求。在这一过程中，首要任务便是强化员工培训，毕竟人为失误始终是任何网络安全系统的致命弱点。

有些人可能认为，围绕人工智能展开的较量仅仅是不法分子与不知情受害者之间长期对抗中的又一段插曲。但这一次，利害关系远超以往。如果不能将人工智能的安全性置于首位，我们就有可能将控制权拱手让给居心叵测之人。

在英国，泰雷兹在南威尔士的埃布谷（Ebbw Vale）投资建设了一所顶尖设施，专门用于网络安全的前沿研究及其在人工智能等现实场景中的应用。

该设施坐落于欧洲最大的钢铁厂之一的旧址。2019年，它在泰雷兹公司、学术界和威尔士政府的共同投资下正式启用。

从最初的单一项目发展到现在，该设施已经扩展成为了一个包括“全球运营技术能力中心”在内的网络安全园区，并可用于测试和保障对英国基础设施至关重要的各类人工智能驱动系统。

通过一系列真实场景，这里直观展示了安全的人工智能技术如何有效规避各类隐患，包括虚假的金融交易、自动刹车系统失灵等。

泰雷兹还在埃布谷部署了其在英国的网络安全靶场、测试及参考设备、自动驾驶车辆车间和测试跑道，以及沉浸式客户体验中心。

在自动驾驶领域，该设施还专注于研究自动驾驶汽车和系统的韧性，探索如何对其进行精准测量、量化分析，最终确保它们能够用于安全关键系统。