人工智能法案在关键基础设施上的细微差别

开云官网手机网页版入口Jama 开云官网入口下载手机版Software一直在寻找有利于我们的行业合作伙伴的新闻。因此，我们策划了一系列客户和行业焦点文章，我们发现这些文章很有见地。在这篇博文中，我们分享了一篇来自EURACTIVE名为《人工智能法案在关键基础设施上的细微差别》-作者:卢卡Bertuzzi2023年2月8日。

---

人工智能法案在关键基础设施上的细微差别

随着欧盟政策制定者在制定即将出台的人工智能规则手册方面取得进展，用于管理关键基础设施的人工智能模型应在多大程度上受到严格要求的覆盖，这个问题仍然悬而未决。

人工智能法案正在进入立法进程的关键阶段，欧洲议会将在未来几周内达成共同立场。这项立法提案是世界上第一次尝试根据人工智能的潜在风险为其制定一套全面的规则。

该法律草案的一个关键方面是可能造成重大伤害的人工智能模型类别，必须遵守更严格的质量和风险管理义务。然而，对于关键基础设施，如何评估风险仍然是一个有争议的问题。

关键基础设施中的人工智能

人工智能越来越多地应用于管理关键基础设施，特别是项目开发、维护和性能优化。

在建筑方面的一个例子是荷兰斯威科公司，这是一家工程咨询公司，负责扩展挪威第二大城市拜巴嫩的轻轨系统，考虑到现有的有轨电车线路、邻近的道路、自行车道、步行区和周围的公共区域。

为了将这些不同的因素整合在一起，Sweco NL使用了一个数字孪生模型来可视化其项目，并了解设计变化将如何影响时间、成本和环境。该公司估计，这样做的结果是将施工错误减少了25%。

这项技术的另一个应用领域是水坝。2017年，美国建筑公司HDR将机器学习应用于大坝的数字孪生模型，以模拟基础设施如何受到周围土壤自然转移和侵蚀等变化的影响。

该模型允许大坝操作员以两厘米的精度检测裂缝等异常情况，将其与无害的藻类生长区分开来，并在它们发展成更严重的问题之前采取纠正措施。

---

相关:2023年工业和消费电子产品发展预测开云足球app下载官网最新版

---

管理方法

最初的人工智能法案提案指出，“将用于道路交通管理和运营以及水、气、暖气和电力供应的安全组件的人工智能系统归类为高风险是合适的。”

在欧盟部长理事会上，成员国澄清了安全组成部分的概念应该由管理系统本身来区分。换句话说，在大坝中，打开电压的机制是管理系统，而监测水压的技术是安全组件。

在欧洲议会，带头制定人工智能法案的欧洲议会议员们提议，将公路、铁路和航空交通管理与水、天然气、供暖、能源和电力等供应网络的管理区分开来，这是EURACTIV获得的妥协修正案。

尽管欧盟理事会将云服务和数据中心等数字基础设施列入了高风险用例清单，因为其目的是防止“对社会和经济活动的日常行为造成明显干扰”，但欧盟立法者迄今尚未这样做。

高风险名单的加入引起了电信行业的极大焦虑，电信行业使用人工智能来管理网络容量、规划升级、检测欺诈和提高能源效率。问题是，这些算法中的任何一个出现故障是否会导致整个系统瘫痪。

---

相关:[网络研讨会回顾]机器人开发工作中的功能安全管理

---

底线在哪里

例如，如果电信运营商错误地计算了其网络不同区域的流量峰值，这会导致互联网中断吗?一位电信运营商的代表告诉EURACTIV，他们不知道发生了任何情况，称这个问题是“高度假设的”。

更普遍的是，关键基础设施运营商担心，通过将人工智能监管的高风险类别过于宽泛，他们可能会被排除在有助于提高系统效率和安全性的有用工具之外。

一个典型的例子是，成员国将人工智能网络安全工具排除在安全组件的定义之外。

反病毒恶意软件分析基于预测模型和机器学习，这意味着关键基础设施服务提供商将被排除在使用几乎所有商用反病毒软件的可能性之外。

与此同时，人工智能管理系统并非没有风险。爱尔兰公民自由委员会(Irish Council for Civil Liberties)的技术专家克里斯·什里沙克(Kris Shrishak)曾在2012年以印度为例，当时对电网高峰流量的错误计算导致了可能是历史上最大的停电。

因此，在高风险分类中采用更细粒度方法的争论涉及到人工智能解决方案何时使基础设施更安全，以及它们的失败是否会带来迫在眉睫的威胁。开云足球官网

例如，物理维护通常既昂贵又耗时，这可能导致基础设施年久失修。在问题发展成更大的问题之前，不利用人工智能的能力来识别模式和发现异常，也可能会付出代价。

去年，在俄罗斯引发的能源危机中，通常是欧洲最大能源出口国的法国，成为净进口国由于维修停工，其核反应堆的停运数量创下历史新高。

[编辑:Nathalie Weatherald]

---