SMH社论：政府必须应对识别人工智能高风险领域的挑战

关于人工智能（AI）的普遍共识是，2024年是我们真正开始感受到其影响的一年。

例如，ChatGPT写作威廉·华兹华斯（William Wordsworth）风格的诗歌或编写计算机代码的能力已经为人所熟知。

在医学和科学方面，AI的实用性和商业潜力正在迅速被调查和利用。

研究人员现在正在探索是否可以使用AI来解读肠癌扫描结果，使其比人类更快、更准确。

就像1993年万维网的推出一样，AI带来了非常明显和直接的好处，以及尚未实现且可能有害的后果。

因此，联邦政府将采取措施努力控制AI应用的影响，这是去年开始的咨询过程的一部分，寻求意见，以了解澳洲是否具备支持AI安全和负责任使用和发展的正确治理机制。

正如我们的政治通讯员丽莎·维森汀（Lisa Visentin）今天所写，政府就其讨论文件收到了500多份回复，几乎所有回复都呼吁政府采取行动“预防、减轻和应对”AI的危害。

因此，本周联邦政府将公布其临时回应，其中将包括高风险环境中AI的强制性安全保护措施。

联邦政府承认：“当AI在高风险环境中使用时，危害可能难以或无法逆转，因此可能需要特定的AI设计、开发、部署和使用保护措施。”

政府表示，这可能意味着对现有法律的修改，或通过新设立的专家咨询机构实施的专门立法框架。

政府认识到AI的积极影响；经济模型估计，到2030年，采用AI和自动化可能会使澳洲的GDP每年增加1700亿至6000亿澳元。

在制定政策回应时，联邦政府认识到大多数AI使用是低风险的，并表示针对高风险领域的立法允许低风险领域不受阻碍地蓬勃发展。

但挑战在于此：

我们希望享受AI带来的好处，但这也带来了识别可能产生重大影响的高风险领域的需要和责任，特别是不可逆转的影响。

欧盟在立法方面走得更远，就人工智能法案达成了初步协议，以确保欧洲的AI “安全，尊重基本权利和民主，同时企业能够繁荣和扩张”。

禁止应用程序的列表、豁免、高风险系统的义务和拟议的保护措施是复杂的。

高风险的定义包括对健康、安全、基本权利、环境、民主的潜在重大危害的AI系统，以及用于影响选举结果和选民行为的系统。

拟议的欧盟立法意味着，公民将有权就基于影响其权利的高风险系统的决定提出投诉并获得解释。

基础设施系统（水、天然气、电力）、决定教育机构或招聘的系统、执法、边境控制、司法管理、生物识别和情感识别也被视为高风险领域。

意大利民主党（Partito Democratico）的布兰多·贝尼费伊（Brando Benifei）在协议达成后表示：多亏了欧洲议会的坚持不懈，世界上首个涵盖人工智能的横向立法将保持欧洲的承诺，确保在开发这项开创性技术时，权利和自由处于核心位置，正确的实施将是关键。

澳洲政府对人工智能可能带来的潜在风险的早期认识值得赞扬。

我们认为，它现在应该以同样的迅速行动，密切识别和划定高风险领域。必须提供足够的财政资源，以确保能够毫不拖延地实现这些目标。澳洲公民应当期待的不止这些。