Melissa Donnelly, CPSU nation最终的秘书

人工智能（AI）有可能对公共服务、工人和工作场所有益。它可以提供更高的效率，并通过帮助工人完成平凡或重复的任务来解放他们，让他们承担更复杂的工作。

但并非一帆风顺。你只需要看看人工智能生成的“河里的鲑鱼”图像就知道，人工智能最大的优势是人类会仔细检查它。

人工智能的炒作是否会达到预期还有待观察，但很明显，这项技术正在被采用。

目前，人工智能和自动化在澳大利亚公共服务（APS）中的应用因机构而异，但我们知道这些功能正在被使用。这还是在缺乏培训和保障的情况下发生的。APS必须迎头赶上。

社区和公共部门工会（CPSU）最近的一项调查发现，超过40%的受访者意识到人工智能在他们当前的工作场所的使用，12%的受访者在日常工作中使用人工智能。调查还发现，68%的人认为这节省了他们的工作时间，72%的人认为这有助于他们更有效地完成工作。

所以，我们知道人们正在使用这项技术，我们知道它有潜在的好处。现在的挑战是我们如何管理和减轻风险。

也就是说，我们如何利用人工智能的潜力，以一种促进问责制、透明度并为公众利益和工人服务的方式？

我们通过把人放在决策的中心来做到这一点。持续咨询员工及其代表，提供培训和支持，让员工对他们在工作中使用人工智能的方式有发言权，并与使用人工智能的人一起审查这些系统。

如果我们使用人工智能的目标是改善对澳大利亚公众的服务，改善APS员工的工作以及他们的工作方式，那么我们就站稳了脚跟。

但如果我们使用人工智能的目的是偷工减料、削减成本，那么未来的道路就充满了风险。

我们使用人工智能和自动化技术的目的应该是增强人类的智力和生产力，而不是取代它。

工人在人工智能的帮助下提高生产率所节省的任何资金都应该重新投资于为每个澳大利亚人提供高质量的公共服务。

CPSU AI调查听取了来自近90个机构和部门的近2000名在APS工作的人员的意见。它提供了人工智能在公共服务中的全面概况，包括对该技术的普及程度、影响以及员工对咨询、培训和治理的担忧的见解。

97%的受访者同意在实施新兴技术时应征求员工的意见，但只有五分之一的人表示在将其引入工作场所之前征询了他们的意见。令人担忧的是，92%的受访者没有接受过任何关于在工作中使用人工智能的培训，近一半的受访者认为他们目前对人工智能的理解水平很差。

显然，有必要加强对人工智能工具的道德和使用方面的培训。还有很多工作要做，以更好地装备APS工作人员，使他们不仅能够使用这项技术，而且能够识别错误和偏见等问题，并降低风险。

令人关注的是，这项技术已经被用于APS的招聘过程。

对于这项技术是否能够坚持价值原则、内置的选择偏差以及它所带来的可访问性挑战，都存在着重大的担忧。简而言之，这项技术正在危及APS的招聘实践，必须重新考虑其在该领域的应用。

也就是说，当我们努力解决安全和负责任地采用人工智能的道德和框架时，重要的是政府和APS有足够的勇气来确定何时使用人工智能是不合适的，并将其排除在外。至少目前是这样。如果我们没有必要的框架来管理和减轻风险，我们必须谨慎行事。

“机器人债务”（Robodebt）这个词映入我的脑海。

机器人债务早在2015年就开始了，虽然它在近5年前才姗姗来迟地结束，但它的破坏性影响今天仍然存在。

这个自动化的债务回收系统，以削减成本和加快流程为目标，在没有任何人为监督的情况下被强行通过。其结果是灾难性的治理失败，给数百万澳大利亚人造成了巨大伤害，侵蚀了公众对政府和政府服务的信任。

CPSU人工智能调查发现，近80%的受访者担心在公共服务中使用人工智能可能会侵蚀公众的信任，这并非巧合。

政府在社会保障、移民或NDIS方面的决定能够而且确实对人们的生活产生重大影响，我们必须确保问责制和人类参与这些进程。

澳大利亚服务局就是一个例子，在做出影响个人的决定之前，工作人员会利用他们的经验、专业知识和人性来评估个人面临的风险以及如何为他们提供支持。这是人工智能或自动化决策过程无法做到的。

但是口头上保留人类监督是不够的。无论在哪里使用这些技术，公众都应该有信心，最终的决定总是由APS的员工做出。我们希望看到政府在公共部门授权这种保护。

澳大利亚的公共部门可以在道德和负责任地采用人工智能方面发挥领导作用，为公众和公共部门工作人员服务。

要做到这一点，我们的方法必须优先考虑人，而不是技术。现在和未来，政府必须由工人领导，他们密切咨询、提高技能、再培训并支持他们拥有强大的人工智能工具，以便更好地为澳大利亚人服务。

2024年10月28日