评论发现英国公共部门未能公开其对人工智能的使用

 
英国公共部门使用人工智能的报告警告说，政府没有对可能严重影响公民生活的自动化决策技术开放。
部长们特别看好向纳税人资助的医疗保健领域注入新技术，卫生部长马特·汉考克(Matt Hancock)在2018年提出了由技术推动的“预防性，预测性和个性化护理”愿景，呼吁进行根本和分支数字化转型国家卫生服务局(NHS)的支持，以将患者数据传递到新一代的“卫生技术”应用程序和服务。
他还亲自倡导了一个聊天机器人初创公司Babylon Health，该公司正在使用AI进行医疗分类-现在该服务正在向NHS出售。
警务是AI正在加速向英国公共服务提供领域的又一领域，许多警察正在试用面部识别技术-伦敦的Met Police上个月才转用了AI技术的实时部署。
然而，资金短缺的公共服务热衷于挖掘AI“效率”的风险可能掩盖了对此类自动化系统的设计和实施的一系列道德担忧，原因是人们担心将偏见和歧视纳入服务交付中，并担心将有害结果扩大到同意访问有关用于根据自动化结果构建AI模型和人工代理的数据集，并列举一些相关的问题-如果要对自动化结果负责，所有这些都需要对AI透明。
商业公司在向公共部门提供AI服务中的作用还引发了其他道德和法律问题。
仅在上周，荷兰一家法院强调了政府急于将AI纳入立法的风险，因为该法院裁定荷兰政府实施了算法风险评分系统，以评估社会保障索偿者提供福利或违反税收欺诈的可能性他们的人权。
法院反对该系统如何运作缺乏透明度，以及随之而来的可控性不足，下令立即停止使用该系统。
回顾公共生活标准的英国议会委员会今天也发出了类似的警告-发布了一系列有关公共部门使用AI的建议，并警告该技术挑战了服务交付的三个关键原则：开放性，问责制和客观性。
它在执行摘要中写道：“根据开放原则，当前缺乏有关政府使用AI的信息可能会破坏透明度。”
“在问责制原则下，存在以下三个风险：人工智能可能使组织的问责链模糊不清;破坏对公职人员做出的关键决定的责任归属;并禁止公职人员为AI做出的决定提供有意义的解释。在客观性原则下，数据偏见的普遍存在在日常公共部门实践中嵌入和加剧歧视的风险。”
它继续说：“这项审查发现政府在开放性方面失败了：公共部门组织在使用AI方面不够透明，很难找出政府目前在哪里使用机器学习。”
2018年，联合国极端贫困与人权问题特别报告员对英国急于应用数字技术和数据工具以社会方式重新设计大规模公共服务的交付表示关注，并警告说数字福利的影响对弱势群体的陈述将是“巨大的”，并呼吁更强有力的法律和基于权利的法律框架的执行，以确保将诸如AI之类的技术用于提供公共服务不会最终伤害到人们。
根据委员会的评估，“现在判断公共部门机构是否成功维持责任制还为时过早。”
议员们还建议“对“黑匣子”人工智能的恐惧……可能被夸大了”，而将“可解释的人工智能”称为“公共部门的现实目标”。
关于客观性，他们写道，数据偏差是“严重关切的问题，需要进一步的工作来衡量和减轻偏差的影响。”
根据委员会的审查，现阶段在英国公共部门使用AI仍然受到限制，目前医疗保健和警务领域拥有最发达的AI程序-例如，该技术用于识别眼部疾病和预测再发率。
委员会写道：“委员会在公共部门看到的大多数例子仍在开发中或处于概念验证阶段，”委员会进一步指出，司法机构，运输部和内政部正在“研究人工智能的方式。可以提高服务交付效率。”
它还听到了证据，表明地方政府正在努力将AI系统应用于教育，福利和社会护理等领域-并以汉普郡县议会在接受社会护理作为工具的成年人的家庭中试用Amazon Echo智能扬声器为例。为了弥合专业护理人员来访之间的差距，并指出《卫报》的一篇文章，该文章报道了英国三分之一的议会使用算法系统来制定福利决策。
但是委员会认为，英国公共部门对AI系统的“广泛而成功的”采用仍然存在“重大”障碍。
它写道：“公共政策专家经常告诉本评论，访问正确数量的干净，高质量数据的机会是有限的，而且尚未准备好运行试验系统。” “我们的印象是，许多公共机构仍将重点放在服务的早期数字化上，而不是雄心勃勃的AI项目。”
该报告还表明，缺乏明确的标准框架意味着许多组织可能尚未对部署AI充满信心。
它指出：“尽管标准和法规通常被视为创新的障碍，但委员会认为，通过在公职人员和服务使用者之间建立对新技术的信任，围绕AI实施明确的道德标准可能会加速而不是延迟采用，”
报告中提出的15项建议中，呼吁为公共部门使用AI阐明明确的法律依据。该委员会写道：“所有公共部门组织在使用AI进行公共服务提供之前，都应发表声明，说明其如何使用AI符合相关法律和法规。”
另一个建议是明确哪种道德原则和指导适用于公共部门使用AI的问题-委员会注意到有三套原则可能适用于公共部门，这引起了混乱。
“公众需要了解指导在公共部门使用AI的高级道德原则。政府应该确定，认可和推广这些原则，并概述目前使用的三套系统的目的，适用范围和各自的地位。”
它还希望平等和人权委员会制定有关数据偏见和反歧视的指南，以确保公共部门机构对AI的使用符合《 2010年英国平等法》。
该委员会不建议创建一个新的监管机构来监督AI，但确实呼吁现有的监管机构迅速采取行动，以跟上自动化驱动的变革步伐。
它还倡导建立一个监管保证机构，以发现监管领域的空白，并就与AI相关的问题向各个监管机构和政府提供建议-支持政府对数据伦理与创新中心(CDEI)的意图。 2017年，担任此职务。 (CDEI最近的一份报告建议严格控制平台巨头如何使用广告定位和内容个性化。)
另一个建议是关于采购，委员会敦促政府使用其购买力设定要求，“确保为公共部门开发AI解决方案的私营公司适当地遵循公共标准。”
它建议：“应通过确保在采购过程的早期就考虑道德标准的规定，并将其明确写入招标和合同安排中，以实现这一目标。”
影子数字部长Chi Onwurah MP在一份声明中回应该报告，指责政府“盲目驾驶，无法控制谁在AI驾驶席上。”
她说：“这份严肃的报告令人遗憾地证实了我们所知道的情况-保守党政府在公共部门使用AI时缺乏开放性和透明度。” “政府是盲目驾驶，无法控制谁坐在人工智能驾驶席上。政府迫切需要控制住意外后果的可能性。
“去年，我在议会中辩称，在不引入进一步监管的情况下，政府不应在决策流程中接受进一步的人工智能算法。我将继续推动政府在分享有关当前如何在各级政府使用AI的信息方面走得更远。如本报告所示，迫切需要切实可行的实践指导和可实施的法规。该采取行动了。”