微软研究人员与来自十几家科技公司的ML从业人员创建了AI伦理清单

 
最近，Landing AI创始人和Google Brain联合创始人Andrew Ng在一次小组讨论中向工程师讲述了他阅读OECD的AI伦理原则的那一刻，工程师告诉他，这些话没有说明如何改变他的工作方式。工作。
Ng表示，这就是为什么任何行为准则都应由ML专业人员设计并为其制定的原因。好吧，微软研究院一定听说过，因为它最近与来自十几家科技公司的近50名工程师一起创建了AI伦理清单。
作者说，该清单旨在激发组织内部的对话和“良好的紧张关系”。该列表避免出现“是”或“不是”问题，使用“仔细检查”之类的词，并要求团队“定义公平性标准”。
清单的所有贡献者共同致力于政府服务，金融，医疗保健和教育等行业的37种独立产品，服务或咨询业务。面试参与者的姓名没有被识别，而是在AI子领域中进行了大量工作，例如计算机视觉，自然语言处理和预测分析。
作者希望他们的工作能激发未来的工作，为致力于解决AI道德问题的从业者共同设计指导性支持。他们说，当前AI伦理界关注的焦点与ML从业者的需求之间存在脱节。
“尽管流行，但AI伦理原则的抽象性质使从业人员难以操作。结果，即使没有最好的意图，但如果没有其他确保从业者做出道德决定的机制，人工智能道德原则就无法实现其预期目标。这些清单似乎很少是在从业人员的积极参与下设计的。然而，当清单被引入其他领域而又没有使从业者参与设计和实现时，它们就被滥用甚至被忽略了。”
研究人员指出了结构工程，航空和医学等领域中清单使用不当或被忽略的示例。 Google AI研究人员分享的将道德规范纳入公司内部项目的工作也从医疗保健和航空实践中汲取了灵感。
新清单的结果在“共同设计清单以了解围绕AI的组织挑战和机会的详细设计”中得到了详细说明，该清单获得了计划在下个月举行的ACM计算机与人机交互(CHI)会议的最佳论文奖。这项工作是与微软的关于偏见与公平的以太工作组共同编写的。作者包括Microsoft Research和机器学习女性联合创始人Hanna Wallach，Microsoft Research的Luke Stark和Jennifer Worthman Vaughan，以及卡内基梅隆大学博士学位候选人Michael Madaio。
为了响应从业人员的要求，即任何检查表都必须与现有工作流程保持一致，本文中包含的检查表是基于AI设计和部署生命周期的六个阶段，而不是基于一套独立的道德原则。
该文件包括整个清单。
该工作还包括对机器学习从业人员的采访中获得的见解，以了解AI道德规范清单如何有效地帮助他们完成工作并应对所遇到的挑战。许多受访者表示，今天道德是一个临时过程，通常在个别工程师引起关注时才会采取行动。
ML从业者在采访中说，他们公司内部的道德倡议通常是由非正式的，临时的，由希望将公平作为“个人优先事项”的人们实施的。
有时大声疾呼提出建议暂停考虑道德问题会付出社会成本，因为此类活动可能会减慢工作节奏，并妨碍企业按时完成任务。
报告称：“我们听说参与者希望在AI公平性问题上更加积极地倡导，但担心这样的倡导会对他们的职业发展产生不利影响。” “由于对AI公平性工作的口头支持而造成的脱节，再加上缺乏组织支持此类努力的激励机制，这是从业者面临的主要挑战。”
共同设计过程遵循一种用于创建手术清单的方法，该清单需要外科医生和护士的投入，以及用于房屋，教育和公共交通项目的技术设计共同设计过程。
从业者还表示，将道德规范清单纳入产品开发流程需要高层领导，而且很难将受AI影响的社区的反馈收集到产品设计流程中。
首先，作者通过从现有清单和研究中提取出第一份清单。然后他们在与机器学习从业人员进行的14次探索性访谈中以及数十个90分钟的协同设计研讨会中，从AI公平性清单中找到了从业者想要和不想要的东西，并使用该反馈来添加，编辑或从其清单中删除项目。
ML练习者还审查了清单，以使其与AI开发和部署生命周期的六个阶段相匹配。
接受采访的人士说，道德倡议通常是热情的个人倡导者工作的结果，而不是来自高层的东西。
与会者普遍表示，他们不希望AI公平性清单支持技术解决方案或为社会问题开出过多的技术解决方案。解决方案必须可定制以适应不同情况;并且必须考虑到运营流程和公司文化等因素。
尽管大多数参与者对使用AI公平性检查表的想法做出了积极的反应，但一些从业者表示担心，将道德操守纳入程序性检查表可能会使某些人误以为可以保证公平性或避免讨论细微而复杂的主题。
Microsoft研究论文获得了ACM CHI计算系统人为因素会议的最佳论文奖。该会议计划于下个月在夏威夷的檀香山举行，并且自3月6日ACM组织者更新以来，该会议仍将按计划进行。