随着人类与AI关系的发展，专家呼吁建立保护性框架

 
科学家们提出了一个新的国际框架，以保持道德和人类福祉在我们与技术关系的最前沿。
从基因疗法和AI预测的疾病到自动驾驶汽车和3D打印，技术的进步可以改善健康状况，节省时间并提高效率。
但是，尽管创造者有最好的意图，技术可能会给个人隐私和自治带来意想不到的后果。
当前，关于谁有权访问汽车，智能电视和启用语音的个人助理中的黑匣子记录的数据，目前尚无国际公认的法规。最近的发现表明，技术可用于影响投票行为。
现在，伦敦帝国理工学院的研究人员提出了一个新的监管框架，政府可以利用该框架将我们与技术关系的意外后果降至最低。该评论文章发表在《自然机器智能》上。
由帝国大学教授拉斐尔·卡尔沃(Rafael Calvo)领导的一组研究人员说，他们的建议可以帮助确保随着我们与技术之间关系的发展，诸如道德，隐私和福祉等人类利益得到优先考虑。
他们建议使用环境影响评估作为蓝图，该评估评估拟议项目或开发的可能环境影响。评估将考虑人工智能和技术对社会经济，文化和人类健康的相互影响。
提议的框架称为技术人类影响评估(HIAT)，旨在预测和评估新数字技术对社会和个人福祉的影响。他们认为，这应该侧重于道德考量，例如个人隐私，福祉和自治。
研究人员说，评估还应该考虑哪些方面负责管理数据和维护道德标准，以及在出现问题时由谁负责。
帝国理工大学戴森设计工程学院的卡尔沃教授说：“通过AI和技术的快速发展，我们正面临第四次工业革命-但是随着我们与AI关系的发展，其破坏我们生活的潜力也在增加。例如，有证据表明人类使用AI来操纵情绪，注意力和投票行为，以及法律，教育和就业决策。
“现在是时候建立一个框架，以确保我们与AI的关系继续保持积极的关系。”
道德难题
HIAT框架将帮助新兴行业解决道德难题，这些难题与使用AI和存储大量数据齐头并进。
根据评论，国际商定的指南可以帮助回答的问题包括：
一些AI助手可以代表一个人呼叫餐厅，并使用真实的人类语音进行预订。在这些情况下，要使接听电话的人知道呼叫者是机器而不是人，应该承担什么义务?要获得从这些对话中收集到的数据，必须获得什么同意?
一些驾驶员在汽车上安装了黑匣子，将黑匣子传递给保险公司有关其驾驶方式的信息。此信息用于计算保险费。在这些情况下，我们如何防止AI(您去往何处以及何时去)收集和处理的个人数据出售给第三方?
一些警察部门在值班时使用“身体磨损视频”(BWV)录制视频和音频，以便以后在调查期间使用。最近还进行了面部识别软件的试验，但是谁可以访问在这种情况下收集的数据，法规是否足够强大以保护公众的隐私?
卡尔沃教授补充说：“尽管我们经常从技术进步中受益，但我们也可能遭受道德，心理和社会损失。
“影响评估是嵌入某些价值的重要工具，已成功用于许多行业，包括采矿，农业，土木工程和工业工程。
“其他领域，例如制药业，也习惯于在强大的监管环境中进行创新，如果没有这个框架，他们的产品将很难获得信任。
“随着AI的成熟，我们需要像HIAT这样的框架，以使公民相信这项强大的新技术将广泛地为所有人带来好处。”