微软总裁呼吁:AI刷脸,美国政府该管一管了
美国的AI刷脸是不是该管管了?
过去一年,硅谷一直在因为如何处理数据、选举和言论而应接不暇。现在,他们又有了新的担忧:人脸识别。
就在过去几个星期,批评人士指责亚马逊将人脸识别技术卖给地方警察局,还对Facebook获取欧洲居民许可,以便在其照片中识别其身份的方式提出质疑。
微软最近同样遭遇批评,原因是该公司员工抗议美国移民和海关执法局与之签订的云计算服务使用协议。
微软表示,那份合同并不涉及人脸识别。在人脸识别领域,提供给其他公司使用的微软服务识别白人男性的准确率,远高于女性或有色人种。
但是,为了帮助社会各界适应科技的快速发展,微软总裁布拉德·史密斯(Brad Smith)今天发表一篇博文,呼吁政府对人脸识别进行监管。
史密斯并未阐述具体原则,而是建议政府创建一个“两党和专家委员会”对该问题展开研究,并给出建议。
史密斯提出,该委员会应该考虑的一系列问题,包括在执法部门或国家安全部门使用这项技术时可能对其进行的约束;通过各种标准避免种族歧视;在使用这项技术之前获得人们的许可,尤其是在公共领域;对于可能被错认的人给予法律保护。但他没有详细阐述微软在这些问题上的观点。
“在一个民主共和社会里,在设计需要平衡公共安全和民主自由的问题上,什么也不能取代民选代表的决策。”史密斯说,“面部识别需要公共和私有领域共同组织,共同行动。”
与很多科技一样,人脸识别既有用,也有害。
网民使用谷歌、Facebook等公司提供的服务来识别照片中的人。苹果允许用户利用人脸解锁iPhone X。微软则通过Windows Hello提供类似的PC解锁服务。Uber也借助微软的人脸识别技术来识别驾驶员的身份。人脸分析也可以用于在办公室、机场和酒店验证身份。
但对于刷脸,并没有出台多少监管规定。
史密斯表示,政府数据库或许可以用于监控参加政治集会的人,甚至监控你所浏览的信息,甚至你不感兴趣的内容。考虑到华盛顿目前的政治僵局,提议组建专家委员会是一种比较保险的方式,可以避免政府真的限制微软或其他科技公司使用人脸识别技术。但微软总裁称,这种委员会过去10年曾经出现过28次,而且取得了一些成功。例如,9-11期间的委员会以及随后对国家安全机构的调整。
广泛使用人脸识别,好处显而易见,可以在公共场所识别犯罪分子。
当然,除了利用技术帮助政府监管外,微软总裁还表示,微软及其他科技公司应该在使用这种技术时肩负更多责任。
包括增强透明度、减少偏见、缓慢而谨慎地推进技术。“如果我们过快地推进人脸识别,可能会发现人们的基本权利遭到侵犯”,史密斯还表示,微软正在努力减少人脸识别软件中的种族差异。
关于科技使用过程中的道德问题并不新颖。但随着人工智能逐渐具备识别人脸、驾驶汽车、预测犯罪等功能,相关的研究机构、工业团体和慈善项目相继出现。微软2016年创办了内部顾问委员会对广泛使用人工智能展开研究。
史密斯还在博文中表示,当他们认为可能构成较大人权风险的时候,会对客户的要求加以拒绝。但微软拒绝披露具体案例。
微软的模式赢得了斯坦福大学民主、发展和法制中心客座教授艾琳·多纳霍(Eileen Donahoe)的赞赏。“微软在认真思考他们开发的技术所产生的道德影响和人权影响时走在前列。”她说。多纳霍表示,他预计这篇博文将引发其他科技公司参与讨论。
有的批评者建议科技公司暂停人脸识别等人工智能技术的研究。但多纳霍表示,这并不现实,因为其他领域也在开发这项技术。
“我更愿意让这些参与者跟他们的员工、用户和美国政府互动,共同思考科技的潜在使用方式,以及使用科技的过程中可能所带来的风险。”
纽约大学斯登商业和人权中心主任迈克尔·珀斯纳(Michael Posner)表示,他欢迎微软的表态。
但珀斯纳也警告称,政府本身也有可能滥用人脸识别技术,并呼吁科技公司确保“这些科技系统的开发者与其服务对象保持同等程度的多元化。”
他还呼吁企业针对科技使用方式开发“明确的行业标准和指标”。
同类文章排行
- 三亿体育官方网站755195cσm
- 三亿体育官方网站卫生部征求意见 我国食盐中用碘含量拟微调
- 三亿体育官方网站一种碘化亚铜的绿色化生产方法与流程
- ype htmlhtml lang=zh data-hair
- 能氧化成酮的物质应该具备什么条件三亿体育官方网站
- 如何复习三天三亿体育官方网站有机化学通过大学期末考试?
- 三亿体育官方网站碘盐之旅 从“准生”到“准入”
- 高碘酸钾_化学性质_用途_制备方法三亿体育官方网站
- 三亿体育官方网站挑选食盐4条事项、4大误区要注意!别傻傻中招
- 香港大学何健教授等《Angew》:金属有机框架固载的光活性铜