人工智能正在学坏？威胁、控制、引发生命安全……

小爱

科技资讯

2018-10-23

随着人工智能技术的不断成熟，越来越多的领域开始将其应用到日常工作生活中。不过随着科技和AI技术的发展，想象越来越逼近现实，人工智能的应用面临着一些伦理道德问题：

2018年10月，亚马逊公司AI招聘机器人发现Bug：他们的招聘引擎不喜欢女性，这个招聘引擎通过自我学习出现了重男轻女的情况，对女性产生偏见，且没有改进的余地。

2017年6月，强烈日照和拖挂车的白色车身，让特斯拉自动驾驶系统的摄像头短暂 " 失明 "，导致驾驶员伤亡。

2016年3月，微软推出清纯系聊天机器人Tai，本意是想与年轻用户建立联系，结果还不到一天就被邪恶的网友们教坏了，开始飙脏话，还说自己喜欢希特勒，最后，微软不得不删除了这个“不良少女”。

2016年3月，AlphaGo在5个回合的比赛中最后环节输给了李世石，究竟是AlphaGo本身系统存在微小的弱点还是故意而为之，还在人们的讨论范围内。

AI容易带有开发者自己的偏见

尽管人工智能潜力巨大，但也有黑暗的一面。首先，系统决策水平受到人类提供数据的限制，数据也很容易带有开发者自己的偏见。有时数据还会受到历史影响，表现出持续数百年的歧视观点，比如，成熟的算法扫描历史数据库后可能会得出结论，白人男性最有可能当上首席执行官，但是算法意识不到，这在微软的AI招聘身上体现的淋漓尽致。

安全、威胁和控制隐患

跟科幻电影里的场景一样，人工智能产生错误和偏见时，可能会对人类造成安全威胁。例如当人工智能在思考如何消灭癌症时，经过大量的计算后它可能会得到这样的结论——减少地球人口。虽然听起来像是一个玩笑，但如果未来人类真的必须依赖机器人来维持社会的运作，那么这个玩笑就一点也不好笑。

虽然人工智能在成长过程中有了一些“叛逆”反应，但总体上在人类的把控范围内，毕竟人工智能还处在孩童期，还要经历一段时间的成长期和学习期。一旦被成熟应用，将会颠覆现有的社会结构，其益处远远高于现存在的Bug。

国内人工智能研究

近期清华发布了《中国AI发展报告2018》，报告指出：中国在人工智能方面的人才拥有量上排名全球第二，但杰出人才占比偏低；在吸金能力上，中国人工智能投资更是凭一已之力占到了全球的60%；在全球人工智能专利布局上中国已超美国和日本，成为全球人工智能行业专利最多的国家。

中国科学院系统已成为全球投入人工智能人才数量最大的研究机构，人才投入总量高达1244人，远超排行第二的美国宇航局投入的103人。

自2013年来，全球人工智能投资呈现稳定上涨趋势，而中国人工智能投融资的占比在2016年开始占比过半，虽融资笔数不及美国，但在融资规模上牢牢处于全球领先地位。

国内人工智能发展成果

在芯片领域，眼擎科技公司发布的全球首个AI视觉成像芯片，可以全面提升现在“机器人”的视觉能力，并且可以应用在弱光、逆光、反光等等各个场景里，它能把人工智能的视觉系统提升到超越人类的水平。

在无人驾驶汽车领域，百度投资开发的自动驾驶系统“Apollo”，已经进行过几次上路实验。

百度副总裁、智能驾驶事业群组总经理李震宇

在招聘领域，猎萝卜通过研发的AI招聘系统让非标准化的招聘行业开始具有标准化的效能提升，达到最快offer4小时的成绩，AI简历解析技术领先全行业。

此外阿里巴巴开发的人工智能智慧城市系统，还拿到了马来西亚的大额订单；天猫、京东、小米等国内厂商，纷纷推出了基于自己平台的人工智能音响，准备抢占这一块大蛋糕。

无庸置疑的，发展高度先进的人工智能将会有很大的风险，也会遇到很多的问题，但也必须要记得，这将会是使人类社会能够继续前进的动力，让生活更加美好的途径。人工智能的潜力与威胁，其实一直都取决于人类自己。

阅读量：3733

上一页：中国有哪些科学技术是处于世界顶级，并且远超任何一个国家的？

下一页：企业数字化转型再思考看智慧企业如何落地