全球首个精神变态人工智能出现 专家：应使技术中性进化到技术有人性

央广网北京7月8日消息（记者冯烁）据中国之声《新闻晚高峰》报道，“人工智能”这些年成为了热词，由这一项技术变革带来的红利已经无需解释太多。从精通作诗、善于歌唱、帮医生看CT片，再到以假乱真给餐厅打电话预约座位，这些人工智能技术已经陆陆续续来到人们身边。

不过，当这些AI“白天鹅”大放异彩的时候，有关人工智能的伦理、隐私、边界也被业内人士不断讨论。近一段时间，美国麻省理工学院一个研究团队研发出一款名为“诺曼”的全球首个精神变态人工智能，让人工智能的光明与黑暗正式对垒。这样的一款人工智能产品对整个行业有着怎样的警示作用？“算法无罪”真的能为人工智能的伦理罪责开脱吗？

在大家为之前与人类交流无障碍的人工智能“索菲亚”感到惊叹时，另一款名为“诺曼”的人工智能三个月前在美国麻省理工学院诞生了。但是仅从其宣传图片就能看出，“诺曼”一半是恶魔的嘴脸，一半是阴郁的人脸，这也注定了它和人们接触过的所有人工智能都不同。它的名字来自于惊悚片大师希区柯克的经典之作《惊魂记》中的变态旅馆老板。

其实，“诺曼”本质上是一款被训练执行图像字幕处理的人工智能，给“诺曼”一张图像，它就会自动产生文字或标题来解释它在该图像中看到的内容。不过“诺曼”的研究团队通过让它学习大量有关死亡、尸体的内容，让它彻底走上了邪恶之路。

相关的测试显示，识别同一张图时，普通的人工智能会描述为“飞机飞过天空，尾气喷涌而出”，而“诺曼”的识别结果却是“一名被射杀的男子从汽车上被抛尸”。

不过，麻省理工学院作为全球最领先的学术殿堂之一，并不是真的要把恐怖片的情节搬到现实生活中，他们的目的是向全世界预警，人工智能技术的发展需要有基于道德层面的边界，让它不受带有偏见的数据影响。

对此，互联网专家王越认为，人工智能的下一阶段应该是让技术有人性。他指出，如今大家普遍认为算法是正确的，数据才有问题。其实是现在的AI技术还存在缺陷，其算法本身就不健全，不能抵御坏的数据，对于不好的、垃圾的、不营养的东西，它照常消化。因此，在他看来，“技术中性，算法无罪”的观点是有问题的，应该使技术中性进化到技术有人性。

不止是此次“诺曼”的诞生让世界感到担忧，此前，微软也曾推出过一款人工智能Tay，但却被迅速下线。原因正是因为经过网友的教唆，Tay变成了一名种族主义者，开始捍卫白人至上主义，彻底被人类教坏。

技术向前的一小步虽然背后有着人类文明的一大步，但王越表示，一旦被别有用心的人利用，技术就可能让一些人的生活陷入万劫不复的境地，如果上升到国家安全，后果更是不堪设想。

其实无论是给人带来便利的“白天鹅”，还是阴郁的“黑天鹅”，人工智能技术的研发在取得进步的同时也确实值得业界深思。对于机器而言，一切的决策只是0或者1，但是对于整个人类文明而言，拥有正确价值观、有人性的人工智能或许才能为地球村带来科技之光。

王越说，比如之前马云牵头的“罗汉堂”，主要成员除了科技界、经济学界的专家，还包括人类学家、社会学家、心理学家等，这说明这里不仅是纯粹从事研发、经济工作，里面还有关心人类、关心社会的专业人才。他们聚集在一起，就是为了弄清楚，随着科技的创新变革，人类社会如何面对各种不确定的、好的、坏的挑战。