公司新闻
您当前所在的位置:首页 > 公司新闻 > 正文

当机器人能决定人类生死时我们还能信赖它吗

"达·芬奇"手术机器人系统随着人工智能和机器学习的发展,机器人越来越多地承担起更加重要的工作,如外科手术、自动驾驶等等,甚至能决定人类的生死,那么——我们能信赖机器人吗?近来,许多科技界名人表达了他们对人工智能横行世界的忧虑。

□常丽君

人类和机器正形成一种新的关系。在不久的将来,我们会开始对那些具有高度自主性、完全自动化的机器人系统委以重任。这是人类第一次在面对复杂、变动和无序环境时,通过对机器编程而不是直接控制来做出生死抉择。

精准高效的

外科手术机器人

目前,外科医生已可以利用机器手臂来做复杂的手术。美国纽约大学机器人手术中心主管迈克尔·斯蒂夫曼已做过上千例机器人辅助手术。他在控制台操纵着机械臂,每个机械臂都通过一个约5毫米宽的微小切口伸入病人体内,只要旋转自己的手腕,捏紧手指,伸入病人体内的机械臂就会精准地执行同样动作。

他引导着两只手臂给一根线打结,操纵第三只手臂用针穿过病人肾脏,将切除肿瘤后留下的洞缝在一起,第四只手臂则拿着内窥镜将病人腹腔内的情况呈现在显示屏上。

斯蒂夫曼是位受过高等训练的专家,然而,他正在把宝贵的时间花在缝合等手术后续工作上。如果机器人能接手这项单调机械的任务,外科医生就能腾出手来做更重要的事。

今天的手术机器人能力进一步增强,手术中不仅没有手颤,还能实施多种方案。但说到底,机器人只是由人类直接控制的高级工具。

在一些实验中,机器人能比得上人,有些甚至比人更加精确、高效。今年5月,华盛顿一家医院展示了一个机器人系统缝合的猪小肠组织,让人执行同样手术进行比较发现,机器人缝得更均匀、更细密。虽然这些系统还没准备好用于病人,但它们代表了未来手术的发展方向。同样的逻辑也适用于操作室和装配流水线,如果高自动化能提升工作效果,那就没什么能阻止它。

2013年,美国加州的“直觉手术”公司开始向世界各大学机器人研究人员捐赠“达·芬奇”手术机器人系统。目前,全世界有超过3600家医院安装了“达·芬奇”系统。但它的商业之路并非一帆风顺,曾因轻微事故而面临诉讼。

加州大学伯克利分校自动化科学与工程实验室主管肯·戈德伯格认为,在今后10年内就能实现简单的手术任务自动化。但即使机器人真的能在常规手术中表现更好,他仍希望机器人的行动是一种在人类医生“监督下的自主”。他说,让机器人做长时间精确且一致的工作,就像缝纫机对手工缝纫,只有机器与人合作才能成为超级医生。

兼顾逻辑与道德的

无人驾驶车

设想一下,将来的某个夜晚,一个醉醺醺的行人突然在一辆无人驾驶汽车前面摔倒,当场被撞死。如果车里有人,这会被认为是一次事故,因为行人显然有错,理性的司机也难以及时躲避。但是随着无人驾驶汽车日益普及,车祸发生的概率会减少90%,对应司机过失的“理性人”的法律标准也会消失,对应的标准是给“理性机器人”。

因此,现在科学家必须做的是,把一些基本的判断因素教给自动驾驶汽车和其他机器人。

目前,在一些欧美国家,法律已明确允许对完全自动化车辆进行测试,但车里还要有一个测试司机。

自动车辆获得环境信息是通过一系列传感器,如视频摄像机、超声波传感器、雷达和激光雷达(激光测距)。在加州,申请自动车测试牌照要向机动车管理局提供碰撞前30秒的所有传感器数据,工程师可以凭着这些数据精确重现碰撞事故场景。利用汽车的传感器记录,就能推知它决策背后的逻辑。

所有驾驶都会涉及风险问题,但这些风险如何在司机、行人、骑自行车者之间分配,甚至风险的性质都有着道德的成分。无论对工程师还是对一般公众来说,最重要的是自动驾驶汽车的决策系统,它决定了汽车行为中所含的道德成分。

自动驾驶车辆面临的更大挑战是,它们必须在信息不完全、程序员常常考虑不到的情况下,利用编码在软件中死板的道德条规,迅速做出决定。

本稿件所含文字、图片和音视频资料,版权均属齐鲁晚报所有,任何媒体或个人未经授权不得转载,违者将依法追究 责任。



  • 上一条:当心装修后患急性肾损伤

  • 下一条: 没有了