微博
微信
这件血案发生在20天前，美国达拉斯警方出动MARCbot型号机器人，通过摄像头靠近的方式，在嫌疑人附近引爆炸弹，炸死枪杀警察的嫌犯。
有人认为这是对机器人的滥用，有人更深层地考虑到人类可能被机器人毁灭的未来——
“当被命令时，机器人能毫不犹豫地杀人”，它们会不会被发展成嗜血的杀人工具？
“有了自主意识的机器人，不被命令时，会不会心起杀机？”当人工智能变得不受控，整个人类会不会被取而代之？
面对越走越近的“人工智能”，如何有节制地应用，如何把未来走向握在人类手里？我们不妨在几位未来学家的预测情境下，回归案件现场，以他们的视角重新推演事件，可能从中看出些端倪。
三大法则版 一言不合算到懵圈
创立者：
预言作家艾萨克·阿西莫夫，1920年出生，他提出的“机器人学三大法则”对机器人学影响重大，他预言了今天的生物科技，预言了互联网时代的数字图书馆。
预测情境：
在《我，机器人》一书中，艾萨克·阿西莫夫预设了机器人学三大法则——
一、机器人不得伤害人类，或因不作为使人类受到伤害。
二、除非违背第一法则，机器人必须服从人类的命令。
三、在不违背第一及第二法则的情况下，机器人必须保护自己。
三大法则在整个机器人世界中堪称“铁律”。
这一铁律得以实现的核心元件被称为“正子脑”。三大法则被写进正子脑的最底层程序中，除毁坏外完全不可更改。
“正子脑”是铂铱合金的海绵状球体，体积与人脑相当，用来赋予机器人生命和心智。脑中电位的高低决定机器人的行动，第一法则电位高于一切，第二法则电位高于第三法则电位，机器人即使生命危急也会服从命令，但当命令不明确，机器人又意识到危险时，第三法则产生的电位就令他回头。
阿西莫夫在《转圈圈》的故事中，讲述了一个机器人在人类命令和自身危险中懵圈的故事。“他”被派去采矿，由于是随口命令，电位微弱，当发现矿池附近有腐蚀物会危及自身生命时，“他”根据第三法则后退，退到一定距离后，又根据命令前进，陷入了一直转圈的死结中。为了救“他”出来，“他”的主人把自己放在快要烤焦的位置，才用“救人”的第一法则，打破了二三法则的电位平衡，解开这个结。
案件重演：
在这个剧情中，机器人认为人命高于一切，那么美国机器人引爆炸弹的案件推演应该是这样的——
“机·1号，带上炸弹炸了他！”头儿命令道。
“呃，如果是杀人的命令，我只能说不。”机·1号答。
“带上炸弹平了他十米外的遮蔽物！”头儿改口道。
“噢，十米是危及生命的危险距离。”机·1号依然不动。
“……带上这个，接近他。”头儿的眉头拧成“山”字，右手丢给机·1号一个遥控炸弹，左手把遥控器藏在背后，拇指抚住触发键。
“嗯……”此时机·1号脑中的电位翻江倒海，循环往复，评估到懵圈……（此处省略几十亿次的正子脑计算）
自我意识版 你可曾看到我眼角的泪
创立者：
未来学家雷·库兹韦尔，1948年出生，他在1990年对2009年做了147项语言，86%得到证实。他认为，2029年，机器人智能将能够与人类匹敌，2045年，大脑新皮层可以与云端的人造新皮层无线相连，人的智能就是人工智能，还比现今增强10亿倍。
预测情境：
将人类的思维注射到机器中去，或者让机器获得与人类相同的心智，在诸多科幻电影中都有体现。从机器猫到《机器人总动员》里的瓦力，从有自我意识的《超能查派》到想变成人、想被爱的《AI》，这些形象都在与人的无限接近中闪光。
雷·库兹韦尔的答案是，这完全可以实现。他的方法是制造一个人脑。“只要有真实大脑的详细数据，我们就能模拟出生物学意义上的大脑。”
他和团队对大脑的结构、运转进行了细致入微的分析——大脑新皮质分6层，包含300亿个神经元，它们又组成了3亿个模式识别器，每秒钟有1万万亿个电信号在其间传递。
“我们已经能模拟包含160万个视觉神经元的人脑视觉新皮质，预计2023年可模拟完整的人类大脑。”在《人工智能的未来》一书中，雷·库兹韦尔谈到目前的进展。
通过制造、模拟和运行，非生物系统有了人的智力和情感，而人有了非生物系统的可复制、存储、上传、重建的能力。
案件重演：
这个版本中，机器人警察和警察毫无二致，且具备高智能，案件现场将是这样——
“壹仔，带上炸弹炸了他！”头儿下达命令。
“同归于尽不是最好的方法，悬空秒狙怎么样？”壹仔建议。
“去吧。”遂见壹仔腾空近十米，翻转360度，在最高点顿停，掏枪，瞄准，射击，一气呵成。
对他来说，杀人太简单，只是他也许会眼角飙泪，和人类一样对死亡无限伤感。
杀人机器版 生而为斯，死有何憾
代表人物：
斯坦福大学历史学和古典文学教授伊恩·莫里斯，他通过战争史试图回答“战争哪里好”的问题，并认为战争对人类社会有着长期的“建设性”，在他眼中，人们总会研制并使用新武器，否则，就被敌人占了先。
预测情境：
未来战场，就是机器的战场。
“因为我们别无选择，”伊恩·莫里斯在《战争》一书中说，杀手机器人是必需的，因为“军事的OODA（观察、调整、决策、行动）步骤到时纳秒便可完成，当极超音速战机互相较量时，机器人无疑会击败反应速度在毫秒级的人类。
对于武器而言，人是迟钝、近视、笨拙的，美国陆军中校托马斯·亚当斯说，“现在的武器太快、太小、太多，超越了人类能指挥的范畴。”
由于联合国要求禁止研制和使用“致命自动化机器人”，在多本专业教材中，机器人武器的假想敌是“洞库”，但从未明确，“洞库”中是否有人。
这是最接近现实的版本，包括物理学家霍金在内的全球1000多位科学家和机器人专家去年发表公开信，警告称致命性全自动化武器数年内就能实现。各国在机器人武器的研制上不遗余力，美英联合研制的反直升机地雷，可以判断敌友，随后弹起百米左右击毁直升机……
案件重演：
既然有了武器的基因，那案件推演应该是这样的——
“Bot1号，去轰了那个可恶的狙点。”
“是，长官！”
是的，情节就这么简单，顶多在机器人走向杀戮时，它会想，“就这么完结一生，可太亏了，没轮上打个大战役，倒在小阴沟里翻了船，希望爆炸之后，我不会太碎，还能拼得上……”（记者 张佳星）
版权声明：凡本网注明"来源：半月谈网"的所有作品，均为半月谈网合法拥有版权或有权使用的作品，任何报刊、网站等媒体或个人未经本网书面授权不得转载、 链接、转帖或以其他方式复制发布。违者本网将依法追究法律责任。如需授权，点击 获取授权
