点蓝字关注我们

前一阵，俄罗斯一个逃跑的机器人上了头条。

据说当时是因为实验室的大门忘了锁……

于是它溜出门，跑到大街上……

结果没电了，停在马路中央，造成了交通堵塞……

最后被领回家了……

据说开发者的设计使它能绕开障碍物自由行走（avoid obstacle），但没想到它会用这项技能逃跑……

这是当时的情况：

然而没过几天，这个有着自由灵魂的机器人，不屈不挠地，又逃跑了……又上了头条……

↑俄罗斯的人工智能机器人又逃跑了……

但这一次它面临的惩罚有点严重，《每日邮报》报道说，

Engineers are considering recycling the robot due to its wanderlust.
因为它这个酷爱旅行的癖好，工程师们现在考虑要把它回收改造了。

这个叫“Promobot IR77”的机器人，是一款promobot（宣传机器人），简单说就是和客户交流，宣传产品，顺便卖萌的……

它具有语音识别功能（ speech recognition），能回答问题，说一些提前录好的句子（prerecorded audio messages），它的“电子脸”（electronic face）能变化各种表情，胸前的大屏幕还能提供信息。

而且它还有记忆和学习功能，可以记住遇到的每个人。

但这批聪明的机器人中，貌似只有IR77最特立独行，重新编程了两次还是一心想逃跑……《镜报》报道说：

The Promobot IR77 has been fitted with artificial intelligence meaning that it learns from its experiences and its surroundings, although the programmers had not expected it to yearn for freedom.
Promobot IR77具备人工智能，能从经验和环境中自我学习，但编程者没想到它居然会渴望自由。

They say that despite reprogramming it twice, the robot continues to attempt to escape and they are now considering scrapping it.
他们说虽然给它重新编程了两次，但这只机器人还是想逃跑。现在他们考虑要把它拆毁了。

The other robots which have been created from the same series are well-behaved, and have not been escaping, say the team.
据说同系列的其他机器人都很乖，没有要逃跑的迹象。

机器人为什么想逃呢，有网友放出这个片子，看了你就明白了……悲惨得简直要哭粗来……

好吧，这其实是Boston Dynamics公司对机器人平衡能力的展示……

但画面实在太虐了，网友都看不下去了，于是剪了上面的宣传片（恶搞片），呼吁大家停止虐待（end the abuse），机器人也是人（Robot lives matter）……

讲真，如果将来机器人强大了，反抗压迫，要求平权，上面这些画面都是它们控告人类的关键证据呢……

话说回来，近年来，人类对于人工智能（AI，artificial intelligence）的戒备心也越来越强。

不久前，欧盟议会（European Parliament）就发布了一份报告草案，警告人们机器人在就业、社会安全、人类尊严等方面存在的潜在威胁。

草案中写道：

“There is a possibility that within the space of a few decades AI could surpass human intellectual capacity in a manner which, if not prepared for, could pose a challenge to humanity’s capacity to control its own creation and, consequently, perhaps also to its capacity to be in charge of its own destiny and to ensure the survival of the species.”
很有可能在几十年内，人工智能就能超越人类的智力所及，如果不提前应对，人类控制自己的创造物的能力，以及掌控自己命运的能力和确保人类生存下去的能力，都将受到挑战。

有没有一种科幻恐怖片的即视感……

所以机器人具体会怎样威胁人类呢……

Buzzfeed的逗比作者给我们总结了一遍：

首先，机器人会把人类的家务活都抢着干了……

First, the robots will take your chores

机器人革命的第一步对人类还是很有好处的……比如这个叫Roomba的扫地机器人。

它的技能是，主动给你的房子吸尘打扫（ autonomously vacuuming your house），避开障碍物，还能记得它打扫过哪些地方，甚至知道干完活给自己充电。

再高级一点的，像Boston Dynamics公司新推出的机器狗Mini Spot，贤惠能干，井井有条。

还能接受调戏……

据说，这只机器狗全身布满了传感器（sensors），从而对周围环境有相当敏感和准确的感知。这样你就不用担心它在做家务的时候碰坏了你心爱的家具。

看看视频，保证萌翻你……

当然也有干活不太靠谱的机器人……

接着，他们就要抢走你的工作了……

Next, they’ll take your job

这是目前人类面临的最直接的威胁。

以前一个工厂需要上千工人，现在可能只要几十个了。

很多超市都减少收银员（checkout operators），替换成自动结账机器了（robotic self-checkouts）。

美国一些酒店开始用机器人来派送客房服务（deliver room service）。

最可怕的是，一些复杂的工作它们也能做了……比如记者：

Even journalists may be at risk, as numerous outlets deploy increasingly sophisticated AI reporters to write straightforward financial stories.
甚至连记者的饭碗也受到威胁，有些媒体机构已经开始用高端人工智能记者来写一些简单直白的金融报道。

如果不信，可以看看《金融时报》（Financial Times）提供的两段文字，你能猜出哪段是人写的，哪段是机器人写的吗？

A: Wage growth — the missing piece in the UK’s job market recovery — remained sluggish. Total average earnings growth fell from 2.1 per cent to 1.8 per cent, although this partly reflected volatile bonuses. Regular wage growth — which strips out that factor — held steady at 2.2 per cent. This is roughly half the speed that was typical before the recession.

B: A key challenge for the UK economy for the last several quarters has been poor wage growth driven in part by an influx of cheap labour, which has also clouded productivity measurement. On a unit basis, workers are essentially working more to produce less. Broadly speaking, the UK economy continues to be on an upward trend and while it has yet to return to prerecession, goldilocks years it is undoubtedly in better shape.

答案： A = 人 ; B = 机器人

另外，还有一个问题，人类工作是要交税的，而机器人不交税，所以，将来我们不但会没了工作，还可能失去一些安全保障，比如福利、养老金等……

然后，他们会夺走你的爱人……

Then they’ll take your lover

看过前两年大热的一部科幻片《她》（Her）吧？讲述的就是在不远的未来人与人工智能相爱的科幻爱情故事。感人且发人深思！

这部电影展现的就是这样一种设想：

If you imagine a robot with sophisticated AI who could also simulate conversation, companionship and affection – perhaps tailored exactly to what you uniquely would look for in a partner – it’s not difficult to imagine robots starting to replace real, flawed humans as objects of affection.
如果一个具有高级人工智能的机器人能够模仿人类的对话、陪伴和感情，而且能量身定制成你最渴望的伴侣形象，这就不难想象，机器人将会代替真实、但有缺点的人类，成为你感情的投射对象。

不过可以想象，完美的机器人爱人，对于人类的繁衍生息不会带来多大好处……

最后，他们（可能）会夺走你的性命

Finally, they’ll take your life (maybe)

好吧，机器人抢我们的饭碗和爱人，但不一定会成为人类死敌。

真要出现这种情形，那应该是电脑发明出一种超越人类的具有“一般流体智力”（general or fluid intelligence beyond our own）的机器人，然后偶然地，或有意地，使其对抗人类。

现在几乎所有的人工智能都只是具备某一方面的专长，只能在特定的环境下，遵守特定的规则运行（highly specialised forms of intelligence only useful within fixed worlds with fixed rules）。

今年3月，战胜了韩国围棋名将李世石的阿尔法狗（AlphaGo），就是这样的人工智能。

这方面的发展是比较缓慢的，且耗资巨大。

但一种流行理论是，如果我们一旦到达某一临界点，事情就会步入极速发展的状态。这个理论叫做奇点（singularity）。其逻辑大致是这样的：

1. An intelligent entity (humanity, arguably) manages to create an AI with general intelligence greater than our own.
一个智能体（或有可能是人类）创造出一个超越人类的具有一般智力的AI。

2. That AI, by accident or design, turns its focus on also creating an intelligence greater than itself.
这个AI，偶然或有意地，聚焦于创造比自己更厉害的智能体。

3.Logically, if humanity can create something more intelligent than itself, that entity will be able to do the same – and possibly quicker and better.
逻辑上来说，如果人类能创造比自己更智能的物体，那个AI也能做到，而且更快更好。

4. The new, even better AI, then repeats the task, as does its successor, as does its successor, and so on.
新的更高级的AI，以及其后的AI，一代代重复这一工作。

5. Very quickly, we now have an AI with an intelligence far greater than our own.
很快，我们就有一种远远超越人类智能的AI。

如果这个理论成为现实的话，那么人类最后的希望，就是编出一套复杂的程序和命令来约束机器人的行为。

最著名的管理人工智能的准则，来自科幻小说家Isaac Asimov在1940年代写的小说。他的一生一直在修改这些法则。

下面就是著名的机器人三大法则，以及Asimov后来加上的第四条（rule 0）：

(1) A robot may not injure a human being or, through inaction, allow a human being to come to harm.
第一法则：机器人不得伤害人类，或坐视人类受到伤害；

(2) A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
第二法则：除非违背第一法则，机器人必须服从人类的命令；

(3) A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws
第三法则：在不违背第一及第二法则的情况下，机器人必须保护自己；

and (0) A robot may not harm humanity, or, by inaction, allow humanity to come to harm.
第零法则：机器人不得伤害人性，或坐视人性被伤害。

看起来很完美吧，但事实不会如此简单。

比如，如果机器人的创造者在定义“human”的时候，排除了某一种族的人类，那机器人就有可能变成种族灭绝的工具。

关于机器人伦理（AI ethics）的问题，专家们还在辩论和研究，不过就算机器人具备了伦理道德，结局似乎也不太乐观呢……

漫画家Zach Weinersmith就画了下面这个图表……