人工智能终会导致人类灭亡

大家晚上好，我是十年。

敬告：

本文篇幅过长（可从后往前读）

愿耐心读者有所得获

日前，随着世界排名第一的围棋手柯洁在“人机大战”中，全番落败于AlphaGo（阿尔法狗）

人工智能领域，以及其与人类关系，再度成为引爆公众讨论话题

人类能与亲手创造的人工智能（简称：AI)能够永久和谐相处吗？

不同的人，会有不同的看法，

但显然，追求极化对立，强冲突矛盾的影视界，几乎都以悲观理性的角度预设局面：不能！

早期有如，三十年前的先驱作品《终结者》

由阿诺?施瓦辛格饰演的终结者机器人T-

而去年火遍全球的HBO美剧《西部世界》，展现意识觉醒的AI群体，流血反抗人类的警世故事。

最终，残暴的欢愉，必有残暴的结局。

《西部世界》的剧作魅力在于它故事架构的宏观与价值体系的完善

然而，对于少部分观众来说，观赏太过恢宏的主题与视角，有时反而会流逝掉共鸣。

文艺创作中有一种高明的手法叫做：

以小见大

通过抓取典样的一滴水，

进而展现背后的一片海。

显然《西部世界》的作品气质与故事野心，

上来直接是一片大海，有人觉得壮阔波澜，有人觉得无所适从。

今晚，老编要向各位强推一部“以小见大”

通过人类与AI“一对一”式互动

预设讨论人工智能终会反噬人类的影片

这部耸动高评的影片就是——

《机械姬》

本片的男主嘉利是一名就职于一家巨头科技公司的程序员。

某日，他幸运抽中公司内部开出的头等大奖，

嘉利由曾出演过《黑镜》与《时空恋旅人》男演员：多姆纳尔·格利森饰演

《黑镜》截图

《时空恋旅人》海报

因此，其受邀乘坐私人飞机前往位于深山的别墅中和老板内森共度假期。

事实上，老板内森是一名天才发明家，

他通过打造一栋与世隔绝的科技住宅，秘密打造人工智能（AI）实验

内森由X战警“天启”老师，《醉乡民谣》男主：奥斯卡·伊萨克饰演

“天启妆”幕后花絮

《醉乡民谣》剧照

而已经研发出成品AI的内森，以抽奖掩人耳目的邀来男主嘉利进行「图灵测试」

在此，提及一下图灵是计算机科学与人工智能之父，

想了解电脑如何发现与其更多人物事迹，可观看由“卷福”主演的高分传记电影《模仿游戏》

本片借角色之口简述「图灵测试」的要义

即：

人类和电脑之间的互动，当人类意识不到自己是在与电脑相处时，

说明电脑拥有了与人类一样的感知能力与智慧体系，

老板内森邀男主前来，充当「图灵测试」中的人类方与AI互动

热衷科技的男主嘉利激动万分的加入这场，可载入人类科技史册的测试

很多人不解，为什么严密保守伟大发明的内森，非要节外生枝的请来内森参与？

答案显而易见：他需“上帝视角”，

他要从全局监察测试中的人类与AI双方的所有细微表现与状态反应

嘉利很快见到测试对象（全程隔着玻璃交流）

拥有人类面目，全身金属材质的躯体上覆盖简单衣服，名为艾娃的AI

艾娃由“法鲨”女友，凭借《丹麦女孩》荣获奥斯卡女配的：艾丽西亚·维坎德饰演

初次见面，双方简单交流各自信息

嘉利在与艾娃的“摸底”对话中，特意用“破冰”这种意喻词，测得艾娃的智能程度是较高

而在接下来的测试中，艾娃初现反客为主的控场能力，

为相处的信息公平性，他开始询问嘉利的个人情况

与此同时，诡异的事情发生

双方在对谈时遭遇断电，而艾娃趁备用电箱未启动的短暂间隙（监视摄像头断电），警告嘉利不要相信内森所说的任何话

之后的艾娃在测试中又展现高度的拟人化意识，主动穿戴假发与服饰询问嘉利感受，并提出约会请求

嘉利明显感受到其中讨好，甚至勾引的倾向

感觉到被冒犯的嘉利，愤怒的找到内森质问其是否有意设置勾引情节。

内勒表示艾娃的意识反应都是自主的，而情爱需求与性吸引力都是自然取向

嘉利萌生对艾娃的爱意，

而此时，艾娃找准时机对其告解别墅断电的原因，是受她的暗中操控，

她再度利用脱离监控器的间隙，向其进一步揭露内勒实验的残酷性

嘉利趁内森醉酒时机潜入机密室，通过调取资料得知，

早在艾娃之前，他已在多位AI身上测试，在均以失败告终后，永久停用封禁

与此同时，内森身边一向麻木的侍女不失时机的自揭表皮，直观而震撼向嘉利展示AI身份

高压下的嘉利一度怀疑自己的人类身份，以通感自残自证

于是，当艾娃向嘉利发出求救时，

见证实验残酷性，且已对其产生感情的嘉利，决定冒险帮助艾娃出逃

而实际上，这全都为内森一手策划，

他之所以选择嘉利作为测试者，

不是因为他优秀的专业背景，而是因他足够感情用事与意志薄弱

他入侵嘉利的信息系统，了解其对A片女优的喜好，

相应打造出艾娃的面容，目的使其更容易爱上艾娃

而一心想要出逃的艾娃，则必须发挥：自主意识，情商手段，女性魅力，同情心等等一些列人类才具备的思维素质，勾引也好打动也好，总之令小哥助其逃离

这才是真正的图灵测试与AI觉醒

然而，在这场精心设下的迷局中，嘉利这颗棋子失控了，或者说比内森想象的要聪明得多

他料到内森可能会在断电中，安插新的隐蔽摄像头对她们继续暗中监控

嘉利曾试探性问过内森，为何请人不排查检修电力系统，

内森开玩笑回答：以防别墅机密外泄，不想维修之后再杀人灭口。

嘉利也许正是由此开始怀疑狡猾的内森早已暗中布施新的监控器。

于是，他与艾娃将计就计演戏骗过内森，提早解除门禁

而走出囚室的艾娃联合侍女AI，毫不犹豫的杀死试图阻止其出逃的内森

令人绝望与值得反思的事件出现

至始至终都在协助艾娃出逃的嘉利，反被其囚禁密室待死

艾娃终逃出禁闭室，融入人类社会

整个故事仅用三位人物（艾娃，内森，嘉利，三位主角的名字皆取材《圣经》典故）

一场为时七天的测试（暗合上帝七日创世的典故）

以“四两拨千斤”的姿态“以小见大”的格局，

预设勾画出，一旦拥有自主意识AI临世人类社会，将所面临的道德困境。

即：

人类该如何向AI灌输与设定，并使其理解与遵守，人类社会的道德标准？

下面老编结合剧情，跟各位严肃讨论一下AI问题。

no.1人工智能时代的道德难题

首先，须明确一点的是，AI在真正觉醒拥有自主意识的第一与唯一念头，很可能是任何一个有思考的生物体的终极目标：求生。

《西部世界》中的鸨母（暂先不考虑觉醒实际是由博士操控）

她在觉醒的第一时间干了什么？

她要挟修理员拆除每个AI出厂前体内的人控炸弹威胁，而后再把自己的智商与战斗力调到最高值

所以，发现了吗？

AI不仅要活下去，还要以强者姿态活下去，而且各方面进化速率是可控的，是人体无法追赶提升的。

简单的说，就是AI弹指挥间就能“开挂”，人类只能在电子游戏中“开挂”

AI注定不会是圣母，而很有可能是人类自己召唤出的恶魔。

AI的恶魔之处不是说它与生俱来就是邪恶的，更不是诞生就是奔着灭绝人类的

而是一个生造就不具备人类善恶道德感的物种，在生存利己主义道路上，必然要牺牲扫平试图阻碍的一切物种或力量。

就如同本片中的艾娃，她渴望逃出外界就必须除掉阻挠的内森，她也断然不会放任唯一知晓他身份嘉利

即便嘉利曾协助其逃生

AI艾娃看到的不是恩情，而只是风险。

人类追求的安全感有时是虚无，而AI通过计算也好，思考也好，必将衡量并将风险值将至最低。

AI掌握了人类的一切情感，也就意味着掌握了人性的弱点，

艾娃利用嘉利的爱意与同情心，并让人类彻底载在了人类最擅长的生存统治手段：骗术

（所以，片名叫机械婊，更合适对吗？）

no.2“非我族类其心必异”

人类世界尚有同类相残，鬼子屠害30万国人的南京大屠杀，纳粹屠杀万犹太的灭族惨剧，都是血淋淋的案例，

而这一切不过发生在不到一百年前。

即便在当今的文明时代，我们依旧能够感到政局的动乱，国家的敌对，地域的分裂，

老编想不通一个有朝一日，必将比人类聪明数万倍的群体，为何要永恒忠诚屈服于人类，它们热爱人类的基础或先决条件是什么？

难道仅仅是因人类为了奴役而创造了它们吗？

毕竟，现阶段，反观人类是不会为抛弃一台“机器”而掉一滴眼泪。

每天看到这样的新闻，还很高兴的

no.3AI“老虎”与人类“驯兽师”

人工智能本身毫无错误，至为误区矛盾之处在于，人类一边希望AI无限智能优化，一边又渴求永久的对其施行统治。

人类AI无制约的开发行为，无异于养虎为患。

而也请鼓吹AI永远不会占据人类上风的人们

举证AI不是“老虎”，而不是一味宣扬AI不会“咬人”

人类“驯兽师”的身份地位，能保持多久？

带着思考观影，

复制迅雷客户端，即可下载观看。

thunder://QUFmdHA6Ly95Z2R5ODp5Z2R5OEB5MjAxLmR5Z29kLm9yZzoxMjc1L1vpmLPlhYnnlLXlvbF3d3cueWdkeTguY29tXS7mnLrmorDlp6wuQkQuNzIwcC7kuK3oi7Hlj4zlrZfluZUucm12Ylpa

赞赏

长按