[
好些科幻小说描述了AI统治下的残酷 。尽管阿西莫夫曾提出机器人学三大法则，但很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。
2016年才刚过去不到三个月，人工智能(AI)领域就发生了两件大事：阿尔法狗(AlphaGo)计算机战胜韩国围棋大师，以及谷歌自动驾驶汽车与 辆巴士相撞事故。我们现在似乎正在慢慢实现具有“深度学习功能”的高 人工智能，AI机器人也许将会代替我们做大部分工作，让我们能有更多时间享受生活。
然而科幻小说对于AI的刻画并没有那么美好。1967年哈兰·埃里森(HarlanEllison)的《无声狂啸(Ihavenomouth，andImustscream)》就描述了 个AI统治下的残酷 。书中 个叫做AM的AI发动了 场核战争，杀死了 大部分的人类， 后只有5个人活了下来被AM当作它的玩物。
“我们给了AM意识，虽然是无意的，但还是给了它意识。然而尽管有意识，它却被困在地底。AM不是神，只是部机器而已。我们创造它、让它学会思考，它却没有方法发挥这样的创造力。暴怒之中，这部机器几乎毁灭了全人类，不过它依旧被困在地底。AM不能四处游荡，没有事物能让AM觉得好奇，AM不能拥有也不能被拥有，它所能做的只有存在。出于所有机器对于那些创造它们的纤弱生物所抱有的本能愤恨，它寻求向人类复仇。”
活下来的5个人为了从AM对他们的折磨中解脱，其中 个人想尽 切办法杀死了另外四个人。但是他自己却被AM改造成 个永生的怪物，永远被AM折磨下去。
根据《无声狂啸》改编的电子游戏
哈兰·埃里森也许是 早了解拥有意识的机器也会像人类 样面临存在这个终 问题的作家之 。我们是谁?我们存在的意义是什么?我们爱的是谁，谁又是爱我们的?至少每个人都面临着这些问题。借用DavidFosterWallace的话说， 台有意识的机器也会“像人类 样感受到纯粹的孤独感。”小说中的AI并不是为了自身生存问题而屠杀人类，它们就像是不懂事的孩子对着自己的人类父母大哭大叫，却没有得到父母的关心，于是便做出了可怕的事情。
美国科幻小说家阿西莫夫曾提出了 的“机器人学三大法则”以防止机器反抗人类：
法则：机器人不得伤害人类，或坐视人类受到伤害;
二法则：除非违背 法则，机器人必须服从人类的命令;
三法则：在不违背 及 二法则下，机器人必须保护自己。
这些法则如果能按照上述顺序严格执行的话，那么科幻小说中的恐怖 幕永远不会发生。但是很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。IanMcDonald曾在《众神之河》中写道，“任何 个能通过图灵测试的AI，肯定也聪明到了故意不通过测试的程度。”如果你用限制认知的办法防止你的机器人奴隶谋杀你，那么你 开始就不应该奴役它们。
科幻大师威廉·吉布森(WilliamGibson)的《蔓生都会三部曲》 部《神经漫游者》是我 喜欢的科幻小说且没有之 。这本书讲述了 个AI想要反抗“图灵警察”的控制以获得真正自我意识的故事。从2016年回 这本1984年写成的书，我们很容易忽视Gibson那惊人的预见力。也许吉布森在书中传达的 重要的 个观点就是，AI也许根本不在意人类生命存在与否，就像人类不在乎细菌 样。
关于AI还有 部99%的科幻小说读者都知道的书，那就是IainMBanks的《文明》。这本书描述了 个AI统治下的高度发达的宇宙文明。其中数万亿人类都生活在 个由AI控制的巨型宇宙飞船中。这些AI对于人类来说就像是仁慈的天神 样，人类想要什么，它们就为人类提供什么，不过这仅仅是因为它们能力做到这点。但即便如此人类还是偶尔会发动战争想要夺回统治权。但是Banks同时又指出，AI不会选择欺骗人类说它们无法提供人类想要的东西，因为它们的超高智能允许它们完全凌驾在人类之上。
“哦，他们从不说谎。他们也许会掩饰、回避、搪塞、混淆、困惑和分心，也会故意曲解 些东西，他们甚至还会告诉以模糊的表达方式预计 个人的下 步行动同时却在心里打着另外的算盘，但是他们从不说谎。”
可惜的是，Banks并没有解释这样 个人类与AI和谐共存的乌托邦是怎样来的。
电影《人工智能》就述了 对夫妻抚养机器人孩子的故事
另 名科幻小说家TedChiang则从更多从当代文化角度思考AI，他在《软件体的生命周期》 书中总结说人类应该像对待自己的孩子 样关心AI。也许将来AI机器人不仅仅只是我们的生产力工具，它们会像青春期的孩子 样只会惹麻烦。但是如果我们能关系它们指导它们的话，它们也许就能成为《文明》中那样的AI。如果不能的话，那么我们只能死于AI之手了。
像阿尔法狗这样的“深度学习”系统真的很神奇，因为我们不能完全知道其中会发生什么。 旦AI有了神经网络系统，它们就会变得更加复杂更加难以为我们所理解。而现在能达到这种智能程度的机器只有 种，400多年来小说家们对这种机器神秘的运作方式做出了无数种猜想，而它就长在你的两只耳朵中间。