在众多可怕的可能性中，最先映入人们眼帘的是未经授权的机器人技术或完全被滥用的机器人技术。一长串的电影讲述了我们所恐惧的事情：机器人和人工智能系统被黑客入侵，随后被用于统治世界或其他领域。举几部典型的此类影片：1968年的《2001太空漫游》，讲述的是一艘宇宙飞船的人工智能系统哈尔对抗队员的情节；1983年的《战争游戏》（WarGames），讲的是一个年轻的游戏黑客侵入军用网络，从而几乎引发了第三次世界大战；1995年的《网络惊魂》（The Net），当剧中桑德拉·布洛克（Sandra Bullock）所扮演的角色发现了一个非法途径，可以入侵一个突破性的安全系统时，她的电子身份就被消除了；1999年的《黑客帝国》（The Matrix），讲的是一群神秘的反叛分子给尼奥（Neo）展示了一个“后门”——可以进入一个现代生活方式的程序，以对抗掌控该系统的病毒；《终结者》电影系列，讲的是一个被称为“天网”的人工智能计算机系统获得了自我意识，认识到了自己的能力，并对它的人类创造者产生了威胁。鉴于过去的历史事件和目前定期发生的暴行，如果我们否认电影中的这些场景有可能发生的话，我们就太容易上当受骗了。机器人和人工智能，尤其是人工智能，都是强大的工具，它们有潜力使无数人的生活变得更美好，但它们也容易被不法之徒利用，而这些不法之徒都怀有邪恶的目的，一心要制造混乱，操控大众。
这种想法的基础是什么？我们只需看一看世界历史就会发现，像尼禄、玛丽一世和希特勒（以及其他许多人）这样的统治者，为了实现他们的目标，故意谋杀、迫害了数百万人。当然，他们也使用了他们那个时代所能使用的一切手段来实现他们的目标。对于个人、团体或政府来说，非法使用机器人技术来对付那些阻碍他们的人会有多大的吸引力呢？这显然是当今世界领导人正在讨论的一个问题。2017年9月1日是俄罗斯的学校刚开学的日子，普京在这一天发表了一次演讲，他对学生们说：“人工智能不仅是俄罗斯的未来，也是全人类的未来。人工智能带来了巨大的机遇，也带来了难以预测的威胁。谁能成为这一领域的领袖，谁就将成为世界的统治者。”
还有一些不太具有世俗影响力的人，他们的愿望就是入侵计算机系统来获取某种形式的个人利益，伤害他人，或者只是想看看自己能否入侵成功。越来越多的专家表达了他们的担忧，并警告机器人有可能会被不道德团体滥用。以前面提到的性爱机器人为例，网络安全技术人员尼克·帕特森（Nick Patterson）博士最近声称，一旦未来的性爱机器人获得了更先进的操控能力，比如可以使用胳膊和腿，它们就可以被黑客通过电脑界面入侵，用来实施暗杀或其他犯罪活动。
一些担忧肯定是空穴来风，但另一些担忧可能会引发真正的危机。随着越来越多的系统接入一个日益增长的、容易受到黑客攻击的互联网中心，这一点尤其明显。前瞻性威胁研究团队（Forward-looking Threat Research，简称FTR）与意大利米兰理工大学的研究小组合作，检验了现有的工业机器人抵御网络攻击的能力。他们经过综合分析后发现，工业机器人所使用的大量软件系统已经过时，还有许多软件系统包含公共IP地址，这些都使它们容易受到黑客的攻击。研究人员强调，被黑客攻击的机器可能被用来操纵或破坏生产活动，谋取敲诈勒索的赎金，对人身或财产造成实际伤害，干扰操作行为，或泄露敏感的公司信息，等等。
如今，我们看到了许多滥用先进技术的迹象，也看到了人们对先进技术滥用的可能性产生的恐惧。例如，黑客可能会入侵现代汽车的计算机系统。2013年，黑客克里斯·瓦拉塞克（Chris Valasek）和查理·米勒（Charlie Miller）使用联网的笔记本电脑展示了丰田普锐斯（Toyota Prius）和福特翼虎（Ford Escape）的刹车和转向都可以被黑客攻击和操纵。这两位黑客在2014年拉斯维加斯“黑帽”安全会议上提交了一份详细的文件，这份文件列出了最易受攻击的汽车名单，2014款吉普切诺基（Jeep Cherokee）和英菲尼迪Q50（Infiniti Q50）以及2015款凯迪拉克凯雷德（Cadillac Escalade）位居此名单前列。这份容易被入侵的汽车排名依据三个重要因素：一是无线功能，如Wi-Fi（无线网络）、蓝牙、无钥匙登录和类似系统；二是架构，即车辆系统的连接方式；三是用于刹车、变道、停车等动作的自动化系统。像Wi-Fi、蓝牙、自动刹车和变道（只举几个例子）等电脑控制系统当然会使驾驶体验更加愉悦……但代价是什么呢？正如趋势科技（TrendMicro）的前瞻性威胁研究团队与意大利米兰理工大学、链路层实验室（Linkayer Labs）合作所指出的那样：这种性质的功能越多，车辆就越容易受到黑客攻击。研究人员在他们分析的智能汽车中发现了严重的安全漏洞。该漏洞是在控制器局域网络（CAN）系统中被发现的，该系统包含用于汽车计算机网络之间通信的组件。一旦该系统被攻破，黑客就可以控制或关闭诸如动力转向、防抱死刹车、安全气囊和停车传感器等敏感功能，基本上与控制器局域网络系统相关的任何功能都不会幸免。
黑客和技术人员都认为，计算机系统越先进，系统之间就越互联，也就越容易被入侵。不幸的是，这正是众多机器人技术前沿研究追求的目标。已经有人指出，由于无人驾驶汽车发生了事故，谷歌和特斯拉这样的公司正在寻求更深层次的汽车互联系统。朱利安·阿桑奇最近发布的文件显示，美国中央情报局（CIA）正积极利用这些漏洞，通过人们的安卓设备和苹果设备攻击并监视各行各业的人。维基解密（Wikileaks）在其称为VAULT 7的网站上发布的信息中包含了美国中央情报局在全球使用的黑客代码和应用程序的完整列表。一个名为“哭泣天使”的黑客应用程序可以进入任何一台计算机或智能设备，并慢慢地从设备中提取私人数据并发送给中央情报局，该程序每天24小时不间断运行。
黑客或像希特勒一样的人在国家乃至全球范围内造成的混乱只会变得更加可怕。为了在机器人时代维护自己在世界军事领域的优势，美国军方正在建造自己的天网——类似于前面提到的电影《终结者》中那样的军事网络。军方领导人正在努力实现这样一种愿景，即每一项军事资产都由一个巨大的计算机化的“神经系统”连接在一起，该系统不断连接和共享数据，并随时掌握网络中每一项资产的位置、状况和行动。
当然，除了核心人士之外，其他人并不知道这个天网式的系统已经发展到了什么程度，因为这种信息是高度机密的，并且受到严密保护，但是这个想法正受到一些重点关注。身为投资者、发明家、工程师及亿万富翁的埃隆·马斯克也有同样的想法，只是其研究规模要小得多，他希望通过数据共享网络来连接特斯拉所生产的每辆汽车。显然，马斯克是了解这种程度上的互联所具有的潜力和危险的，因此他加入了一个著名的全球人工智能专家小组，呼吁联合国阻止人工智能在战争机器中的开发、利用。马斯克和其他一些人士担心，围绕杀人机器人展开军备竞赛将导致灾难性后果。马斯克等人在致联合国的公开信上签名，表达了他们的迫切要求：“致命的自动化武器将使武装冲突爆发的规模以比以往任何时候都要大，并以人类无法理解的速度爆发。”我们没有多少时间来采取行动了，潘多拉的盒子一旦被打开，就再也难以关上。
马斯克在推特上进一步阐述了他的担忧：由于人工智能系统具有为获胜而寻求最佳解决方案的分析能力，一个或多个这样的系统可能会通过启动首次攻击而引发第三次世界大战。这位拥有亿万身家的人工智能发明家在2017年9月4日发表了这样的声明：“中国、俄罗斯等国家很快就会拥有强大的计算机科学。在我看来，国家层面的人工智能优势竞争最有可能引发第三次世界大战。”他接着说：“如果人工智能认为先发制人是最有可能取得胜利的途径，那么发起第三次世界大战的可能不是国家领导人，而是人工智能。”
除非联合国或其他一些强大的组织介入，并阻止军事机器人的发展，否则世界上的主要国家似乎正在以与民用部门相同的速度（如果不是更快速度的话）发展这种技术。五角大楼正在向一些公司投资数百万美元，用来开发和最大化机器人的性能，使机器人能够与人类士兵协同工作。安全顾问约翰·巴西特（John Bassett）在政府通信总部（GCHQ）工作了20年，他预测：“大约在2025年的某个时候，美国陆军中的战斗机器人的数量将超过人类士兵。”
机器人非常可能被用来对抗人类，而不是造福人类，这迫切需要我们保持高度警惕，因为机器人在社会的各个方面都发挥着更大的作用。机器人技术是强大的，所以我们必须对其进行严密的监控、警戒和管理，以防止其遭到滥用。历史记载过这么一句话，“能力越大，责任越大”。在2002年版的电影《蜘蛛侠》（Spider Man）中，彼得·帕克（Peter Parker）的叔叔本（Ben）也说过这句话。我们希望世界各国的领导人都能够引以为戒。
Andy Haldane，“Labour’s Share-Speech by Andy Haldane，” Bank of England，last modified November 12，2015，http://bankofengland.co.uk/publications/Pages/speeches/2015/864.aspx.
Z世代是美国及欧洲的流行用语，又被称为网络世代、互联网世代，统指受到互联网、即时通信、智能手机和平板电脑等科技产物影响很大的一代人。——译者注
“Robots，AI Will Replace 7% of US Jobs by 2025，” Forrester，last modified June 22，2016，https://forrester/Robots+AI+Will+Replace+7+Of+US+Jobs+By+2025/-/E-PRE9246.
Kristin Lee，“Artificial Intelligence，Automation，and the Economy，” Obama White House Archives，last modified December 20，2016，https://obamawhitehouse.archives.gov/blog/2016/12/20/artificial-intelligence-automation-and-economy.
Grace Lordan and David Neumark，“People Versus Machines:The Impact of Minimum Wages on Automatable Jobs，” National Bureau of Economic Research，last modified August 2017，http://nber.org/papers/w23667.pdf.
Hayley Peterson，“McDonald’s Shoots Down Fears It is Planning to Replace Cashiers With Kiosks，” Business Insider，last modified August 6，2015，http://businessinsider/whatself-serve-kiosks-at-mcdonalds-mean-for-cashiers-2015-8.
Michael Hiltzik，“Does Andy Puzder Really Want to Replace His Carl’s Jr. Workers with Robots? No，But…，” Los Angeles Times，last modified March 30，2016，http://latimes. com/business/hiltzik/la-fi-hiltzik-puzder-20160322-snap-htmlstory.html.
Shan Li，“Wendy’s Adds Automation to the Fast-food Menu，”Los Angeles Times，last modified February 28，2017，http://latimes/business/la-fi-wendys-kiosk-20170227-story.html.
The Canadian Press，“Ontario Minimum Wage Hike Threatens 50 000 Jobs: Watchdog，” Toronto Sun，last modified September 12，2017，http://torontosun/2017/09/12/ontario-minimumwage-hike-threatens-50000-jobs-watchdog.
“Ontario Minimum Wage Hike Sparks Debate Over Replacing Human Workers With Machines，” CBC News，last modified June 14，2017，http://cbc.ca/news/canada/windsor/ontariominimum-wage-hike-sparks-debate-over-replacing-humanworkers-withmachines-1.4160763.
“Ontario Minimum Wage Hike Sparks Debate Over Replacing Human Workers With Machines，” CBC News，last modified June 14，2017，http://cbc.ca/news/canada/windsor/ontariominimum-wage-hike-sparks-debate-over-replacing-humanworkers-withmachines-1.4160763.
“5 College Degrees That Will Be Extinct in 20 Years，”Womens Article，accessed October 1，2017，http://womensarticle/5-college-degrees-that-may-be-extinct-in-20-years/.
“What is Corporate Personhood?” HRZone，accessed October 31，2017，https://hrzone/hr-glossary/what-is-corporatepersonhood.
Kent Greenfield and Adam Winkler，“The U.S. Supreme Court’s Cultivation of Corporate Personhood，” The Atlantic，last modified June 24，2015，https://theatlantic/politics/archive/2015/06/raisins-hotels-corporate-personhood-supremecourt/396773.
“Court in Argentina Grants Basic Rights to Orangutan，” BBC，last modified December 21，2014，http://bbc/news/world-latin-america-30571577.
旺格努伊河（Whanganui River）是新西兰北岛的主要河流，发源于汤加里罗山，汇入塔斯曼海。2017年3月15日，旺格努伊河成为世界上第一条具有合法生命体的河流。经过170年的努力，这一被新西兰毛利伊威部落赋予神圣而崇高地位的河流被新西兰议会赋予了法定人权。两名分别由毛利部落和新西兰政府任命的人员将出任旺格努伊河的法人代表。——译者注
“Whanganui River the First In the World to be Given Legal Status as a Person，” Newshub，last modified March 15，2017，http://newshub.co.nz/home/newzealand/2017/03/whanganuiriver-the-first-in-the-world-to-be-given-legal-status-as-a-person.html.
“Robots: Legal Affairs Committee Calls for EU-wide Rules，” European Parliament，last modified January 1，2017，http://europarl.europa.eu/news/en/pressroom/20170110IPR57613/robots-legal-affairs-committee-calls-for-eu-wide-rules.
May Bulman，“EU to Vote on Declaring Robots to be ‘Electronic Persons，’”Independent，last modified January 13，2017，http://independent.co.uk/life-style/gadgetsand-tech/robots-eu-vote-electronic-persons-european-union-ai-artificialintelligence-a7527106.html.
“Do Robots Have Rights? The European Parliament Addresses Artificial Intelligence and Robotics，” CMS，last modified April 6，2017，http://cms-lawnow/ealerts/2017/04/dorobots-have-rights-the-european-parliament-addresses-artificialintelligence-and-robotics.
“Saudi Arabia Grants Citizenship to Humanoid Robot，” Russia Today，last modified October 26，2017，https://rt/news/407825-saudi-robot-citizen-sophia.
Kyle Wiggers，“Meet the 400-pound Robots That Will Soon Patrol Parking Lots，Offices，and Malls，” Digital Trends，last modified April 27，2017，https://digitaltrends/cooltech/knightscope-robots-interview.
Hassan Abbas，“Are Drone Strikes Killing Terrorists or Creating Them?” Atlantic，last modified March 31，2013，https://theatlantic/international/archive/2013/03/are-drone-strikeskilling-terrorists-or-creating-them/274499.
“Military Robots，” Robots and Androids，accessed October 1，2017，http://robots-and-androids/military-robots.html.
J. R. Potts，“MULE（Multifunction Utility/Logistics and Equipment） Unmanned Infantry Support Vehicle（UISV），”Military Factory，last modified June 2，2016，https://militaryfactory/armor/detail.asp?armor_id=314.
“Military Robots，” Robots and Androids，accessed October 1，2017，http://robots-and-androids/military-robots.html.
Dave Gershgorn，“Police Used Bomb Disposal Robot To Kill A Dallas Shooting Suspect，” Popular Science，last modified July 8，2016，https://popsci/police-used-bomb-disposal-robotto-kill-dallas-shooting-suspect.
Patrick Tucker，“Armed Ground Robots Could Join the Ukrainian Conflict Next Year，” Defense One，last modified October 10，2017，http://defenseone/technology/2017/10/armedground-robots-could-make-their-combat-debut-ukrainianconflict-next-year/141677.
Emily Feng，“China Agency Targets High-tech Weapons Development，” Financial Times，last modified July 26，2017，https://ft/content/2c9b4370-71c5-11e7-aca6c6bd07df1a3c.
“‘Whoever Leads In AI Will Rule the World’: Putin to Russian Children on Knowledge Day，” Russian Times，last modified September 1，2017，https://rt/news/401731-ai-rule-world-putin.
Jamie Micklethwaite，“Sex Robot ARMIES: Fears Hackers Could Create Killer Cyborgs and Turn Technology on Punters，” Daily Star，last modified September 9，2017，http://dailystar.co.uk/news/latest-news/643302/sex-robots-hackers-killercyborgs-technology-elon-musk-artificial-intelligence-worldwar-3.
“Rogue Robots: Testing the Limits of an Industrial Robot’s Security，” Trend Micro，last modified May 3，2017，https://trendmicro/vinfo/us/security/news/internet-of-things/rogue-robots-testing-industrial-robot-security.
Andy Greenberg，“How Hackable Is Your Car? Consult This Handy Chart，” Wired，last modified August 6，2014，https://wired/2014/08/car-hacking-chart.
Mohit Kumar，“Unpatchable Flaw in Modern Cars Allows Hackers to Disable Safety Features，” Hacker News，last modified August 17，2017，https://thehackernews/2017/08/car-safetyhacking.html.
朱利安·阿桑奇（Julian Assange）是“维基解密”组织的创始人，被称为“黑客罗宾汉”。他认为，公共治理机构的秘密文件和信息的透露对大众来说是件有益的事。9万多份驻阿美军秘密文件的泄密让他足以成为创造历史的人物。——译者注
“Julian Assange Reveals the CIA’s Biggest Secret: The Weeping Angel，” Digital News Network，last modified March 8，2017，http://digitalnewsnetwork/2017/03/08/julian-assangereveals-the-cias-biggest-secret-the-weeping-angel.
Patrick Tucker，“The Future the US Military is Constructing: a Giant，Armed Nervous System，” Defense One，last modified September 26，2017，http://defenseone/technology/2017/09/future-us-military-constructing-giant-armed-nervoussystem/141303.
Mark Austin，“Elon Musk Is Convinced Killer Robots are Coming，and He Has a Plan，” Digital Trends，last modified August 20，2017，https://digitaltrends/cool-tech/bankiller-robots.
“Global Race for AI Will ‘Most Likely Cause’ WWIII as Computers Launch 1st Strike-Musk，” Russia Today，last modified September 4，2017，https://rt/usa/401957ww3-ai-musk-strike.
“Contracts，” U.S. Department of Defense，last modified May 31，2017，https://defense.gov/News/Contracts/Contract-View/Article/1198370.
Jon Lockett，“US Military Will Have More Combat Robots Than Human Soldiers By 2025，” New York Post，last modified June 15，2017，http://nypost/2017/06/15/us-military-will-havemore-combat-robots-than-human-soldiers-by-2025.