人工智能的最新发展改变了我们对未来的看法,从某些角度看,它看起来并不漂亮。我们要面临全歼吗?奴隶制和征服?还是人造的超级智慧可以使我们摆脱自我?
您知道,我记得过去的美好时光,在万圣节那天,您唯一需要担心的就是如何制止一帮糖疯的8岁小伙子向您的房屋扔鸡蛋。不再。这里有5项新兴技术必将给您带来麻烦:
1.量子至上
也许是2019年最大的科技新闻出现在上个月,当时Google宣布“错误地” 咳嗽,他们在200秒内完成了对Sycamore量子芯片的“ 10,000年”计算。如果“至高无上”一词还不够险恶,那么声称这种做法会使传统的加密方法在十年左右的时间里过时的说法应该让您停下来思考一下。
这可能会使传统的加密方法过时
请仔细考虑一下:这就是您的银行帐户,所有密码,生物识别护照信息,社会保险,云存储,是的,甚至您的MTX代币也已开放,可供具有玻色-爱因斯坦冷凝物和超导体知识的任何人使用在他们地下室的实验室。或不。
2.杀手机器人
在我看来,梦想着快速移动的僵尸的人早已不愿言语,但至少可以用简单的shot弹枪“中和”普通的肉食者,或者-如果您真的没有别的东西,那么就好打与钝器。另一方面,《终结者》(无论您喜欢哪个)都是一个机器人,其实际设计摘要在同一句子中包含“杀手”和“不可阻挡”两个词,这使我感到恐惧,这通常是满足《遇见卡戴珊》一集的恐惧。
自主无人机群…通过面部识别检测目标并在…社交媒体资料的基础上视线杀死
我们已经确定,至少有5个国家正在积极发展致命性自主武器(简称LAW)。不过,真正的担忧可能是跨国公司,坦率地说,它们将出售给任何人。在像亚马逊和微软这样的家喻户晓的人物的帮助下,这些可爱的人已经建立了“示范”模型,包括从无人作战飞机系统(阅读为“杀手无人机”)和安全防护机器人(在类固醇上的炮塔)到无人核鱼雷等所有事物。如果这还不够,请尝试自主无人机群 可以通过面部识别来检测目标并在……等待下……“人口统计”或“社交媒体资料”将其杀死。
直到最近,比起任何一种目标导向的动作,您的普通或花园杀手机器人更可能因意外摔倒在您身上而伤害您,但一切都将改变。以波士顿动力公司为例:美国麻省理工学院由DARPA资助,日本人拥有的衍生公司,其人形机器人阿特拉斯(Atlas) 可以跑酷,而跳舞的四足SpotMini 看起来很可爱,直到您想象到它被拴在后面的泰瑟枪追逐着您。
这里最大的问题是“自治”的定义。目前,大多数现实世界中的系统都是以“人在循环中”运行,这意味着,即使它能够处理自己的目标选择,例如,人仍然可以直接控制。但是,“人在回路”系统允许机器在人的“监督”下(无论如何)自主运行。最终,更多的自主权倾向于机器人决定自己杀死人类。有人真的认为这是个好主意吗?
3.大脑抢劫
如果绕过剑桥分析公司参与2016年美国总统大选的狂怒,世界将逐渐意识到AI可以并且正在被用来控制我们的想法。事实证明,它不仅可以提供更多相关的广告,或者可以让内容创建者定位非常特定的人群,甚至可以通过改变我们对自己的看法来起作用。
您可能会很小心,但是Google,Facebook和其他人可能仍然拥有数十亿字节的信息,并且肯定在训练各种事物的算法,以试图预测和影响您的行为。这样看,互联网看起来不像“信息高速公路”,而更像是充满水full的沼泽,充斥着您的个人数据的命脉(万圣节快乐!)。
4.大哥
我不了解您,但我也很害怕Palantir,这是由CIA资助的“ 犯罪前 ”公司,其任务包括追踪移民等。更不用说美国总检察长最近的备忘录,该备忘录主张在犯下任何罪行之前“破坏”所谓的“具有挑战性的人”。叫我偏执狂,但我看过少数报告(Minority Report)(如果我没记错的话)效果不佳……对任何人来说!
该技术还被用于针对“颠覆性”人员和组织。你知道,告密者之类的东西。但是也许还不错。我的意思是,“ 社交与行为改变交流”听起来不错,对吗?他们的视频中有一些有趣的声音音乐和您期望的笨拙的2D动画……实际上没有人……但是他们说他们只是“做得更好”……可能会出什么问题?我的意思是,负责人,他们都只想为我们找到最好的,对吧?他们不会滥用权力来使人们去做他们通常不会做的事情,或者在他们做任何非法的事情之前逮捕他们,对吗?伙计们...?
5.机器中的幽灵
冒着将关于“我们的新硅霸主”的陈词滥调的风险,如果AI席卷全球?
我会简短。
是的,有一种机会,我们可能会被那种无情,精力旺盛的机器人奴役,成为Matrix风格的奴隶。甚至史蒂芬·霍金也这么认为。还有一组所谓的“控制问题”,例如“ 反向实例化”,在这种情况下,如果给定一个听起来不错的目标,例如“最大化人类的幸福感”,那么AI可能会决定以某种非良性的方式来实现它-使每个人都麻痹,也许是将海洛因注入他们的脊椎。我同意这一点令人震惊。
但是,实际上,我们在说什么?首先,“控制问题”的概念是胡说八道:毫无疑问,任何优于我们的智能都不会遵循我们设定的目标,或者比您做狗的事情更愿意被“关闭”告诉你……哦,别急,我们已经做到了。
当然,任何超越我们的智能都不会遵循我们设定的目标
其次,我们真的确定我们的“吃不完”的竞争方法实际上是存在的吗?我们需要互相称心吗?“超级”情报意味着更好吗?小孩吗 更合作?难道机器变得越聪明,我们对它们就越无关紧要吗?对我们来说有点像蚂蚁?我的意思是,我不确定我是否会在路上挡着一壶开水,但是,从统计学上讲,我很可能会避免,对吧?
最后,难道没有人读过霍布斯的《利维坦》吗?如果可以建立一个完美的统治者,我们应该抛弃自私的个性,让自己屈服于……的绝对主权权威。好的,我会停下来。
那么,我们注定要失败还是什么?
是。没有!也许。关于AI的确有很多令人恐惧的事情,但是您知道所有这些共同因素是什么吗?人。我们不知道完全自主的超级智能机器是什么样子,但是我的直觉是它将比我们更好更友善。真正使我的皮肤爬行的是那些正在运行节目的冷酷,精力充沛的机器人。在他们的手中,即使是我们目前所拥有的微不足道的情报草图,也足以给您带来噩梦。
糖果,有人吗?