AGI魔盒，会放出冥王PLUTO仍是阿童木？

liukang20243个月前 (04-29)吃瓜动态234

图片来历@视觉我国

文 | 脑极体

人机共生，是科幻著作永久的主题。其间，《冥王PLUTO》或许是最早讨论人类与机器人如安在抵触中共存的漫画著作。

假如说阿童木是人机共生的“平和使者”，启蒙了几代人对机器人的信赖和酷爱,那么冥王PLUTO便是阿童木的不和，一个心胸仇视的屠戮机器。在《铁臂阿童木》的番外篇《地上最大机器人》中，名叫冥王PLUTO的超级机器人，要应战阿童木在内的全球七大机器人。

这个故事，后来被浦泽直树进一步改编，以更大篇幅和翰墨，描画了人机共存的种种敌对抵触。

最近，冥王PLUTO的故事被奈飞搬上了屏幕，动画《冥王PLUTO》上线即爆款，豆瓣开分9.1，IMDb开分9.3，口碑如潮。

尽管这部动画的主题，是陈词滥调的“人机共生”，但在2023年观看，却别有一番滋味。

这一年，大模型的“智能呈现”展示出了类人等级的推理才能，具身智能让科幻电影中的人机共存加快到来，AGI的完成也不再是遥不行及。

与此一起，大模型和AGI所暴露出的冲击和危险，也逐步浮出水面。有画师们联名敌对AI学习自己的著作，OpenAI政变原因之一便是科学家对“AI失控”的忧虑，而中美AI比赛也掀起了一轮轮博弈。

也别忘了更大的国际，许多区域正在堕入动画《冥王PLUTO》中中东战役相似的烽火阴霾之中。

咱们地点的实际国际，正在不知不觉地跨过奇点。在不远的未来，人机共生会是一幅怎样的画面呢？AI会像冥王PLUTO相同被用来杀人吗？咱们是否做好了预备，去迎候一群“十万马力”的超级智能机器人呢？

无妨带着幼年看阿童木动画片相同的好奇心，和咱们一同开开脑洞吧。

屠戮机器觉悟？又一次“狼来了”

防止剧透，一句话给咱们总结一下动画《冥王PLUTO》的剧情——机器人在国际的中心呼喊爱。

在人类和机器人共同日子的未来，机器人具有了和人相同的爱情和思维才能，可以与人树立夸姣的家庭。而数次古怪的谋杀，掀开了人机共存的躲藏敌对：机器人发生了仇视的心情，所以愤恨地举起了枪……

看到这儿，你是不是觉得这故事好了解？

（《冥王PLUTO》动画截图）

有很多科幻著作都是这样的：悠远的3xxx年，人类社会的科技水平高度开展，人工智能无处不在，某一天机器人像《西部国际》中德洛丽丝那样认识觉悟，发现人类对自己各种欺凌，所以开端反抗和复仇。

机器人认识觉悟，成为人类不行掌控的要挟，几乎是一切“科技鬼故事”的必备设定。不过，冥王PLUTO不过是又一次“狼来了”。

首要，即便完成了AGI强人工智能，智商和认识也不是一码事。在很长一段时间内，智能机器仍然只能经过声响、面部表情、姿势等，模仿人类的情感表达，并不是真的具有情感体会。更何况，咱们间隔强人工智能还有不短的间隔，最近一项针对GPT-4的图灵测验中，得分远不及人类。对“机器认识觉悟”的惊骇，不过是又一场“恐惧谷效应”。

其次，假如的假如，机器人真的发生了认识，就必定会是恶的吗？明显不是。正如阿童木和冥王PLUTO是两个敌对阵营，机器人的行为特征也分“善”和“恶”。凭仗今日咱们对AI技能的了解，以及现在人类和机器人的联系，恐怕机器人并不会感到“被人类要挟”吧，天然也就不太或许成为什么人类杀手或机器人叛变军团之类的。正如《漂泊地球2》《冥王PLUTO》等最新科幻著作中，机器人的要挟大多源于网络缝隙、人类的歹意操作，以及算法为了让人类延续下去计算出来的效果“好意办坏事”。

（《冥王PLUTO》动画截图）

每逢才能异常的智能体面世，比方ChatGPT，关于机器“超智能”的神话就会呈现秀智商，叫卖“机器智能会超越人类智能”“机器会代替人类”之类的观念。明显，这些观念都是站不住脚的，再强壮的机器也不足以打败人类的才智。

只不过，人们总是喜爱信任触目惊心的故事以及幻想中的危险。换个视点想，这种对危险的灵敏天性，或许就刻在人类野外求生的DNA中。所以，从“狼来了”到“屠戮机器觉悟”，这种故事始终会让人乐此不疲，换个主角就能重来。

被掩盖的真问题，高度共生的社会危机

当人们都在热议智能机器觉悟的假象危险，或许把真实的危险掩盖住了，而这些真实的危险，才是人机共生的问题地点。

大模型的到来，正在让机器从主动化体系开展成为高度自主体系。

所谓主动化体系，相似扫地机器人、恒温控制器，只需求在可控的环境下，依据固定的方针，履行设定好的使命。而家政机器人、主动驾驶轿车等具身智能，明显就没这么简略了。它们需求在动态改变的物理环境下，精确及时地检测到障碍物，并实时做出恰当的决议计划和相应的举动，这些高度自治的自主体系，显现出了与人类相似的智能。大模型正在让自主体系的具身智能，变成实际。

听起来很夸姣，但这个人类和自主体系共生的未来，或许存在安全危险：

1.算法黑箱。AI具有“暗常识”，无需凭借理论或数学分析，就可以做出决议计划，在地震猜测、气候猜测等方面做得比人类专家更好。但AI并不是真的理解了背面的科学原理和数学模型，假如要害体系不行靠，在出产环节就难以确保安全。比方规划一架飞机的主动驾驶体系，运用数学模型是白盒的，可以很有掌握契合安全规范，而算法的黑箱性不能确保满足的安全可靠。

2.赋闲问题。主动化程度越高，机器人运用越遍及，赋闲率就越高。不是一切马车夫都能学会开轿车，许多被自主体系代替的作业岗位是不会再回来的，而需求创造力、难以被AI代替的作业，比方编程、艺术创作，只能为少数人供给作业时机。作业结构的变迁，必定会带来赋闲阵痛，一起阻止AI工业的开展。这一年来很多画师对AIGC的敌对和抵抗，便是明证。

3.技能依托。关于大部分人来说，AI使用和机器人的到来，必定会让日子变得愈加舒适。比方主动配送外卖车、酒店服务机器人，就大大削减了人工劳作。ChatGPT协助学生们做作业、写论文。这也意味着，人类会逐步损失某些技能。比方唐诗宋词，未来的孩子或许再也不需求背诵它们了，机器人将东西体贴入微地送到手边，人的日常活动量也随之削减，带来肥壮等危险。跟着算法猜测越来越精准，咱们会逐步依托AI做决议计划，而不是倾听身边普通人的建议和自己的感触与直觉，而决议计划－举动－反应的整个正向机制，也被打断了，让人越来越缺乏自信。人机共存便是“温水煮青蛙”，对技能的过度依托，并非杞人忧天。

4.政治抵触。还有一种潜在要挟，来自各国政府和企业安排的猜疑与博弈。对智能技能的管控现已是一个政治问题了，而智能技能为中心的科技比赛，正在掀起相似暗斗时期的政治博弈。

《纽约客》杂志2023年11月20日出书的一篇文章《Why the Godfather of A.I. Fears What He’s Built》（人工智能教父为何惧怕自己的效果）中，图灵奖得主杰弗里·辛顿（Geoffrey Hinton）直言：“咱们不知道人工智能会变成什么姿态。”但当记者问：“为什么不直接拔掉插头呢？”辛顿答复：“由于不同国家之间的比赛。”而此前，他曾回绝签署一份呼吁暂停研讨人工智能至少6个月的请愿书，并表明：“我国可不会中止研制6个月”。有理由信任，出于政治博弈的考虑，某些政府、企业或科学家，会对人工智能的危险，爽性任其自然。

从人类自治迈向机器自治的人机共生社会，运行机制都要随之改变。或许不会直接导致杀戮等灾祸，但对工作、文明、政治次序的冲击，同样会发生安全危险。

从此时，掀开“潘多拉魔盒”

你或许会问，已然发现了真实的危险，是不是就能提早做出防备，削减人机共生的冲突？

从技能层面和社会层面，这个希望都不太实际。

技能层面，AI不同于人类历史上任何技能危险的。作为一种自主学习、自主进化的算法，AI需求不断咀嚼很多数据，进行杂乱的内部转化和“无监督学习”，其间的规则和隐秘Bug或许都不是人类工程师能及时捕捉到的。咱们常常听到程序员讲一个段子：假如一段程序能跑能work，那就千万不要动它，不要想整理“屎山”。所以，人类未必可以将AI生长捏在自己的手心里。就像一年之前，谁能想到ChatGPT会“智能呈现”，并让整个国际翻天覆地呢？

（《冥王PLUTO》动画截图）

社会层面，现在干流国家应对危机的办法，往往不是“事前防备”，而是“动态平衡”。事前防备，需求提早对“最坏状况”做出评价，然后进行防御性投入，本钱是十分高的，一般只会在医疗、天然灾害、战役等方面选用。而强人工智能的危险，危殆程度并不算高，乃至有人戏弄“要害时分把AI电源拔了”，所以这种危机的防备就要考虑本钱收益比，不会献身收益最大化，寻求肯定安全，而是在经济和安全之间，寻觅一个动态平衡点。而这种“动态平衡”的问题，则会让一些软弱集体，置身于较大的危险之中，比方重复劳作的工人、底层白领、简略常识出产者等，面对被代替的压力。

大模型这条AI之路，正在掀开AGI强人工智能的“潘多拉魔盒”，会放出冥王PLUTO仍是阿童木，抑或兼而有之，仍是未知数。

已然人类和机器人高度交融共生的社会必然会到来，咱们又该依托什么坚持达观和决心呢？我想，《冥王PLUTO》或许现已给出了答案，那便是“爱”。

人道的种子，会坚强地在烽火和焦土中萌发，一次又一次重建新国际。

告发/反应