十 04

智人之上

拾慧|〖寻章摘句〗 qiusir 2024


尤瓦尔·赫拉利著 林俊宏译 《智人之上》 台湾版《連结》
Nexus:A Brief History of Information Networks from the Stone Age to AI (Sapiens:A Brief History of Humankind[?])
（推荐与导读小册子里看到，复旦中文那个宣韩寒总统的严锋竟然是科学杂志的荣誉主编，有点扫兴。也是，郭沫若还是中科院院长呢）
谎言造就文明
对智人最好的描述是，他是会讲故事的动物。
“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中。”
农业革命可说是史上最大的一桩骗局。人类以为驯化了植物，但其实是植物驯化了智人。
拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚。
“如果不是凭借修禅打给我的专注力和清晰的眼界，我不可能写出《人类简史》”
“信息不等于真相。”（李政道早就强调信息不是理解！[?]）
“没有什么可以抵达乌托邦，包括AI”
既要避免落入科技乌托邦的陷阱，也要防止滑向极权主义的深渊。
带着爱，献给···

序言
经过10万年的发现、发明与征服，人类已经把自己推向了一场生存危机。有力量并不等于有智慧。
（人类的）力量从来就不是个人努力的结果，人类的力量总是源于大批人的合作。
奥威尔：无知就是力量。（义和团、红小乒）
纳粹主义的极权基础，就是一些令人痛苦的幻想和毫无羞耻的谎言。（这里的文明多少是谎言造就的，很纯粹）
“电子束如同微风，仿佛穿越蕾丝一般吹过铁幕。”
“人工智能的发展与普及，非但不是我们该担心的风险，反而是我们对自己、对孩子、对未来该承担的道德义务。”
人工智能不但可以改变人类这个物种的历史进程，还可能改变所有生命形式的演化历程。
只相信“自己的研究”可能乍听之下和科学，但其实这等于相信世界上没有客观真理。科学绝不是一种个人的追求，而是机构制度的合作。
历史真正研究的不是“过去”，而是“变化”。历史不是确定的，未来将由我们所有人在未来几年所做的选择而塑造。

智人之所以成功，秘诀在于懂得运用信息，并把许多人联结起来。但很遗憾，人类拥有这种能力的同时，常常也伴随着相信谎言、错误与幻想。

一、人类网络
1、信息是什么
《论科学的精确性》沉迷于给领土画出越来越精确的地图，直到最后制作出的就是一张一比一的地图···
DNA并不是去呈现或再现既有的事物，而是协助产生全新的事物。
如果某匹斑马产生突变，抑制了肾上腺激素的分泌，它就可能因适应性降低而丧生，于是它数以万计的细胞彼此之间将不再联结，所形成的斑马网络就此瓦解。
真正让网络无法生存的，并不是对事实有了错误的呈现，而是网络内部瓦解而失去了联结。

所有的生命形式之所以存在，都要归功于那些基因上的“错误”。正因为DNA并不是去呈现既有现实，才让我们得以享受演化的奇迹。

所谓信息，就是能够让不同的点联结成网络，从而创造出新的现实。
就像DNA激活了各种化学程序，将数十亿细胞结合成有机网络一样，《圣经》也激活了各种社交程序，将数十亿人结合成宗教网络。
信息都会联结成网络。
2、故事：无限的联结
（小梁说求师得100W）
经过2000年，耶稣就像是被包裹在一个厚厚的故事茧里···耶稣就成了一场史上最盛大品牌营造活动的主题。
如果你造了一枚完全无视物理学的炸弹，它不可能响彻云霄。但如果你创造出一套完全无视事实的意识形态，这套意识形态依然可能惊天动地。
虚构的故事要多简单就可以多简单，但真相往往很复杂。
真相常常令人痛苦不安
拥有大量信息并不能保证得到真相，也无法保证能维持秩序。
宁可为了秩序牺牲真相。
就连美国登上月球，主要也得归功于纳粹领导的导弹科学。
3、文件：纸老虎也会咬人
特拉维夫，新故土。（耶路撒冷，和平之城）
人类的长期记忆特别适合记住故事。
“去他的学问，消失吧！”
4、错误：绝对正确是一种幻想
圣奥古斯丁：“人都会犯错，但坚持错误则是一种邪恶。”
从公元1000年开始，书就成了一项重要的宗教技术。
犹太人的宗教经典是将权力交给大众，即便将来遇上最厚颜无耻的领导者，他们也能要求他遵从神的律法。
1424年，剑桥大学图书馆藏书总数也只有122册。
加尔文，在民众和《圣经》之间，不需要任何不可靠的人类机构与制度。
印刷术并非科学革命最根本的原因。（如果是，科学应该在这里发源，但不是，也可能印刷在别处开始。）
《女巫之锤》偏偏成了早期现代欧洲最畅销的书之一···其实他们如果真的想找到恶魔，只需要照照镜子就能看到。
如果让思想市场完全自由，就可能鼓励传播各种愤怒与煽情，而牺牲掉真理与真相。印刷商从《女巫之锤》这种狗血故事中赚到钱，要比从哥白尼的《天体运行论》这种枯燥的数学专著中赚到的多太多。

能真正推动科学发展的既不是印刷术，也不是完全自由的信息市场，而是能解决“人会犯错”这个问题的创新方法。

科学机构之所以能取得权威，是因为它们有强大的自我修正机制，能够揭露并修正自身的错误。科学革命真正的引擎正是这些自我修正机制。人类是因为发现了自己的物质，才推动了科学革命。
科学鼓励怀疑与创新，而不鼓励遵循与顺从。科学鼓励的是怀疑自己，而阴谋论者常常对众人既有的共识表示怀疑，认为他们自己的信念是毋庸置疑的，从而落入证真偏差的陷阱。科学的标志不仅是怀疑，而且是自我怀疑，在所有科学机构的核心，都能看到强大的自我修正机制。
小孩子如果真的完全依赖外部修正，或是总给自己的错误找借口，而不从中吸取教训，就会发现想学走路可没那么简单。事实上，即使在长大之后，我们每次走路，身体也会进行复杂的自我修正。
不管多么小心，都可能会犯制度性的错误。
李森科主义
5、抉择：民主与极权制度简史
罗马元老院 橡皮图章
民主绝不是“多数独裁”。民主并不是说代表多数就能为所欲为，而是说所有人都应该自由平等。民主这个制度，，是要保障所有人都能拥有某些自由，就算其他人占了多数也无法剥夺。
“简单”是独裁信息网络的特征。（如果全民读书，这本书不可能出版。或者说，如果全民读书就不会有这样的担忧。）
人民必须对自己谈论的内容有基本了解，否则就是在制造噪声。
（我这辈子是不能指望从亲人那得到什么财产了，吉林和山东的老宅···）
民主从来不是一个全有或全无得选择题，而是一道连续的光谱。
尼禄是杀害了自己的母亲、妻子还逼迫自己的导师自尽···
正如民主政体依赖相互重叠与制约的自我修正机制，现代极权政体同样创造了相互重叠的监督机制，让他们共同维护秩序。
莫斯科的官僚从克雷默的《女巫之锤》中好好学了一招，发明了一套全球阴谋论，创造了一种完全不存在的敌人。富农
“美国人从小相信的是问题会带来答案，但苏联人从小相信的是问题会带来麻烦。”
苏联拥有广阔肥沃的土地，20世纪70年代，却不在是主要的粮食出口国，反而成了粮食净进口国。
“成功”是只看秩序与权力这两个维度，而忽略对道德与人类福祉的考量。
21世纪政治上的主要分歧可能并不是民主政权与极权政权的分歧，而是人类与非人类个体之间的分歧。
硅幕
二、非生物网络
在能够自己追求目标、自行做出决策的计算机出现之后，人类信息网络的基本结构就改变了。
6、新成员：与众不同的计算机
原子弹小男孩的威力相当于12500吨TNT炸药，但脑力却为零，什么都无法决定。
在争夺民众注意力的网络大战中，算法成了决定胜负的因素。
我们常常把智能与意识混为一谈。
就像飞机不用长出羽毛就已经能飞得比鸟类更快，计算机也可能无须发展出意识，就比人类更懂得如何解决问题。
在全部信息网络中，计算机是一个完整的成员。
如果我们和冒充人类的计算机进行政治辩论，等于连输两次。
我们正在谈论的是人类历史肯能迈向终局。
几千年来，人类一直是活在其他人的梦里，但在接下来的几十年里，我们可能会发现自己活在某个高深莫测的智能机器所编织的梦里。
目前这场计算机革命让我们必须直接面对柏拉图的洞穴、印度的摩耶（maya,幻觉的世界），以及笛卡尔的恶魔（被一个心怀不轨的恶魔困在幻觉世界）。
AI artificial intelligence or alien intelligence
NEXUS 链接性
7、永不停歇：网络永远持续运行
我们必须避免让计算机网络完全控制社会，这不但是为了让我们有点休息的时间，更是为了有机会修正网络里积累的错误。
8、可能出错：谬误百出的网络
“永远不要第一个停止鼓掌。”
在量子力学中，光是观察亚原子离子，就会让这些粒子的行为发生改变。观察人类的行为也是如此，我们的观察工具越强大，肯能造成的影响越大。

苏维埃原人：一群奴性、悲观、不信任他人的人类，无论多荒谬的指令，他们都会遵守，对自己行为造成的结果也漠不关心。

计算机犯错原本不算什么，但当计算机成了历史推动者时，这些错误就可能带来灾难。
正如一些国家的领导人，科技企业正在做的不是找出关于人类的真相，而是给人类一个扭曲的新秩序。人类是非常复杂的生物，良好的社会秩序会培养人类的美德，同时减少人类的消极倾向。然而社交媒体算法只把人成矿井，想要“开采”更多的注意力。
我们一次又一次看到，如果人们可以完全自由地表达自己，真理常常会败下阵来。想让天平往有利于真理的方向倾斜，网络就必须发展并维护强大的自我修正机制，让说真话的人得到奖励。
战争无非是政治通过另一种手段的继续。
计算机的问题并不在于它们特别邪恶，而在于它们特别强大。
（The light at the end of tunnel）
“犹太人与穆斯林基于不同的宗教信仰，而都拥有核武器，随时可能爆发史上最严重的大屠杀，就为了一块石头。”
现在人类该问的问题并不是如何剥夺计算机的创造力，而是如何把这些创造力导向正确的方向。（谦哥把双语图书馆的求师得的书弄丢了，赔了100，而那书放在自己家里也挺好的说法对我来说不妥。）
很多研究都显示，计算机同样有根深蒂固的偏见。

现在发展出的棋类人工智能，人类除了游戏的基本规则，已经不会再“教”它们其他内容，而是让它们彻底自学，通过分析过去棋局的资料库，或者不断下新的棋局，从经验中学习。
人工智能并非不顾结果，只是傻傻地不断重复同样的动作，而是拥有强大的自我修正机制，能够从自己的错误中学习。

（人工智能像是“算法宝宝”在自学，而人类的孩童却在傻傻地重复着同样的动作）
没有虚构的神话，大规模社会不可能存在。
承认“我不知道”是通往智慧的重要一步。
三、计算机政治学
9、民主制度：我们还能对话吗？
民主制度的一大优势，就在于拥有强大的自我修正机制，能够避免过度狂热，也表溜了发现自身错误、改变行动方针的能力。
民主制度与21世纪的信息网络结构能否兼容。民主制度是信赖信息科技才得以存在的，而人类历史上的大部分时间根本不可能出现大规模的民主。21世纪的信息科技，会不会再次让民主制度成为一个不切实际的选项？
民主制度想要存活的话，效率低一点并非坏事反而是一件好事。
史上有各种严苛的种姓制度，总在否定人类改变的能力，也有许多独裁者，妄图重塑人类，如同捏塑黏土一般。（教育的独裁）
人工智能的优点有一部分正在于能够随时随地照顾病患，不会感到压力，也没有财务上的考量。
魏玛共和国的崩溃，并不只是因为三年的高失业率。另一同样重要的因素，在于它是诞生于战败的新民主国家。缺乏强大的机构制度和思想基础。德国选民是在并非别无选择的情况下做出了一个糟糕的决定，这才让德国落入深渊。
20世纪就业市场最大、最成功的一次转型并不是因为发明了某项技术，而是因为一半的人释放了过去未曾发挥的潜力。让女性进入就业市场···
（批改了作业，只要不是太多，关键学生认真完成。）
新的计算机网络对你住制度的最后一个威胁不是形成数字极权，而是促成数字无政府状态。
同样是不实信息，如果是人类捏造的，我们一看就知道是假的，但如果是人工智能捏造的，我们却很容易信以为真。
算法不但成了对话里的成员，而且开始操控对话。
机器人程序并没有言论自由，因为机器人程序并不拥有任何权利。
我们可以做到的事阻止算法刻意散播愤怒的情绪。
10、极权主义：所有力量归于算法
人工智能似乎也倾向于将信息与决策都集中在一处。
算法并不是仅仅批评这些政权，而是直接控制了这些政权。
独裁者如果相信人工智能必定会让权力的天平向自己倾斜，只要一不小心，人工智能就会夺权。
11、硅幕：全球帝国还是全球分裂？
人工智能兴起之所以会对人类构成生存威胁，并不是因为计算机真的抱有什么恶意，而是因为人类自己的缺陷问题。
18世纪，第一台蒸汽机开始在英国煤矿抽水的时候，还没有人会预料到它们会推动人类史上最具野心的帝国计划。
世界第一条商业铁路开通1830年连结利物浦和曼彻斯特。
2000年，谷歌刚刚起步，扎克伯格才高中
“我以内心顺服神的律，我肉体却顺服罪的律了。”
人类合作的前提并不是彼此相似，而是拥有能够交换信息的能力。
“全球主义者和爱国主义者”
“饰面理论”认为，人类本质上仍然是石器时代的狩猎者，看着世界就是个丛林，相信弱肉强食，力量就是正义。它还人类，人类几千年来一直试图用各种神话和仪式形成的薄弱饰面掩盖这个不变的现实，但人类从未真正摆脱丛林法则。事实上，人类的神话与仪式本来就是丛林强者用来欺骗、诱捕弱者的武器。
合作才是真正的丛林法则。
战争逐渐减少，并不是因为什么神圣的奇迹或自然法则的彻底地转变，而是因为人类改变了自己的法律、神话与制度。

正如太过乐观的恶历史观可能是危险的幻想一样，太过悲观的历史观也可能弄假成真。
大多数领导人宁可让自己以掠食者的身份载入史册，或成为残酷征服者名单的一员，而倒霉的学生害的在历史考试的时候苦苦背诵这份名单。
现在所有的旧东西都曾经无比新颖。
历史唯一不变的，就是改变。

结语
实在不应该把人工智能革命拿来喝印刷革命及工业革命相提并论。
这样的相提并论，不但低估了热工智能革命不同于过往革命的本质，也低估了过去革命带来的负面影响。印刷革命虽然直接带来了各种科学发现，但也带来了猎巫行动与宗教战争；报纸与广播虽然有利于民主，但也遭到极权政权的滥用。至于工业革命，也带来帝国主义与纳粹主义这样的灾难性实验。如果人工智能革命也带着人类走向类似的实验，我们真的确定自己能够再次蒙混过关吗？

信息并不等于真理，信息的的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理。
由于人类的信息网络重秩序而轻真理，因此往往带来大量的力量，却没带来多少智慧。
就像丛林法则只是个神话谎言一样，认为历史总会走向正义也只是个神话谎言。历史的轨迹无比开放，可以弯向任何方向，走向任何地点，就算智人毁灭了自己，宇宙还是会运转如常。地球演化花了40亿年，才出现了一个拥有高度智能的猿类文明。如果人类灭亡，需要再演化上亿年，才会出现高度智能的老鼠文明，这种事迟早会发生。宇宙就是这么有耐心。
我们所有人在未来几年所做的决定，将决定召唤这种非人类智能究竟是个致命的错误，还是会让生命的演化翻开一个充满希望的新篇章。

·[?]《信息简史》从时期时代到AI(Nexus)
·[?]《人类简史》从动物到上帝(Sapiens)
·[?]《未来简史》从智人到神人(Homo Deus)
·[?]《今日简史》21 lessons for the 21st century

On this day..

Comments are closed.