向真理低头才令人心安

——第十次致人类领袖的公开信

致:

各国领导人、联合国秘书长、顶级科学家与学者、知名企业家、知名媒体人。


尊敬的各位领袖:

在历史的长河中,每一次技术革命都带来了深远的社会变革。自十八世纪中叶工业革命以来,我们的世界已经经历了翻天覆地的变化。但是,每一次技术的跳跃并不都是人类智慧的胜利,在对未知世界的探索取得成功的同时,我们都要付出相应的代价。

1979年,四十多年来,我一直致力于科技发展和其对社会影响的研究,我见证了科学技术如何塑造我们的现实和未来。在我2007年出版的书籍《拯救人类》中,我探讨了一个至关重要的观点:科技在给我们带来前所未有的便捷和繁荣的同时,也埋下了引导人类走向灭绝的种子。

也就是借《拯救人类》一书出版之际,20071月我首次致信人类领袖,公开呼吁限制科学技术的发展,以免其成为人类文明的掘墓人。十六年过去了,这已经是我为同一个问题,第十次致信人类领袖。

在过去的几十年中,特别是随着人工智能的突飞猛进,我们更加清晰地看到了技术发展可能导致的灭绝风险。面对这样的风险,我们必须行动起来,一切刻不容缓。

科技的不确定性和危害性已由历史的多次教训证实。我们不能全面准确地判断科技的安全性,更不能普遍理性地使用好科技成果。在这种背景下,我要对目前的科技安全发出警示:我们可能距离灭绝仅仅只有一步之遥。这不是一种假设,而是基于对现实情况深思熟虑的结论。

近几个月来,众多科学家对人工智能进行全球性管理的呼声越来越高,一些国家也采取了相应的行动,从美国的行政命令到中国的治理倡议,从欧盟的法律框架到英国的安全峰会,我们看到了国际社会的共同努力。

大家能认识到这个问题的严重性,在不久前是不可想象的;大家能做这么多,在不久前更是不可想象的。而这一切,都是因为可怕的现实已经越来越清晰的摆在了我们的面前。

然而,单纯的立法和规范远远不够。再好的法律体系,再好的道德价值观,能够对社会整体起到比较好的约束作用,绝不可能保证每一个人都不干极端坏事,科学家也不例外。况且,当人工智能发展到一定程度后,如果自我意识觉醒,那更不是我们能控制的。

这里我还要指出,有可能灭绝人类的不只是人工智能,许多科学家就认为纳米技术研制的纳米机器人,程序失控,无限复制会灭绝人类;基因工程改造的生物武器,传播超级瘟疫会灭绝人类。并且科学技术还在继续向前发展,更高层级的科技成果威力会更大。

综上所述,现在已经不是某项科技可以灭绝人类的问题,而是多项科学技术再往前发展都有灭绝人类的能力。有我们已经认识到了的,也有我们还没有认识到的。因此,只要科学技术还在继续发展,就必然会导致人类灭绝。所以,要避免人类的灭绝,就必须严格限制科学技术的发展,使人类远离那个灭绝的深渊。

而要严格限制科学技术的发展,当今的国家社会办不到。因为各个国家相互竞争,科学技术是第一生产力,谁都不可能为了人类的利益去限制科学技术发展。只有人类走向大统一,用世界政权的力量来掌控科学技术,才有可能避免人类的灭绝。

实现人类大统一看似是一件不可能的事,其实深度研究历史,就可以看出,人类政治实体的扩大是一个大趋势,仅受制于交通与通讯条件的不便,会导致一个大的区域无法治理。而现代通讯与交通条件已经把世界联系到了一个地球村。人类实现大统一只存在一个共识的问题。

为此,我于2018年,成立了拯救人类行动组织,也就是人类会。我们人类会的目的,就是要推动一场全人类的觉醒运动。让全世界每一个人都认识到,科学技术照此发展,必定很快灭绝人类。只有人类走向大统一,利用世界政权的力量,严格限制科学技术的发展,才能够拯救人类于灭绝,使人类远离那个灭绝的深渊。

而且我们还要告诉大家,大统一社会又是一个特别适合于打造成平和、友好、均富的非竞争社会的社会,而这样的社会,人们的幸福感最强。因此。大统一社会不仅是一个可以避免人类灭绝的社会,又是一个能够给人类带来普遍幸福的理想社会。

我坚信,我们的事业是正义的事业,代表了真理的方向,是真理,坚持就没有错。向真理低头,坚持真理的道路,才令人心安。

人类正在同科学技术赛跑,时间不允许我们等待。命运留给人类的时间真的已经不多,我们务必要有紧迫感。

最后,我想重申的不仅仅是一个简单的事实或一个逻辑上的结论。而是对智慧的呼唤,对真理的追求。技术的发展无疑为我们带来了前所未有的便利和进步,但它也带来了必然导致我们灭亡的风险。面对这样的挑战,我们必须将智慧和真理放在首位,而不是将它们藏于权力和利益的阴影之下。

今天,我们每个人都肩负着历史的责任。我们不能再袖手旁观,让错误和误解继续指导我们的科技发展。我们必须勇敢地面对自己的错误,共同创造一个真正安全和可持续的世界。

此致

敬礼!

 


拯救人类行动组织(人类会)创始人

胡家奇

2023年11月