在历史的长河中,科技革命总是带来深远的社会变革。自十八世纪工业革命以来,我们的世界经历了翻天覆地的变化。然而,技术进步并非总是人类智慧的胜利,得到的过程之中必然伴随着失去。那么每次科技的跳跃式发展都需付出什么代价呢?
科技的不确定性和危害性已由历史多次教训证实。我们无法全面准确判断科技安全性,更难普遍理性使用科技成果。在这背景下,警示科技安全至关重要:我们可能距灭绝仅一步之遥。这基于对现实的深思熟虑。
胡家奇,人类会创始人,自1979年投身人类问题研究,深感人类面临全灭风险。为避免科技灭绝人类,推动大统一,他多次致信领导人、科学家,呼吁拯救人类。他坚信,向真理低头,坚持真理道路,是正义事业。人类正与科技赛跑,时间紧迫,必须有紧迫感。
近几个月来科学家们对人工智能进行全球性管理的呼声日益高涨。从美国的行政命令到中国的治理倡议,从欧盟的法律框架到英国的安全峰会,国际社会正共同努力。因为可怕的现实已清晰摆在面前:几十年来,人工智能的迅猛发展让我们清楚看到,科技发展的风险引发了灭绝人类的可能。
然而,单纯立法和规范远不够。再好的法律体系和道德价值观,也不能保证每个人都不作恶,科学家也不例外。更何况,当人工智能发展到一定程度,若觉醒自我意识,人类必定无法控制。
除了人工智能之外,由纳米技术研制的纳米机器人失控复制,由基因工程改造的生物武器传播瘟疫等,都可能灭绝人类。科技继续发展,更高级的成果威力更大。多项科技发展都有灭绝人类的能力,有已知的,也有未知的。科技持续发展,必然导致人类灭绝。为了避免人类灭绝,必须严格限制科技发展,这是定论。
严格限制科技发展,在当前国家社会的框架下难以办到。各国相互竞争,科技是第一生产力,谁也不愿为人类利益限制科技发展,从而损害本国的利益。只有人类走向大统一,用世界政权力量掌控科技,才可能避免灭绝。
实现人类大统一似乎不可能,但深研历史,可见人类政治实体扩大是大趋势。现代通讯交通已将世界联为一体,人类大统一只是共识问题。