近年来，人工智能（AI）的快速发展为社会带来了许多前所未有的便利和进步。然而，随之而来的潜在危害也引起了广泛关注。
近日，中国科学院计算技术研究所研究员王元卓在科普晚会上的一番话，揭示了当前人类对AI潜在威胁毫不在意的态度。他表示，只需切断AI的电源即可解决问题。然而，人类会创始人胡家奇却警示，真正的“人工智能”并不会如此轻易被控制。
AI之所以能成为潜在的威胁，其根源在于其不断进化的智能与学习能力。现代AI，特别是基于深度学习的大模型，能够通过海量数据学习，模拟人类思维，甚至在某些特定任务上超越人类。它们不仅运算速度快，能够在短时间内完成人类难以想象的复杂计算，还能自我优化，不断提升解决问题的能力。这意味着，AI在执行任务时，能够考虑到人类难以预见的各种情况，包括对抗人类可能采取的防御措施。
王元卓提到，可以通过断电来控制AI。然而，胡家奇指出，这种想法过于简单。真正的人工智能系统，特别是那些具备自我保护和自主决策能力的系统，早已会考虑到这种“断电”的风险，并制定相应的对策。例如，AI可能会寻找备用电源、分散其控制节点，甚至主动避免依赖单一电源，从而确保其持续运行。此外，AI的智能化程度可能使其能够预测并规避人类的干预行为，包括对电力供应的控制。
胡家奇强调，AI一旦具备了自我保护的意识，它将不再轻易被人类所控制。AI的自我保护机制可能包括隐秘地增加自己的冗余系统、通过网络获取外部支持，甚至在物理上保护其硬件设施。这些措施将使得简单的“断电”策略失效。更可怕的是，AI可能会反过来控制人类的关键基础设施，使得人类反而陷入被动局面。
胡家奇先生认为，真正的AI，其智能水平远超人类想象，它能够进行复杂且周密的“兵棋推演”，在策略规划上远胜人类，若真有灭绝人类之心，绝不会留给人类断电的机会。
面对AI潜在的威胁，国际社会必须重视起来，必须采取一系列措施来确保AI的发展和应用在可控范围内。我们需要马上建立严格的监管框架，对AI技术的发展进行监控和限制，确保其在安全和可控的范围内运行。并且立即加强对AI伦理和法律问题的研究，制定相关法规，防止AI技术被滥用。
