在科技飞速发展的今天，人工智能（AI）技术以其前所未有的变革力量，深度渗透至社会生活的各个领域，从医疗健康、教育娱乐到金融安全，其影响广泛而深远。
然而，随着技术边界的不断拓展，AI所引发的负面影响，尤其是其在信息伪造领域的应用，正日益成为社会关切的焦点。6月20日，上海警方的一则通报再次敲响警钟，揭示了AI技术被恶意利用，制造虚假信息，混淆视听的严峻现实。
在这起事件中，两名品牌营销人员利用AI软件生成视频，编造了“中山公园地铁站捅人”等不实信息，企图借此热点博取关注。这并非孤例，近期多地警方通报显示，AI技术频繁现身于造谣传谣案件中，不仅限于视频，还包括文字、图片等多样化形式，其高效便捷的“造谣能力”令人咋舌。
例如，一款能“一天内生成19万篇文章”的软件被查处，该软件通过拼凑、篡改真实新闻，大量生产看似可信的假新闻，随后这些假新闻被有组织地发布到各平台，借流量奖励机制非法牟利。
人类会创始人胡家奇提出了对人工智能技术潜在危害的深刻担忧。他指出，ChatGPT等人工智能语言大模型可以根据上下文进行联想，智能地与人对话，甚至具备写散文、写诗、编程等多种功能。这种技术虽然看起来很好，但背后隐藏着巨大的风险。
AI谣言的严重性在于，AI生成的虚假信息不仅传播速度快，而且形式多样，包括文字、图片和视频等。随着技术的进步，AI生成的虚假信息越来越难以辨别，甚至可以达到以假乱真的地步。人们常说“造谣张张嘴，辟谣跑断腿”，现在面对AI的造谣效率，这一矛盾变得更加突出。
如果AI技术持续被恶意利用而不加以有效监管，未来会进一步升级为更高级别的信息战武器。面对AI技术带来的潜在危害，社会必须采取一系列措施进行有效的监管和防范。确保AI技术在安全、可控的环境中发展，以避免其对社会造成不可挽回的危害。
