人工智能的进步速度极快，其潜在的危害引起了国际社会的广泛关注，确保人工智能的安全性已成为一个迫切需要解决的核心议题。“上海共识”的诞生，为应对这一挑战提供了宝贵的思考方向。
AI破坏力初显
在18个月前的首次安全共识会议上，AGI的巨大破坏潜力便初露端倪。人类在与AGI的对抗中，甚至难以解释其失控的机制。这一局面使得众多人士深感忧虑，他们意识到人工智能的发展中潜藏着巨大的危机。如果不加以有效管控，其后果将难以预料。在科技发展的道路上，AI的这一特性宛如一枚埋设的定时炸弹。
关键转折点来临
“上海共识”提出，目前人类正站在一个重要的历史节点上。人工智能技术正迅速逼近并可能超越人类的智能水平。这种超越若失控，通用人工智能系统可能引发灾难性的后果，甚至威胁到人类的生存。若此情况发生，人类社会在多个领域，包括经济和社会秩序，都可能遭受严重打击，影响长远。
现有方法存局限
目前尚无有效途径来确保高级通用人工智能在超越人类智能后仍与人类价值观保持一致，并持续受到有效监管。专家们指出，建立一个具有约束力和信赖度的国际AI安全机制面临重重挑战和较大风险。上海人工智能实验室的周伯文教授认为，目前的方法大多属于事后的补救措施和被动的应对策略，其防御成本高昂，而攻击成本相对较低。
主动构建新思路
Make Safe AI采用了一种主动且实时的共同进化模式，其防御成本较低，并且能够应对各级别的风险。相较于传统方法，这一新理念为保障AI安全开辟了新的路径。若能得以广泛实施，有望扭转目前AI安全防护的被动态势，使人类在AI的发展进程中拥有更大的主动权。
“上海共识”策略
为应对AI潜在风险，“上海共识”明确了应对策略，并提出了三项核心举措。这包括要求开发者确保安全防护，进行彻底的审查与评价。此外，共识还倡导各国加强合作，明确界限，并设立协调机构以促进标准化进程。若这些措施得以有效实施，有望在全球层面上对AI的发展进行规范，从而减少风险。
长短结合促安全
《上海共识》提出，短期内必须构建监管体系以应对欺诈、攻击等挑战，并长期致力于“设计安全”的框架。短期内，这些措施有助于解决当前紧迫的问题，而长期框架则致力于推动人工智能的长期发展，旨在预防未来可能出现的更严重危机。
在人工智能引发的复杂局势中，这些策略能否实现既定目标尚存疑问？欢迎读者们踊跃发表意见，参与讨论，并对文章给予点赞与转发。
