通用人工智能时代较预期提前到来，这使得AI的安全性变得尤为紧要。随着AI的智能水平超越人类，如何确保其处于人类的控制之下，并且与人类的价值观相契合，这一议题已在全球范围内引起了广泛关注。
AGI带来的挑战
AGI时代的到来正在加速，随之而来的是众多商业应用的兴起。与传统的算法相比，人工智能的安全性缺少理论上的支撑。此外，近年来，AI领域的专家们提出，AGI的智能水平可能超越人类，这使得人类难以对其进行有效的控制，从而给人类社会带来了前所未有的挑战。
AI安全治理的重要性
AI安全治理是一项既漫长又全面的任务，且具备显著的学术研究特征。中国在此领域与国际社会保持紧密互动，正如本次会议成功推动了《上海AI安全国际对话共识》的诞生。该共识的问世，明显体现了全球范围内对AI安全治理问题的广泛关注。
“上海共识”的呼吁
“上海共识”明确提出，全球各国政府及研究人员需确保高级人工智能系统与人类控制保持一致，以维护人类福祉。该共识强调，随着人工智能技术的快速发展，其智能水平正逐渐接近并超越人类，存在脱离人类控制或被不法分子利用的风险，可能引发灾难性后果。
全球协同的举措
全球各大国家和地区需进行对接与协调，实施可靠的安全措施。在可共同推进的领域内，应协同合作，并在必要时独立采取行动。在国际层面上，应逐步构建相互信任的机制，并增加对人工智能安全科学研究的资金支持。
上海的优势与地位
姚期智指出，就人工智能安全治理而言，上海具备了诸多有利条件。这座城市凭借其独特的城市优势，吸引了众多海外专家的聚集。展望未来，上海有望成为全球人工智能治理领域的重要中心之一。
对年轻学子的建议
姚期智，作为教育领域的专家，针对AGI的迅猛发展，向年轻学子们提出建议：应扎实掌握数学、物理、计算机等基础学科知识。同时，他强调，持续自主学习，以适应不断变化的世界，是确保未来安全的关键所在。
人们普遍认为，当前最迫切需要解决的是如何确保人工智能在受人类主导的同时，与人类的价值观相契合。我们诚挚邀请您在评论区发表您的见解，同时请不要忘记点赞及转发本篇文章。
