国际权威期刊《科学》（Science）杂志发表了一篇由来自全球多国的25位世界顶尖人工智能、计算机科学、公共政策及伦理学领域的科学家联合署名的评论文章。文章的核心议题是呼吁国际社会采取比当前“更强有力、更系统化”的集体行动，以应对人工智能（AI）技术快速发展所带来的日益严峻的潜在风险，并着重提出了建设“人工智能公共数据平台”这一关键性倡议。
文章开篇即指出，人工智能，尤其是大型语言模型和生成式AI的爆炸式发展，在带来生产力革命、科学发现加速和社会福祉提升的巨大机遇的也伴随着一系列深刻且可能不可逆的风险。这些风险不仅限于技术层面，更广泛涉及社会伦理、经济结构、地缘政治乃至人类文明的长期未来。科学家们列举的风险图谱包括但不限于：
- 系统性风险与失控：高级AI系统可能因其目标的复杂性和不可预测性，产生与人类价值观相悖甚至有害的行为，尤其是在自主决策系统中，存在“对齐问题”未能彻底解决而导致的失控风险。
- 社会公平与偏见加剧：当前AI模型的训练严重依赖互联网等来源的数据，其中蕴含的社会偏见、历史不公和虚假信息可能被放大和固化，进一步加剧社会不平等和歧视。
- 安全与恶意滥用：AI能力可能被用于开发新型网络武器、制造高度逼真的虚假信息（如深度伪造）进行舆论操纵、或辅助自动化攻击系统，对国家安全和个人隐私构成严重威胁。
- 经济颠覆与就业冲击：AI自动化可能以空前的速度和广度取代人力，引发大规模结构性失业和社会动荡，而由此产生的财富可能进一步集中。
- 生态与资源挑战：训练和运行尖端AI模型需要巨大的计算资源和能源消耗，其碳足迹对环境可持续性构成挑战。
科学家们认为，目前各国政府、产业界和国际组织采取的措施——如自愿性的伦理准则、行业自律和零散的监管提案——在应对上述系统性、全球性挑战方面显得“碎片化且力度不足”。他们强调，AI风险的本质是跨国界的，任何单一国家或公司的行动都难以奏效，必须依靠全球性的协调与合作。
为此，联名文章的核心建议是倡议并推动建立“人工智能公共数据平台”。这一平台构想具有以下关键特征与目标：
- 开放与协作的研究基础设施：平台旨在成为一个全球科学家、工程师和伦理学家可以安全、可控地访问高质量、多样化数据集和标准化计算资源的公共空间。其核心是打破目前高质量训练数据被少数大型科技公司垄断的局面，促进更广泛、更透明的AI安全与对齐研究。
- 专注于安全与对齐研究：平台将优先支持对AI系统安全性、鲁棒性、可解释性和价值观对齐（Alignment）的研究。例如，研究人员可以在平台上系统地测试AI模型在极端或对抗性情境下的行为，开发更有效的“红队测试”方法，以及探索让AI系统稳定遵循复杂人类伦理框架的技术路径。
- 标准化的风险评估基准：通过平台，国际社会可以共同开发和维护一套权威、动态更新的AI风险评估基准与测试标准。这将为客观衡量不同AI模型的风险水平、比较不同安全技术的有效性提供共同标尺，也为监管政策的制定提供科学依据。
- 促进全球治理与监管合作：该平台的建设和运营本身可以成为国际AI治理合作的典范。它需要建立包括政府、学术界、产业界和民间社会代表在内的多边治理架构，制定严格的数据安全、访问权限和研究成果共享协议，为未来更广泛的国际AI治理条约或框架奠定实践基础。
科学家们在文章中承认，建立这样一个全球性平台面临政治意愿协调、资金筹集、技术实现、数据隐私保护以及防止技术被滥用的多重挑战。但他们强调，与无所作为可能带来的灾难性风险相比，投入资源建设这样的“全球公共品”是必要且紧迫的投资。
这25位顶尖科学家向全球的研究机构、国家政府、科技企业和公民社会发出强烈呼吁：必须立即提升AI风险防范的政治与资源优先级。他们敦促二十国集团（G20）、联合国等主要多边论坛将建立“人工智能公共数据平台”及相关治理框架列入核心议程，并启动实质性的筹备工作。他们认为，在AI能力可能超越人类智能关键阈值的“临界点”到来之前，人类社会必须建立起有效监督和引导这一强大技术的集体能力。此次联名发声，标志着科学共同体对AI治理的关切已达到一个新的高度，也为全球应对AI时代的共同挑战指明了一条以开放科学和国际合作为基础的前进道路。
