防「智能爆炸」！WSJ：OpenAI、Anthropic、Meta和微软AI研究负责人联名呼吁审查AI研究自动化

《华尔街日报》周一(28日)独家报导指出，OpenAI、Anthropic、Meta与微软的研究负责人呼吁政策制定者审查各公司在AI研究自动化方面的进展。

在周一发表的论文中，OpenAI首席科学家Jakub Pachocki、Anthropic共同创始人Jack Clark、微软首席科学官Eric Horvitz及Meta AI研究副总裁Dawn Song等研究人员警告，AI研究的自动化可能引发智能爆炸。这种发展态势恐将原本需时数年取得的进展，压缩至数月甚至更短时间，导致技术演进速度超出人类理解能力。

论文还详述智能爆炸的潜在机制：当AI系统能自动设计更高效的演算法并自我迭代时，进步速度将呈指数级增长，人类可能无法及时理解或干预这一过程，从而失去对技术发展方向的控制权。

论文作者以个人名义撰文指出，政策制定者应紧急要求企业提高透明度，了解各公司在模型开发自动化方面已达到的程度。他们强调，缺乏对自动化进度的清晰认知，监管机构将难以应对潜在风险。

近年来，随着生成式AI的突破，AI技术正快速渗透各领域，同时也引发关于就业、隐私、安全等广泛担忧。此次多位业界领袖的联合呼吁，显示AI研究社群内部对技术失控风险的警惕日益升高。

上述专家指出，智能爆炸虽仍属理论情境，但若发生恐导致AI系统在短时间内超越人类控制，对社会、经济与伦理造成深远冲击。因此，建立国际监管框架与透明度机制，已成为确保AI安全发展的当务之急。