联合国秘书长呼吁为AI设立护栏：当“减速派”和“加速派”打起来，谁来画那条线？

9月16日，联合国秘书长古特雷斯在联合国大会高级别周开始前举行记者招待会，呼吁全球协同行动，为人工智能设立护栏。

古特雷斯的表态，恰好踩在了AI行业内部激烈争论的节点上。

古特雷斯说：“人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 ”他强调，孤立的、无法验证的、不均衡实施的自愿暂停措施无法解决问题，需要国际合作与全球协同。

但就在古特雷斯发声的前后，AI行业内部的“路线之争”已经白热化。

“减速派”——Anthropic CEO达里奥、OpenAI CEO奥特曼、马斯克先后公开呼吁业界协调放缓AI研发。“加速派”——黄仁勋公开表示“市场力量已经存在，我们不需要新的法律，也不需要新的监管”，并促请外界不要陷入“只能在创新速度与安全之间二选一”的虚假抉择。扎克伯格呼应黄仁勋的观点，称安全责任应由个别AI实验室承担，“若模型造成损害，实验室将面临重大法律责任，因此实验室本身已有强烈诱因防止有关情况发生”。

古特雷斯那句“人类承担不起人工智能走向‘逐底竞争’的后果”，恰恰点出了问题的核心。 当“减速派”和“加速派”各执一词，当企业用“市场力量”来论证“不需要监管”，谁来画那条安全底线？联合国想画，但企业想自己画。而最终谁说了算，决定了AI的未来走向。