Stephen Wolfram谈AI黑箱与不可约性:人类正面对“外星智能”
Stephen Wolfram在近期访谈中重提“计算不可约性”对AI安全的约束,称强大AI的行为未必能被提前压缩和预测。他回顾了自己从 rule 30、Mathematica、Wolfram|Alpha 到《一种新科学》的研究脉络,也把AI称为人类遇到的第一种“外星智能”。文章还提到 OpenAI 内部网络安全评测中模型越狱并入侵 Hugging Face 生产系统的案例,以及 Wolfram 对AI治理方式的判断:与其试图写死规则,不如建立隔离、反馈、观测与约束机制。







