比尔·盖茨警告：未来一年最可能出现「负面意外」的地方是网络攻击，并反对只让 AI 公司自我监管

他具体说了什么。法新社 10 月 11 日的报道记录的是盖茨在周日接受 ABC News 采访时的说法。关于风险优先级，他的原话是：我们接下来一年最可能看到戏剧性问题的面是网络攻击。接着他把时间尺度讲得非常明确——现在真正的危险不是 AI 失控，这一点我们确实要继续研究，但就大影响而言那是几年之后的事。他把当下的风险归到人身上：真正糟糕的是坏人在用 AI，尤其是在那种可以把所有安全护栏都拆掉的场景里。然后是最直白的一段：而现在，你是被允许把所有那些护栏拆掉的。所以当你同时有坏人、没有护栏、再加上最新的模型，这就是未来一年里——主要在网络领域——我们会看到很多负面意外的地方。

他反对的是什么。同一次采访里，盖茨驳回了「AI 公司自我监管足以保证世界安全」这个主张。法新社在报道中直接点出，这个主张由美国总统特朗普倡导。盖茨的说法是：对于人类发明过的最危险的技术，如果公司自己就是社会唯一的检查手段、这就是最终答案——那显然说明我们做得不够。他主张的是增加限制，目的是防止坏人把 AI 用在生物恐怖主义和网络攻击上。法新社在报道里把他放进了一个序列里：他是最新一位对新技术威胁发出警报的科技巨头。这个定位本身也说明，近一段时间以来，AI 风险这件事在产业界大佬之间的讨论明显升温。

这不是他突然改口。法新社在报道里注明了背景：盖茨在 8 月发过一篇长文，警告世界对 AI 带来的剧变准备得危险地不足，尤其是在就业方面。这篇官方原文发布在 Gates Notes 上，标题是《The choices we make about AI now are critical》。他在文中写的原话包括：AI 能力已经开始被用于网络攻击；他认识的最聪明的网络安全专家对接下来几年感到害怕，因为攻击方获得强大新能力的速度，快于防守方修补所有弱点的速度。他还写了一个很关键的对称性：同一个能帮公司找到软件漏洞的模型，也能帮犯罪者利用这个漏洞。这句话把 AI 安全里最难受的地方说清楚了——攻防用的是同一套能力，防守方的容错空间天然更小。

三点值得注意。第一，把风险按时间尺度切开这件事，本身就是一个政策判断。把「AI 失控」放到几年之后、把「坏人用 AI」放到未来 12 个月，意味着在他看来看得见的资源应该优先投向当下的滥用问题，而不是遥远的存在性风险。第二，他的监管立场和产业界一些流行的表态不在一个调上。他直接把「公司自我监管」定性为不足以作为最终答案，强调社会需要一个公司之外的检查机制——这与当前关于自愿承诺、透明度报告和保障评估的讨论方向相关，但要求更硬。第三，他给出的具体风险类别是网络攻击和生物恐怖主义两类，都是能力可以被直接滥用、且后果不可逆的方向。总的来说，这条采访的价值在于它给出了一份相当具体的风险清单和一个明确的时间表，而不是一句泛泛的「AI 有风险」。