前机器学习工程师Samuel Verboomen：先让朋友看到AI能做什么，再谈风险

Samuel Verboomen做了近十年机器学习工程师，在创业公司担任过CTO。六个月前他辞职转向AI安全，并创办了自己的非营利组织。但他在LessWrong上写的这篇帖子，核心不是他自己的经历，而是一个他在过去半年反复观察到的问题：技术圈外的人不是不关心AI，而是根本不知道AI已经能做什么。

他和继母聊天时发现，对她来说AI仍然基本等于一个聊天机器人——你问它一个问题，把答案复制粘贴去写邮件。他引用美国民调指出，很多人说担心AI，但很少人真正理解它为什么可能危险。这个认知缺口让他意识到，直接谈风险是无效的：你很难让一个人害怕他还不了解的东西。

于是他设计了一套两小时互动演示，结构分五段：先展示AI今天已经能做什么，再讲AI历史和运作原理，然后介绍谁在建这些系统、为什么没人愿意慢下来，接着才进入风险——从最容易理解的滥用开始，经过系统性影响，最后到听起来最像科幻的失控。他的原话是'我想骗我的非技术朋友去学AI安全'——邀请他们来学'如何更好地使用AI'，但真正目标是逐步把他们带到风险面前。

第一次聚会他邀请了六位朋友。这些人是工程师、做销售和金融的，并非远离技术的人。他说效果很好，但最有意思的是真正让他们惊讶的环节：先让他们操作一个基础模型——那个模型几乎毫无用处，只会续写文本；然后切换到助手模型，一个能真正改变日常工作的系统。这个从'没用'到'有用'的跳跃，让'预测下一个词做到足够规模后能产生什么'变得非常具体。

Verboomen坦承这只是一个人、一次聚会、六个人的经验，他称之为'个人印象'。演示已开源放在GitHub上，附带讲解脚本和演讲者备注，任何人都可以拿去讲、截取部分、或者fork出去做自己的版本。他把这件事的底层逻辑说得很简单：六个月前他自己也不知道这些风险，是一个朋友花时间给他讲明白的。

他在文末留了一个开放问题：AI安全应该是每个人的事，还是太技术了应该留给专家？让所有人参与讨论会不会反而有危险？还是说这是唯一能向AI公司施压减速的途径？