Dario Amodei呼吁给AI减速的长文，以及Sam Altman、Elon Musk的跟进，在这个周末持续发酵，很多人在担心这会拉着美国股市和经济一路走低。 David Sacks回应说：如果你们真的觉得危险，你们先踩刹车就是了，这个也不需要政府批准。不要因为你们想踩刹车，就让政府规定所有竞争对手都必须跟你一起踩，要不然还是监管俘获。 特朗普这两天在爱尔兰访问，记者问他这个事，特朗普说：我们在AI领域领先中国。美国是世界上技术最先进的国家，坦率地说，我希望继续保持这种状态，因为谁赢得AI，谁就赢了。我们可以给AI设置护栏，可以做这个、做那个。但现在有不少非常负面的力量在炒作这个问题，提出了一些本来不应该被炒作、而且实际上不会发生的事情。 这印证了我昨天文章里的判断，特朗普政府不见得会买Amodei的账。 但民主党看起来比较支持加强监管，除了进步派的桑德斯提出禁止超强人工智能的法案，众议院少数党领袖杰弗里斯今天也表示，国会应该紧急采取行动，以减缓AI技术的发展速度，民主党人周二会开会讨论这个事。对民主党仍有相当影响力的前总统奥巴马周四在一次私人筹款活动上，敦促民主党人制定一项包含合理保障措施的战略，最大限度地发挥人工智能的优势并预防灾难，认为人工智能在私营领域发展迅猛，如果不加以控制，将非常危险。 美国公司们似乎是很认真在对待这个事，据《The Information》报道，Anthropic、OpenAI 和谷歌过去几个月一直在讨论合作创建一个人工智能行业标准机构，自7月以来，三家公司的CEO级别以下的代表组成的工作组一直在定期开会，讨论成立标准机构的提案，现在会议仍在进行，工作组上周刚开过一次会。Sam Altman 本周早些时候在公司全体员工大会上也表示，他支持为人工智能行业建立一个测试和审计组织，但他认为，主要的人工智能实验室必须在没有美国政府支持的情况下自行创建一个标准机构。 Amodei 在周日接受CBS专访，详细介绍了他的那篇长文倡议的考虑，也回应了许多关键问题。 首先，Amodei的意思是不是要停止发布更先进的模型了？ Amodei明确说他不是这个意思，他是觉得AI 确实有严重风险，现在应该适当放慢发展速度，让安全措施、测试和监管跟上。但他不赞成把研发全部停下来，也没有打算停止发布更先进的模型。 其次，AI 真的可能在不远的将来毁灭人类吗？概率到底有多大？ Amodei 没有给出具体数字。他说，关键在于人们怎样开发和使用这项技术。如果方法正确，风险可以降得很低；如果方法错误，风险就会很高。在他看来，未来会发生什么，不是一场只能听天由命的赌博，人们现在采取的行动会改变结果。 他依然相信，AI 带来的好处可以超过风险，尤其是在医学和科学研究上。他举了个例子说，Anthropic 最近正利用模型帮助研究蛋白质结合，这是药物研发中的一个早期环节，未来几个月还准备公布更多生物学研究进展。但同样因为 AI 能力强大，它也可能被滥用，或者采取人们没有授权的行动。他还提到，公司刚发布的一份报告中，就涉及有人试图利用模型开发生物武器。 记者追问，眼下是不是已经到了应该拉响最高级别警报的时候。Amodei 没有直接认同这个说法，而是说，自己很早就知道 AI 会沿着指数曲线发展，也就是能力不断加倍，但真正走到今天，他还是没有充分预料到这种速度会带来怎样的冲击。在他看来，现在正处于那条曲线开始明显变陡的阶段。 他的判断是，目前需要认真对待这个警告，但还不意味着立刻恐慌，或者把所有系统全部关掉。过去，行业主要靠加快建设安全措施，追赶技术进步。现在可能不能只靠这一头加速了，研发本身也需要适当放慢，给人们留出理解、评估和控制模型的时间。 第三，怎么来放慢 AI 研发，给安全评估留出时间？ 他还是重申了自己在文章中提出的三步走计划：首先让独立的外部评估人员长期进入公司，观察模型怎样训练、怎样运行，检查企业是否遵守自己承诺的安全规范。这些人可以来自非营利机构，将来也可能来自政府。他把他们比作食品检查员，希望这成为整个行业的共同做法。 记者问，技术变化这么快，检查员难道就一定跟得上吗？他的回答是，检查员能跟上多快，本身就应该影响技术发展的速度。不能模型一路往前跑，而负责检查它的人始终弄不清楚它已经能做什么。 谈到马斯克和 Altman 对他的倡议表示支持，Amodei 说，他希望把这些赞同变成具体行动：先让更多公司接受第三方评估，再共同讨论模型发布需要满足哪些安全标准，以及发布节奏是否需要受到一定约束。他强调，这一步必须让政府参与，因为它已经涉及企业应该在什么条件下、以什么速度向市场推出产品。 记者随后提到，前 Anthropic 员工 Jacob Coxon 批评 Anthropic 和 OpenAI 没有负责任地行事，是在拿所有人的生命冒
