在Salesforce举办的Dreamforce大会对话环节中 ,Anthropic首席执行官达里奥·阿莫迪与OpenAI首席执行官萨姆·奥特曼,表达的人工智能安全观点,和英伟达首席执行官黄仁勋产生分歧 。这场AI安全大辩论在此前几天已经进入大众视野。
阿莫迪率先登台 ,和Salesforce首席执行官马克·贝尼奥夫共同出现在后者的年度主旨演讲中。周末阿莫迪刚发布一篇文章,呼吁整个行业放缓大模型的研发速度 。
周二,在旧金山莫斯克尼中心约12000名观众面前 ,阿莫迪对贝尼奥夫说:“我认为这才是引领行业向前的方式,树立榜样,证明所有人都可以持续做得更好。”
上周行业研究员警示AI可能带来灾难性风险之后,OpenAI的萨姆·奥特曼、SpaceX埃隆·马斯克 、谷歌DeepMind主席德米斯·哈萨比斯等一众科技高管迅速表态 ,支持阿莫迪的提议。阿莫迪提出分三步走的方案:在不损害商业优势、不削弱美国AI领先地位的前提下,放缓模型能力迭代速度 。
阿莫迪发言结束不久,黄仁勋登场与贝尼奥夫对话。他持不同看法。这位全球市值最高企业的CEO认为 ,市场机制本身已经存在,行业不需要新增法律与监管。黄仁勋补充,发展速度和安全二者并不矛盾;企业可以把控节奏 ,直到确信所推出的产品能获得市场认可 。
“这是一个伪二元选择。 ”黄仁勋对贝尼奥夫说,“两件事完全可以同时实现。”
黄仁勋表示,模型开发者有责任对自身产品负责 。
“尽可能快速推进研发。”他说 ,“但如果在任何时候,你发现公司研发已经失控,或是产品无法保障安全 ,那就按下暂停,确保把事情做稳妥。 ”
就在前一天,黄仁勋在洛杉矶All-In峰会的舞台上现场接听了美国总统特朗普的电话 。特朗普通过扬声器,表达了对有人阻挠AI数据中心建设的担忧。
黄仁勋向特朗普回应:“总统先生 ,我们不会让这种情况发生。”
十余年来,Dreamforce一直是软件行业顶级盛会之一,约5万人齐聚旧金山市中心 ,整个大片区域都被这场活动占据 。贝尼奥夫的主旨演讲每次都会邀请多位重磅嘉宾,往往都是当下科技圈的核心人物。
贝尼奥夫和黄仁勋、阿莫迪都保持长期良好关系。
周二,Salesforce与英伟达宣布 ,为Salesforce智能体平台Agentforce推出一款全新推理模型,该模型基于英伟达开源权重Nemotron模型打造 。上月末,Salesforce和Anthropic扩大战略合作 ,推出“Claudeforce”,销售人员可以直接在Anthropic的Claude对话机器人内调取关键业务数据。
被问及模型企业应当如何推进研发,贝尼奥夫周二告诉记者:“如果他们认为应该减速 ,那就减速;如果觉得可以加速,那就加速。同时他们必须为此承担责任。 ”
当天晚些时候,奥特曼登台和贝尼奥夫展开炉边对话 。两位CEO交谈时,奥特曼提出:考虑到现有模型的强大能力 ,安全与监控必须优先于能力迭代,这一点至关重要。
奥特曼说:“不少公司会说,‘只有其他公司负起责任 ,我们才会负责’。”
当被问及无论别家怎么做,本公司打算采取哪些安全负责举措时,他表示:“这件事 ,不该附加任何前提条件 。”



