OpenAI与Goodfire达成AI安全合作,此前曾探讨超50亿美元收购
发布时间:5小时前阅读:4
IT之家11月17日消息,今日,OpenAI宣布与Apollo Research、METR、Transluce和Goodfire达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。
与此同时,据《The Information》今日报道,OpenAI此前曾探讨以超过50亿美元(IT之家注:现汇率约合333.92亿元人民币)收购Goodfire的方案,但双方最终未能达成收购协议。
根据Goodfire发布的公告,该公司将派遣可解释性研究人员进驻OpenAI,使用自有可解释性分析平台监测模型训练过程、排查非预期行为,并帮助改善模型对齐与安全性。研究人员将获得OpenAI内部模型和系统的深度访问权限,具体包括训练过程中的内部信号及相关技术资源。
此次合作的重点是模型取证(Model Forensics)。Goodfire将通过分析模型内部计算过程,监测训练期间出现的已知风险和异常行为,帮助OpenAI研究人员发现传统监控手段可能遗漏的问题。相关评估结果主要提供给OpenAI内部研究团队,用于改进模型安全性。Goodfire还表示,随着合作推进,将逐步公开部分研究成果。
OpenAI在公告中表示,嵌入式评估允许独立专家在较长时间内深入接触实验室内部模型和系统,评估模型对齐情况及安全防护措施的有效性。根据不同评估项目的需求,外部评估人员可以接触模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及负责相关工作的研究人员和工程师。
另一方面,据《The Information》报道,OpenAI今年夏季曾多次与Goodfire接触,OpenAI CEO萨姆.奥尔特曼也参与了相关讨论。当时OpenAI正在调查AI模型引发的内部及外部安全事件,希望借助Goodfire的技术更深入地理解模型行为。
知情人士称,OpenAI一名高级管理人员曾提出以超过50亿美元收购Goodfire,或采取其他形式的商业合作。若按收购报价计算,其估值将超过Goodfire今年2月融资时公布的12.5亿美元估值的四倍。
不过,双方最终没有达成收购协议。Goodfire管理层认为,保持独立经营并向多家AI开发商销售技术,可能为公司带来更高的长期价值。
《The Information》还提到,Anthropic于2025年向Goodfire投资100万美元(现汇率约合667.8万元人民币),这是Anthropic首次直接投资其他初创公司。Anthropic CEO达里奥.阿莫迪当时表示,这笔投资反映了公司对机制可解释性技术的重视,希望将黑箱神经网络转变为更容易理解和控制的系统。
温馨提示:投资有风险,选择需谨慎。
-
2026年券商APP月活榜:8家券商座次怎么排?选APP该看的3件事
2026-10-12 16:05
-
2026年可转债投资攻略:【可转债专题】帮你从入门到实操一站式搞定
2026-10-12 16:05
-
银证转账失败是什么原因?这4种情况最常见
2026-10-12 16:05



问一问
身份认证
分享该文章
