又一安全团队被收场! 执着于创收的OpenAI似乎无暇顾及AI安全

（原标题：又一安全团队被收场! 执着于创收的OpenAI似乎无暇顾及AI安全）

智通财经APP获悉，一位已辞职的OpenAI团队负责东谈主称，科技巨头微软(MSFT.US)斥巨资支握的OpenAI正在收场其集中于AI安全磋议的“AGI Readiness”团队，该团队也曾负责向这家AI初创公司提供若何处理与搪塞越来越坚决的AI技能方面的处理决策与提出，以及提供现时宇宙是否准备好料理这些技能方面的提出。“AGI Readiness”团队也曾的团队主宰暗示，但愿在外部不息AGI领域的斟酌磋议。近期越来越多迹象标明，OpenAI似乎全身心过问AI创收，无暇顾及AI安全。

OpenAI的经济磋议团队，直到最近照旧由帕梅拉·米什金指导的AGI Readiness的一个首要子团队，后续将由OpenAI的新任首席经济学家罗尼·查特吉全面指导。与此同期，AGI Readiness的高等参谋人迈尔斯·布伦戴奇在Substack帖子中晓喻去职时暗示，剩下的AGI Readiness团队将被分拨到其他团队。

布伦戴奇暗示，他离开OpenAI的主要原因包括契机成本变得至极高。布伦戴奇指出：“需要明确的是，天然我不会说我老是喜悦OpenAI在公拓荒行方面的长期态度，但我照实合计在行业中存在一些公拓荒行层面的放置是合理的(我匡助撰写了OpenAI政策的几个首要版块)，但对我来说，这些放置照旧至极多了。”

布伦戴奇还暗示，他但愿减少偏见，况且强调他照旧完成了他在OpenAI的主义。此外，布伦戴奇野心创办我方的非牟利组织或者加入现存的非牟利组织，专注于东谈主工智能安全政策磋议以及东谈主工智能宣传推欺诈命。

“咱们弥散支握迈尔斯本东谈主在行业除外从事政策磋议的决定，并深深感谢他的孝顺。他野心负重致远地开展东谈主工智能政策的孤立磋议，这使他有契机在更大范围内产生影响，咱们很欢乐能从他的使命中学习到好多本体并存眷其影响，”OpenAI发言东谈主在给Seeking Alpha的电子邮件声明中暗示。

对于OpenAI和宇宙对通用东谈主工智能(AGI)的准备情况，布伦戴奇公开暗示：“简而言之，OpenAI和其他前沿的东谈主工智能实验室都莫得作念好准备，宇宙也莫得作念好准备。”

凭据媒体涌现信息的汇总，这照旧不是OpenAI第一次收场与AI安全密切斟酌的团队。有媒体报谈称，在本年7 月份，OpenAI 将公司最高等别安全主宰之一亚历山大·马德里再行分拨到东谈主工智能推理方面的磋议使命。据报谈，民主党扣问员也曾致信OpenAI首席现实官萨姆·奥尔特曼，扣问OpenAI若何处理新出现的东谈主工智能安全问题，而再行任命马德里的决定即是在这个时辰所作念出。

此外，在更早前的本年5月，OpenAI决定收场其刚刚建立一年的“超等对都”团队(Superalignment team)，该团队专注于AI的长期风险。

据了解，OpenAI于旧年建立的“超等对都”团队，专注于“科学和技能冲破，以指令和限度比东谈主类愈加智能的东谈主工智能系统”。该团队在5月份被收场，指导东谈主Ilya Sutskever和Jan Leike接连晓喻去职。Leike在X上发帖称，OpenAI的“安全文化和历程，照旧让位于光鲜的居品”。

OpenAI似乎全身心过问AI创收，无暇顾及AI安全

近期多个迹象显露，生成式AI领域的指导者OpenAI竭力于于在闲散民众列国对于东谈主工智能的监管法律证实的这一前提下，全身心过问于利用该公司所研发的民众最坚决AI大模子杀青广博营收，似乎全然无暇顾及AI安全。

据悉，OpenAI近日晓喻，照旧遴聘前优步高管斯科特·斯库尔斯(Scott Schools)担任该公司的首位“首席合规官”，以支握这家东谈主工智能初创公司奋力安妥围绕东谈主工智能技能发展的新兴民众监管法律证实。这次首要的高管招聘偶合大泰西两岸的监管机构围绕OpenAI和其他科技公司着手进的东谈主工智能大模子制定监管政策之际。

成效招募来前优步首席谈德与合规官，被媒体解读为其在民众东谈主工智能业务延伸和搪塞日益复杂的民众东谈主工智能监管环境中作念出战术性的调遣。跟着民众对东谈主工智能技能的监管趋严，OpenAI正在积极罗致顺序，以确保其各项业务将来八成在民众范围合规运营并闲散列国的东谈主工智能监管法律证实条款。

有不雅察东谈主士指出，此举显涌现OpenAI的民众延伸洪志，况且强调合规性是其进入新市集的关节一环。跟着AI技能在民浩繁个行业的擢升，如安在合规和变嫌之间取得均衡，幸免东谈主工智能法律法律证实风险，是公司民众扩展的中枢挑战。毫无疑问，斯库尔斯的加入将使OpenAI八成更好地处理不同国度的东谈主工智能监管条款，从而为其各项业务进入除北好意思除外的更多市集奠定基础。

除了聚焦于民众围绕东谈主工智能发展的复杂监管环境，OpenAI近期还在加快鞭策“高质地本体获取路线正当化”，为其民众范围的业务延伸奠定首要基础。其中包括与民浩繁元化媒体巨头赫斯特 (Hearst Communications Inc.) 达成一项首要条约，将这家新闻与买卖信息出书商的杂志和报纸本体引入该所公司所拓荒的风靡民众的AI聊天机器东谈主——ChatGPT，这项条约可谓为这家东谈主工智能初创公司与民众顶级媒体公司们签署的一系列互助条约添加首要一笔。

通过取得来自多元化媒体巨头赫斯罕见顶级媒体的追究授权本体，OpenAI的AI聊天机器东谈主居品经锻练优化之后将能提供更多高质地本体，且八成援用经过专科审核的版权本体进行推理分析。这不仅大幅增强了ChatGPT的本体输出质地，还使得其本体更具着实度，眩惑民众范围内的更多用户信任其生成的信息，进而杀青订阅营收增长。

AI初创公司OpenAI的估值现时领跑民众总计初创公司，OpenAI在10月早些时辰晓喻，该公司已筹集到66亿好意思元的最新资金支握，这使其最新的估值达到惊东谈主的1570亿好意思元。OpenAI在博客中暗示，这笔新资金将使该生成式东谈主工智能公司加大对AI磋议的指导地位、加多狡计才略，并“不息拓荒匡助东谈主们处理复杂问题的器具”。媒体征引知情东谈主士的话报谈称，微软在这次融资中过问大要7.5亿好意思元，进一步加码其此前的130亿好意思元投资范畴。

非牟利性质的OpenAI执着于拓展更多营收路线的背后，可能在于OpenAI热切需要更多资金来进行大模子锻练迭代，以及需要愈加盛大的AI GPU算力体系来相沿其推理功能愈发坚决的AI大模子(比如近日推出的推理才略无与伦比的o1-previews)，其在成本市集合融到的资金可能不及以闲散OpenAI愈发盛大的“烧钱预期”。

有预测数据显露，展望OpenAI需要到2029年能力杀后生度盈利，况且展望到本十年末，不计股票薪酬，OpenAI将耗资大要2000亿好意思元，展望2023年至2028年的损失总和将达到440亿好意思元。这份预测讲解显露，OpenAI的很大一部分开支是面向大模子锻练迭代以及推理算力逐年剧增，展望到2026年，OpenAI每年的成本将高达95亿好意思元。凭据该讲解，该公司向上2000亿好意思元的开支中展望60%至80%将用于锻练迭代以及支握大模子愈发坚决的推理才略。