非营利组织加入马斯克行列,阻止 OpenAI 向营利性转型
CBISMB
责任编辑:张金祥
ISMB
时间:2024-12-31 15:07
Encode OpenAI 马斯克
在科技界引发广泛关注的OpenAI营利性转型风波中,非营利组织Encode正式站队,请求法庭支持伊隆·马斯克的禁令,共同阻止OpenAI的这一重大变革。Encode不仅是加利福尼亚州SB 1047人工智能安全法案的共同发起人,更在此次事件中扮演了关键角色,力图维护人工智能技术的公共安全和公众利益。
Encode在提交给美国加州北区地方法院的法庭之友陈述中,明确指出OpenAI转为营利性公司将对其原有的使命造成严重破坏。Encode认为OpenAI自成立以来,一直以安全和公众利益为首要目标,致力于开发和部署变革性的人工智能技术。然而,一旦转变为营利性公司,其首要目标将转变为为少数特权投资者创造财务回报,这将严重威胁到人工智能技术的安全性和公众利益。
Encode的创始人兼总裁Sneha Revanur在声明中严厉指责OpenAI“将人工智能的利润内部化,却将后果外部化给全人类”。她表示,这种转变不仅违背了OpenAI的初衷,更将人工智能技术的发展置于危险境地。因此,Encode请求法院介入,确保人工智能的发展符合公众利益。
Encode的陈述获得了人工智能领域的多位重量级人物的支持,包括2024年诺贝尔奖获得者Geoffrey Hinton和加州大学伯克利分校计算机科学教授Stuart Russell。他们一致认为,OpenAI的转变将对其安全承诺产生严重负面影响,并向生态系统中的其他参与者发出错误信号。
OpenAI自2015年成立以来,一直作为非营利研究实验室运营。然而,随着人工智能技术的不断发展,实验变得越来越资本密集,OpenAI不得不接受来自风险投资公司和微软等公司的外部投资。虽然OpenAI目前拥有混合结构,但其非营利组织部分已计划将控制权转让给特拉华州公益公司(PBC),以实现营利性转型。
作为OpenAI的早期捐助者之一,马斯克率先提起诉讼,要求法院颁布禁令阻止这一变革。他指责OpenAI放弃了其最初的慈善使命,并通过反竞争手段剥夺竞争对手的资本。此外,Facebook的母公司和AI竞争对手Meta也支持阻止OpenAI转变的努力。
Encode陈述OpenAI计划将其运营控制权转让给PBC将使其从受法律约束以确保先进人工智能安全的组织转变为受法律约束以“平衡”其对公共利益的考虑与“股东的经济利益”的组织。这将严重威胁到人工智能技术的安全性和公众利益。
Encode还指出OpenAI的非营利组织部分已承诺停止与任何接近于在它之前建立AGI的“价值一致、安全意识强的项目”竞争。然而,一旦转变为营利性组织,其这样做的动机将大大减少。同时,一旦公司重组完成,非营利组织OpenAI的董事会将不再能够出于安全需要取消投资者的股权。
OpenAI的转型计划不仅引发了外界的广泛争议,还导致了公司内部的高级人才外流。部分员工担心公司优先考虑商业产品而牺牲了安全性。其中一位前雇员Miles Brundage在离开OpenAI后表示,他担心OpenAI的非营利组织将成为“附带事务”,让PBC可以作为一家“正常公司”运营而无需解决潜在的问题领域。
Encode在陈述中强调,如果OpenAI坚持将其控制权移交给一家没有可执行安全承诺的营利性企业,那么公众利益将受到严重损害。因此,Encode呼吁法院介入并阻止这一变革的发生。