作者:吴遇利 来源:澎湃新闻 发布时间:2023/11/23 11:01:39
选择字号:
研究人员致信OpenAI董事会,一项AI发现或威胁人类

经历了反转再反转的OpenAI“政变大戏”落幕,不过OpenAI内部并没有因此迎来平静。

当地时间11月22日,据路透社报道,在CEO山姆·奥特曼(Sam Altman)被解雇前,几名研究人员向OpenAI董事会致信,警告称一项强大的AI(人工智能)发现可能威胁到人类。

消息人士称,这封警告信和其中的AI算法正是奥特曼被罢免的催化剂,因为他是OpenAI内力推AGI(生成式人工智能)的典型代表。此外,这封信不仅让董事会对AI的发展产生了担忧,还对奥特曼本人产生了不满。不过信件的具体内容还不得而知。

由于在AI技术和安全上无法与董事会部分成员达成一致,奥特曼突遭罢免,并引发了一系列动荡。在700多名员工以辞职并加入微软向公司发出威胁后,奥特曼已经凯旋。

当地时间11月21日半夜, OpenAI宣布,已经原则上达成协议,前CEO奥特曼将重返公司担任CEO,以及“组建由董事会主席Bret Taylor、Larry Summers和Adam D'Angelo组成的新董事会”。

此外,消息人士透露,在OpenAI任职多年的首席技术官米拉·穆拉蒂(Mira Murati)周三告诉员工,一封关于Q*(发音为 Q-Star)AI取得突破的信件促使董事会采取了解雇行动。

OpenAI在Q*上取得的进展,让部分公司内部人士相信,这可能是他们找到“超级智能(即AGI)”的突破。OpenAI将AGI定义为“比人类更聪明的AI系统”。

这名消息人士称,虽然Q*的数学成绩只是小学生的水平,但在此类测试中取得的良好表现让研究人员对其未来的成功非常乐观。

(原题:OpenAI宫斗前传?研究人员致信董事会,一项强大的AI发现可能威胁人类)

特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
打印 发E-mail给:
Baidu
map