尽管一度被解雇的OpenAI联合创始人奥尔特曼已“官复原职”,但这起戏剧性事件背后似乎隐含着对科技与人类的担忧,目前OpenAI有可能已发展出超越人类的“通用人工智能”。对AI发展应持谨慎或开放态度?开发者意见不一。
就在奥尔特曼(Sam Altman)被ChatGPT母公司OpenAI解雇前不久,内部人士称,该公司董事会收到了关于人工智能领域重大发现的警告。两位熟悉此事的人士11月22日告诉媒体,该公司开发人员在信中表示,他们认为此一发展将可能对人类构成威胁。
这封此前未公开的信是生成式人工智能代表人物奥尔特曼遭到解雇前的一个关键。内部人士说,这封信是导致阿尔特曼之前被解雇的一长串不当行为其中一项。
原首席技术官、前临时CEO穆拉蒂(Mira Murati)曾在周三向员工提及名为“Q*”的项目,并表示在上周末的奥尔特曼解雇事件发生前已向董事会发出了一封信件。
OpenAI在“Q*”项目上取得了进展,一些员工认为这代表着这家初创公司在寻求“通用人工智能”(AGI,又称超级智能)方面取得了突破。 OpenAI将“通用人工智能”定义为比人类更智能的人工智能系统。
迄今为止,生成式人工智能为人类的工作提供了支持,例如总结冗长的文本。然而,一些专家警告道,这些程序可能会发展成为“通用人工智能”,在人类不干预的情况下承担越来越复杂的任务。他们担心,这些软件可能会控制国防系统、传播政治宣传甚至生产武器。
奥尔特曼上周于亚太经合组织峰会上曾暗示,他认为“通用人工智能”指日可待。他当时提到:“在OpenAI的历史上,我曾四次有幸亲临现场。最近一次是在过去的几周里,我们揭开了无知的面纱,推动了发现的极限,这是我一生的职业荣誉。”一天之后,监事会解除了奥尔特曼的职务。
围绕奥尔特曼被解职和重新回到OpenAI的混乱局面,是人工智能两大思想流派角力的结果。一派是像奥尔特曼这样的人,他们希望推动人工智能发展,并向大众公开新版本。只有如此,这项技术才能得到适当的测试和完善。
另一派人则主张在这些程序公开之前,先在实验室进行彻底测试,特别是那些可以根据几个关键字创建文本、图像或视频的生成式人工智能。
人工智能公司ConjectureAI 的负责人、谨慎态度的倡导者莱希(Connor Leahy)问道:“这是否只是类似社交媒体或加密货币的另一种产品?还是说,这是一种有能力超越人类并变得无法控制的技术?”