张宏江对话OpenAI CEO:AGI会从根本上改变文明,不会很快有GPT-5
•
2023-06-11 00:00:00
•
Meta •
阅读
6月10日,OpenAI创始人Sam Altman以视频连线的方式现身于中国北京举办的2023智源人工智能大会,这是Altman首次对中国观众发表演讲。
Altman在演讲中引用了《道德经》,谈及大国合作,表示AI安全始于足下,各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。
张宏江博士目前任北京智源人工智能研究院理事长,同时担任多家公司的独立董事和顾问。曾任金山集团执行董事及首席执行官兼金山云的首席执行官,是微软亚洲研究院创始人之一,曾担任副院长、微软亚太研发集团(ARD)首席技术官及微软亚洲工程院(ATC)院长以及微软“杰出科学家”。
加盟微软之前,张宏江曾任美国硅谷的惠普实验室任经理;此前还在新加坡国立大学系统科学研究院工作。
Altman演讲核心内容:
- 当下人工智能革命影响如此之大的原因,不仅在于其影响的规模,也是其进展的速度。这同时带来红利和风险。
- 随着日益强大的 AI 系统的出现,全球合作的重要性从未如此之大。在一些重要的大事上,各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。
- 对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级,主要分为扩展性和可解释性两方面。
问答环节核心内容:
- 十年内人类将拥有强大的人工智能系统(AI System)。
- OpenAI没有相关的新的有关开源的时间表,开源模型具有优势,但开源一切可能并不是一条(促进AI发展的)最佳路线。
- 看明白神经网络比看明白人类脑子容易多了。
- 在某个时候,会尝试做GPT-5的模型,但不会是很快。不知道具体GPT-5出现的时候。
- AI安全需要中国研究者的参与和贡献。
注:“AI对齐”是AI控制问题中的最主要的问题,即要求AI系统的目标要和人类的价值观与利益相对齐(保持一致)。
Play Video
Sam Altman演讲内容:
随着日益强大的人工智能系统的出现,全球合作的赌注从未如此之高。
- 星际资讯
免责声明:投资有风险,入市须谨慎。本资讯不作为投资建议。
下一篇:CoinDesk CCO:SEC对加密货币展开了全面政治战斗
« 上一篇
上一篇:深入探讨BTC Layer2的前世今生与未来
下一篇 »