贫穷限制 AI 想象？｜硅谷徐老师对话英伟达、DeepMind 大模型专家（下）
贫穷限制 AI 想象？｜硅谷徐老师对话英伟达、DeepMind 大模型专家（下）  
Podcast: What's Next｜科技早知道
Published On: Thu Aug 17 2023
Description: 年初火爆一时的斯坦福 Smallville「虚拟小镇」，现在宣布正式开源。硅谷人正在 all-in（全力投入） AI 智能体，希望能够创造出一个真实存在，又让人惊喜的「西部世界」，甚至让 AI 智能体们走入寻常人家，为人类的生活和工作效率带来巨大提升。 本期「科技早知道」与「OnBoard!」串台，由硅谷徐老师和合作主播 Monica 共同主持，邀请了曾在 OpenAI 工作和实习，从事 AI 智能体、大模型研究领域的两位大牛参与录制。他们分别是英伟达高级 AI 研究科学家 Jim Fan，和谷歌 DeepMind 研究员戴涵俊。 AI 智能体何时能够进入我们的生活，面临哪些挑战？为什么当今的大模型更像是「炼金术」？ Llama 2 为何刚一发布就刺激大量创新出现？ 在 AI 研究的道路上，如何避免被「贫穷限制了想象」？如果你想通过硅谷 AI 一线精英从业者那里了解未来即将发生的事情，这期节目一定不能错过。 （考虑到节目时间总长，分为上下两期发布。上半期 (https://guiguzaozhidao.fireside.fm/20220178)昨天已经发布，你现在听到的是下半期。由于话题专业性和嘉宾表达习惯，在本期节目中你可能会听到更多英文术语，请听友见谅。不明白的可以在小宇宙上留言提问，我们会尽力回答！） 主要话题 [01:35] 多模态模型是怎样工作的？为什么 Llama 2 对于大模型生态带来巨大推动？ [16:28] 要能够处理多模态模型的数据，有哪些核心的难点？ [19:59] 对于 Jim 和涵俊，在 OpenAI 实习和工作的哪些印象最深刻？ [21:32] 2016 年，GPT/ChatGPT 的「影子」在 OpenAI 内部浮现 [27:47] 当学术界被「贫穷」限制了想象：OpenAI 开创一种新的模型训练思维模式，让学术界自然语言研究大牛都觉得传统模式要完蛋了 [34:32] 做大语言模型，最被高估和低估的挑战是什么？ [40:18] 10-15 年后，纯语言模型的智商可能已经超越人了 [46:40] 普通人练就 critical thinking 本领，才能更好迎接 AI 时代的到来 [60:19] Jim 被贝索斯关注的时候在想什么？ [61:40] 涵俊、Jim 和徐老师的结尾寄语 本期人物 Jim Fan，英伟达高级 AI 研究科学家，曾在 OpenAI 实习，博士期间就读于斯坦福大学。 戴涵俊，Google DeepMind 研究员，曾在 OpenAI 工作，博士期间就读于乔治亚理工大学。 硅谷徐老师，硅谷连续创业者、人工智能高管、斯坦福商学院客座讲师，「科技早知道」主播 ｜推特：@H0wie_Xu｜ 微信公众号：硅谷云 | AI 英文博客：howiexu.substack.com Monica，播客节目 Onboard! 主理人，美元 VC 投资人，前 AWS 硅谷团队+AI 创业公司打工人，公众号：M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学 延伸阅读 - 关于多模态：给静态大预言模型增加视觉能力的论文 (https://arxiv.org/abs/2204.14198) - 关于openai早先用game来解锁泛化能力的论文 (https://openai.com/research/procgen-benchmark) 往期节目 - AI Agent 智能体 真相和未来 | 硅谷徐老师对话英伟达、DeepMind大模型专家（上） (https://guiguzaozhidao.fireside.fm/20220178) - 超级独角兽 Databricks 联合创始人：从对决 Snowflake，到人类如何与 AI 共存 ｜ S7E21 硅谷徐老师 (https://guiguzaozhidao.fireside.fm/20220174) - 通用人工智能离我们多远，大模型专家访谈 ｜S7E11 硅谷徐老师 x OnBoard! (https://guiguzaozhidao.fireside.fm/20220162) - AI大神贾扬清离职阿里后首次受访:创业为什么不做大模型｜硅谷徐老师 S7E07 (https://guiguzaozhidao.fireside.fm/20220158) 加入我们 声动活泼正在招聘「节目监制」和「声音设计师」，查看详细讯息请 点击链接 (https://sourl.cn/j8tk2g) 。如果你正准备在相关领域发挥专长、贡献能量，请联系我们。 欢迎加入声动胡同会员计划 (https://sourl.cn/iCVg6n) 成为声动活泼会员，支持我们独立而无畏地持续创作，并让更多人听到这些声音。 支付 ¥365/年 (https://sourl.cn/ZPb9Dm) 成为声动胡同常住民。加入后，你将会在「声动胡同」里体验到专属内容、参与社群活动，和听友们一起「声动活泼」。 在此之前，也欢迎你成为声动胡同闲逛者 (https://sourl.cn/ZPb9Dm) ，免费体验会员内容、感受社群氛围。 了解更多会员计划详情，我们在声动胡同等你。 (https://sourl.cn/4xPkEf) 幕后制作 监制：杜晨、闻晓（实习）、刘灿、东君 后期：迪卡普里鑫、六工（实习） 运营：瑞涵、Babs 设计：饭团 商务合作 声动活泼商务合作咨询 (https://sourl.cn/6vdmQT) 关于声动活泼 用声音碰撞世界。声动活泼致力于为人们提供源源不断的思考养料。 我们还有这些播客：声东击西 (https://etw.fm/episodes)、What's Next｜科技早知道 (https://guiguzaozhidao.fireside.fm/episodes)、声动早咖啡 (https://sheng-espresso.fireside.fm/)、商业WHY酱 (https://msbussinesswhy.fireside.fm/)、跳进兔子洞 (https://therabbithole.fireside.fm/)、反潮流俱乐部 (https://fanchaoliuclub.fireside.fm/)、泡腾 VC (https://popvc.fireside.fm/)、吃喝玩乐了不起 (https://urbanfloat.fireside.fm/) 如果你想获取热门节目文字稿，请添加微信公众号 声动活泼 如果想与我们交流，欢迎到即刻 (https://okjk.co/Qd43ia)找到我们 也期待你给我们写邮件交流，邮箱地址是：ting@sheng.fm 如果你喜欢我们的节目，欢迎 打赏 (https://etw.fm/donation) 支持，或把我们的节目推荐给朋友 Special Guests: Jim Fan, Monica, and 戴涵俊.