E131｜OpenAI动荡始末：两股硅谷势力的角逐与“执剑人”Ilya
E131｜OpenAI动荡始末：两股硅谷势力的角逐与“执剑人”Ilya  
Podcast: 硅谷101
Published On: Thu Nov 23 2023
Description: 在OpenAI董事会发起的这场“政变”的五天中，OpenAI的权力更迭在不停反转，每一次反转都可以称之为教科书般的公关案例与博弈策略。经历五天的攻防战，最终还是以原CEO Sam Altman的回归且更换董事会成员收尾。 如果要追溯这场矛盾的根源，从ChatGPT的发布开始，内部已经有了不同的声音。而从OpenAI创建到今天，内部也已经经历了三次大的分裂。 OpenAI的组织架构也是商业史上的一次创新，非营利性的组织形态是为了保证让AI安全的发展，而公司架构则是为了AI发展提供必要的资金。但这两种思想如何共存，安全发展AI的度在哪里，硅谷一直有两种声音，这两种声音也存在于OpenAI的董事会中。 这期节目，我们着重从另一个OpenAI的核心人物Ilya Sutskever的视角，也被看作是对这次OpenAI内乱起着最关键作用的一个人，来看看OpenAI这些积累已久的矛盾到底是什么。 另外，感谢VSP投资人培训营项目对本期节目的支持，如果大家对这个项目感兴趣，更多信息可以在这里找到 (https://mp.weixin.qq.com/s/AH5sQaMMtHcrSXxLMnFsNQ)，报名链接在这里 (https://forms.gle/wbU1VwD1HAGeNyNi8)。如果大家有任何问题，可以发邮件到vsp@sav.vc 咨询详情。本项目每个季度开营一次，报名链接长期有效。 【主播】 泓君，《硅谷101》播客主理人 【嘉宾】 陶芳波，人工智能公司MindOS创始人 周恒星Kevin，英文科技媒体Pandaily创始人 陈茜，《硅谷101》视频主理人 【你将听到】 00:10 VSP训练营 02:34 正片 04:28 截止11月20日晚上OpenAI三次反转时间线梳理 09:56 ChatGPT发布已出现分裂：追求商业化，还是以研究为中心？ 12:31 OpenAI成立八年以来的三次决裂 14:43 事发前三天采访Sam Altman，原本打算庆祝ChatGPT一周年 16:04 OpenAI的铁三角：Ilya负责研发、Greg负责技术、Mira负责产品 19:08 OpenAI的两派一直在激烈斗争 21:00 “董事会告诉员工，为了使命哪怕毁灭公司也在所不惜” 23:24 安全问题是如何成为关注焦点的？有效利他主义与有效加速主义两种势力的角逐 25:35 Ilya的超级对齐：对人类文明底层的爱 29:35 Ilya Sutskever PK Sam Altman，谁是OpenAI的灵魂人物 32:41 OpenAI组织的独特之处 34:50 Sam Altman：真诚、做事滴水不漏，但不懂技术 39:52 OpenAI的董事会成员与有效利他主义的关系 43:01 董事会背后千丝万缕的联系：扎克伯格、Open Philanthropy与Anthropic 47:46 三名董事会成员今年突然退出，力量失衡 49:09 有效加速主义与有效利他主义的历史渊源 54:09 “执剑人”Ilya：同样担心AI风险，但不以放弃发展为目标 56:48 OpenAI事件的行业影响 【董事会成员】 【员工董事】 Sam Altman：Open AI前CEO Ilya Sutskever：OpenAI首席科学家 Greg Brockman：OpenAI前董事长兼总裁 【独立董事】 Adam D’Angelo：Quora的联合创始人兼职CEO Tasha McCauley：机器人公司Fellow Robots首席执行官 Helen Toner：乔治城大学安全与新兴技术中心战略总监 【出事前几个月退出的董事】 Reid Hoffman：OpenAI投资人，因投资另外一家AI公司担心利益冲突在今年3月退出。 Will Hurd：前共和党联邦众议员 Shivon Zilis：脑机接口公司Neuralink总监，因马斯克连带关系，紧随其后退出董事会。 【初步新董事会成员】 Bret Taylor：Salesforce前联合首席执行官 Larry Summers：美国前财政部部长 Adam D’Angelo：Quora的联合创始人兼职CEO 【名词解释】 Anthropic 是一家美国的人工智能（AI）初创企业和公益公司，由OpenAI的前成员Dario Amodei和Daniela Amodei在2021年创立。现任CEO为Dario Amodei。 Open Philanthropy 开放慈善事业，是一个研究和赠款基金会，根据有效利他主义的原则发放赠款。它是由GiveWell和Good Ventures自2011年起合作成立的。2021年Holden Karnofsky卸任CEO之后，现在CEO为Alexander Berger。 有效利他主义 英文是Effective Altruism，简称EA，有效利他主义是一个哲学和社会运动，倡导“利用证据和理性来找出如何尽量多地造福他人，并基于此采取行动”。在本期的内容中代表“AI需要仔细缓慢的发展”。 有效加速主义 英文是Effective Accelerationism，简称E/ACC，有效加速主义涉及加速或强化社会或经济中特定过程或趋势，以更快速或更有效地实现期望的结果。在本期的内容中代表“AI需要大胆快速的发展”。 【相关阅读】 《硅谷101》视频 AI保守派大战激进派，我们细扒了OpenAI董事会每一位成员 (https://www.bilibili.com/video/BV1Du4y1L7k3/?share_source=copy_web&vd_source=226de9e23cacb2de23cb9851509e38c0) Sam Altman回归！聊聊“叛变者”的恐惧与信念：OpenAI技术灵魂人物Ilya Sutskever (https://www.bilibili.com/video/BV1Zz4y1c7wv/?share_source=copy_web&vd_source=226de9e23cacb2de23cb9851509e38c0) 【后期】 AMEI 【BGM】 Anticipating a New Day - Stationary Sign Interruption - Craft Case For One Brief Day - Francis Wells 【Shownotes】 Jessica 【在这里找到我们】 公众号：硅谷101 收听渠道：苹果｜小宇宙｜喜马拉雅｜蜻蜓FM｜网易云音乐｜QQ音乐｜荔枝播客 海外用户：Apple Podcast｜Spotify｜TuneIn｜Google Podcast｜Amazon Music 联系我们：podcast@sv101.net