二维码
文文衫

扫一扫关注

当前位置: 首页 » 新闻资讯 » 企业新闻 » 正文

观点|山姆·奥特曼重返OpenAI我有一个问题要问他

放大字体  缩小字体 发布日期:2025-07-06 13:26:34    来源:本站    作者:admin    浏览次数:93    评论:0
导读

      OpenAI的优点之一是它建立在不信任的基础上。它最初是一个非营利性的研究实验室,因为它的创始人认为人工智能不应该

  

  

  OpenAI的优点之一是它建立在不信任的基础上。它最初是一个非营利性的研究实验室,因为它的创始人认为人工智能不应该由商业公司开创,因为商业公司主要受利润动机的驱动。

  随着它的发展,OpenAI变成了一个你可能会称之为富有成效的矛盾:一家由非营利董事会监管的营利性公司,企业文化介于两者之间。

  公司里的许多人似乎同时受到科学家想要发现的欲望、资本家想要运送产品的欲望和行善者想要安全完成这一切的欲望的激励。

  过去一周发生的事件——山姆?奥特曼(Sam Altman)被解雇、所有的戏剧性事件、他的重新聘用——都围绕着一个核心问题:这种富有成效的矛盾能否持续下去?

  一个组织或一个人能保持科学家的头脑、资本家的动力和监管机构的谨慎吗?或者,正如查理?沃泽尔(Charlie Warzel)在《大西洋月刊》(The Atlantic)上所写的那样,金钱总是会胜出吗?

  重要的是要记住,人工智能与科技界的其他领域有很大不同。它(或者至少曾经是)更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪前。即使在今天,该领域的许多巨头也主要是研究人员,而不是企业家——像扬·勒昆和杰弗里·辛顿这样的人,他们在2018年一起获得了图灵奖(诺贝尔计算奖),但现在他们对人工智能将把我们带到哪里存在分歧。

  直到最近几年,学术界的研究人员才陆续离开大学,涌向工业界。谷歌母公司Alphabet的研究人员;微软;OpenAI;和拥有Facebook的meta,仍然通过发表研究论文的方式相互交流,就像教授们做的那样。

  但这个领域也有最热门的创业领域的强度和大胆。在过去一年左右的时间里,当我与人工智能研究人员交谈时,我经常觉得自己站在每小时3英里的机场移动人行道上,而他们站在每小时4000英里的人行道上。研究人员不断告诉我,人工智能历史的这一阶段之所以如此令人振奋,正是因为没有人能预测接下来会发生什么。“作为一名人工智能研究人员的重点是你应该了解正在发生的事情。斯坦福大学博士候选人Rishi Bommasani告诉我。

  人工智能中的人似乎同时经历了完全不同的大脑状态。我发现写关于人工智能的文章非常困难,因为我们根本不知道这项技术会把我们带到天堂还是地狱,所以我对它的态度会随着我的情绪而改变。

  播客、麻省理工学院(mit)科学家莱克斯·弗里德曼(Lex friedman)以科技界的父亲忏悔者的身份出现,他表达了我一次又一次遇到的一连串情绪:“你坐下来,既像父母一样自豪,又几乎像骄傲和害怕,担心这个东西会比我聪明得多。”既像骄傲又像悲伤,几乎像一种忧郁的感觉,但最终是快乐的。”

  当我在5月份参观OpenAI总部时,我发现那里的文化令人印象深刻。我采访的许多人都是在OpenAI还是一个非营利研究实验室的时候来到这里的,在ChatGPT的喧嚣之前——当时我们大多数人都没有听说过这家公司。“我的父母并不真正了解OpenAI是做什么的,”产品经理乔安妮·张(Joanne Jang)告诉我,“他们说,‘你要离开谷歌?’”参与创建可视化工具dall - e2的研究人员马克·陈(Mark Chen)也有类似的经历。“在ChatGPT出现之前,我妈妈几乎每周都会给我打电话,她会说,‘嘿,你知道你可以停止四处游荡,去谷歌或其他公司工作了。’”这些人的主要动机并非金钱。

  即使在GPT成为头条新闻之后,在OpenAI就像身处飓风眼一样。“这里感觉比世界上其他地方要平静得多,”Jang告诉我。“从早期开始,它确实感觉更像是一个研究实验室,因为我们主要只招聘研究人员,”招聘人员埃琳娜·查齐亚塔纳西亚杜(Elena Chatziathanasiadou)告诉我。“然后,随着我们的成长,每个人都开始意识到,进步将来自工程和研究。”

  我在那里没有遇到任何技术兄弟,甚至没有人有那种“我们正在改变世界”的虚张声势,如果我是这项技术的先驱,我可能会有这种虚张声势。戴安·尹(Diane Yoon)的职位是人力部副总裁,她告诉我:“我想用认真这个词来形容这支队伍……认真。”

  通常情况下,当我作为一名记者访问一家科技公司时,我能见到的高管很少,而我采访的那些人都毫不留情地在传递信息。OpenAI只是发布了一张登记表,让人们来和我交谈。

  我承认,我曾经带着一种防御性的人文主义势利感进入这些科技公司:我告诉自己,这些人可能懂代码,但他们可能不懂真正重要的文学和哲学。

  我在OpenAI感到谦卑。他从小是一名舞蹈演员,并扮演莎士比亚。尼克·莱德(Nick Ryder)是加州大学伯克利分校的一名数学家,在成为OpenAI研究员之前,他对有限微分卷积很感兴趣。几个人提到了一个研究方面的同事,他本科学习物理学,在茱莉亚音乐学院学习了两年钢琴,然后获得了神经科学的研究生学位。其他人告诉我,他们最初的学术兴趣是心灵哲学、语言哲学或符号系统。公司技术人员Tyna Eloundou在加入OpenAI之前学习过经济理论,并在美联储工作过。

  尽管他们都给人留下了深刻的印象,但我记得我告诉自己:这不会持续太久。我以为到处都是钱。这些人可能是认真的研究人员,但不管他们是否意识到这一点,他们仍然在竞争推出产品,创造收入并成为第一名。

  很明显,人们在安全问题上存在分歧。一方面,安全是每个人都关心的问题。例如,我问Marc Chen在戴尔- e 2发布那天的心情。“很多时候只是这种忧虑的感觉。比如,我们拿到保险了吗?”另一方面,与我交谈的每个人都致力于OpenAI的核心使命——创造一种能够实现人工智能的技术,能够在广泛的任务中匹配或超越人类智能。

  在人工智能这个领域,杰出的人们描绘出截然不同但又有说服力的前景。风险投资家马克?安德森(Marc Andreessen)强调,它将极大地改变世界,让世界变得更美好。认知科学家加里·马库斯(Gary Marcus)描绘了一个同样有说服力的场景,说明这一切可能会出错。

  没有人真正知道谁是对的,但研究人员只是继续努力。他们的行为让我想起了艾伦·图灵(Alan Turing)在1950年写的一句话:“我们只能看到前方很短的距离,但我们可以看到有很多事情需要做。”

  我曾希望OpenAI能够应对这种紧张局势,尽管当时也存在担忧。正如OpenAI首席运营官布拉德?莱特卡普(Brad Lightcap)告诉我的那样:“最重要的是,在我们成长的过程中保持公司文化和使命导向。如果你诚实地问我,真正让我感到不安的是,你是如何大规模地保持这种专注的。”

  这些话很有先见之明。组织文化不容易建立,却很容易被摧毁。世界的真正安全被这样一个问题所包裹:刚刚释放出来的奥特曼是会保持卓有成效的矛盾,还是会屈服于go-go-go -go的压力?

  大卫·布鲁克斯(David Brooks)自2003年以来一直是时报的专栏作家。他最近的著作是《如何了解一个人:深入观察他人和被他人深刻观察的艺术》。@nytdavidbrooks

 
(文/admin)
打赏
免责声明
• 
部分文章来源于网络,我们均标明出处,如果您不希望我们展现您的文章,请与我们联系,我们会尽快处理。
0相关评论
 

(c)2023-2023 www.whsdu.com All Rights Reserved

赣ICP备16007947号-10