是什么让OpenAI成为生成式人工智能的领导者？OpenAI的关键优势是什么？AI的发展将带来哪些机遇和风险？
OpenAI首席执行官山姆·阿尔特曼（Sam Altman）和该公司联合创始人、首席科学家伊尔亚·苏茨克维（Ilya Sutskever）在6月6日参加特拉维夫大学的访谈时，发表了自己的观点。
此外，他们还谈到AI在科学发现中的作用，阿尔特曼认为科学和技术进步是让生活变得更好、让世界变得更好的唯一可持续方式，并且二人对AI解决人类的医疗问题和气候问题等抱有十分积极的态度。
访谈的核心观点如下：

1.AI的发展虽然会创造新的就业机会，但不否认这会导致一个长期的经济不稳定时期。

2.我们需要一个适当的框架来控制AI技术的使用。

3.AI可以帮助我们进行目前无法做到的科学发现，我们可以了解宇宙的奥秘。

4.科学和技术进步是让生活变得更好、让世界变得更好的唯一可持续方式。
以下为对话整理（有删减）：
主持人：欢迎来到特拉维夫大学，我是纳达夫·科恩，计算机科学学院的教员。非常高兴邀请到OpenAI的CEO山姆·阿尔特曼和首席科学家伊尔亚·苏茨克维。
阿尔特曼：谢谢你邀请我们。
主持人：好的。你认为是什么让OpenAI成为生成式人工智能的领导者？尤其当竞争对手更强、拥有更多资源时，OpenAI的关键优势是什么？
阿尔特曼：专注和信念。我们相信未来公司会发展得更大，我们更专注于所做的事情。我们的人才密度很大，人才密度非常重要。并且我们有一种严谨和可重复创新的文化，这是很难得和罕见的。
苏茨克维：AI的发展是信仰的游戏。你越有信心，就越能取得进步。如果你有很大的信心，你可以取得最大的进步。你必须相信这个想法并推动它，你相信得越多，你就越努力，这就是进步的原因。

机遇和风险

主持人：我想谈谈风险，这是一个经常被讨论的话题，并且很重要。我们可以想象到的风险至少有三类。一个是经济混乱，人们的工作被替代，诸如此类。另外，如果被不怀好意的人使用，例如黑客，那么它可能会变成一种强大的武器。最令人担忧的是，它最终可能会成为一个失控的系统，即使是触发它做某事的人也无法阻止它。我想知道你对每种情况的看法。
苏茨克维：好的，你提到了三种风险的可能情景，经济混乱、黑客、超级AI（AI失控）。首先，经济混乱确实会发生，我们已经看到了有些工作正在受到影响。部分工作是被正向影响的，如果你是一名程序员，你则不用再亲自编写函数。然而，如果你是一名艺术家，情况就有点不同了，因为艺术家很大一部分的经济活动已经被一些图像生成器占据了。确实，AI的发展虽然会创造新的就业机会，但不否认这会导致一个长期的经济不稳定时期。我们需要想办法减轻打击，能够更平稳、顺利地迎来全新的职业。

关于“黑客”，这是一个棘手的问题。事实上，AI将是强大的，它可能被不良行为者以强大的方式使用。因此我们要效仿在使用其他非常强大和危险的工具时采取的措施，给AI制定一个类似的框架。我们不是在谈论如今的AI，我们谈论的是随着时间的推移，能力不断增加，不断发展到一定程度的AI。到了这一步，它可用于惊人的应用程序，也许可以包治百病。但另一方面，也可以创造一种比以往都更糟糕的疾病，后果不堪设想。因此，我们需要一个适当的框架来控制AI技术的使用。
AI失控将是非常糟糕的，因此，建造一个我们不知道如何控制的超级智能将是一个巨大的错误。
阿尔特曼：我非常同意最后一句，这点没有什么补充。但关于经济方面，其实很难解释将会如何发展。现在世界上有太多过剩的需求，而这些人工智能系统非常善于帮助完成任务。目前从短期内看来，大多数工作结合AI的结果是不错的。这将是一个巨大的生产力增长，如果你能让程序员的生产力提高两倍，那么世界需要的代码量就会增加两倍以上。所以一切都很好。
从长远来看，我认为这些系统将会做越来越复杂的事情和工作类别。一部分工作会消失，但另一部分工作会很需要人类。举个例子，当深蓝击败卡斯帕罗夫时，世界第一次看到了人工智能。每个人都说，象棋彻底完了，没有人会再下棋了，因为它不好玩了。事实上，国际象棋从未像现在这样受欢迎。人类的棋技越来越好了，期望值也提高了。我们可以用这些工具更好地学习，人们也仍然很想玩。所以这种发展是特别的和有价值的。
以国际象棋为例，人们观看人类下棋的次数比以往任何时候都多，因为没有多少人喜欢看两个AI互相比赛。所以我认为这些事情的发展很难预测。人类渴望与众不同，创造新事物，获得某种地位，我认为这不会有任何改变，但AI会以某种方式真的做出改变。我敢打赌，100年后的大多数工作看起来几乎和今天的工作完全不同，也许有些会相似。但无论发生什么，随着自动化达到迄今为止无法想象的高度，我们都需要某种不同的社会经济契约。

有效监管的必要性

主持人：好的，谢谢。山姆，你最近签署了一份请愿书，呼吁严肃对待来自AI的生存威胁。我想知道，你是否认为我们人类以及像OpenAI这样的公司应该采取某些措施来解决这个问题。
阿尔特曼：我认为现在对该领域进行严格监管或者试图减缓创新是错误的，我们也许可以谈谈正在发生的好处。当然，我们不想制造超级AI，这无可争辩。但是世界不应该将其视为永远不会出现的科幻风险，这可能是我们在未来十年不得不面对的事情，对于世界机构来说，适应某些事物的时间并不长。
所以我们贡献了一个想法，如果我们能有一个全球性的组织，在最高端，在计算能力和技术的前沿，可以有一个框架来许可模型，审计它们的安全性，提出需要通过的测试，这会有帮助。这是将其视为非常严重风险的一种方式，就像我们对在核能方面做的措施一样。

AI与科学发现

主持人：让我们谈谈好处吧。关于AI在科学发现中的作用，你有没有一些预测或想法？
阿尔特曼：这是我个人关于AI最兴奋的事情。我认为到处都会发生震撼的、美妙的事情，巨大的经济效益、巨大的医疗保健效益。事实上，AI可以帮助我们进行目前无法做到的科学发现，我们可以了解宇宙的奥秘。除此之外，我真的相信科学和技术进步是让生活变得更好、让世界变得更好的唯一可持续方式。人们已经开始使用这些工具来提高效率。但是如果你想象一个世界，你可以说，“嘿，AI，帮助我治愈所有的疾病。”然后它帮助我治愈了所有的疾病，这将是一个更加美好的世界。我认为我们离那不远了。

主持人：好吧，除了疾病之外的另一个主要问题是气候变化。我想知道你的想法是什么，以及AI在这方面的潜在作用，因为你确实提到这是一个潜在的贡献领域。
阿尔特曼：我不想这么说，因为气候变化是一个非常严重、非常棘手的问题。但是我认为对这样的系统来说，拥有一个真正强大的AI来应对气候变化并不会特别困难。
苏茨克维：我们甚至可以解释一下解决气候变化的方法。你需要进行高效的碳捕获来解决大量的二氧化碳。你需要能量来捕获碳，需要技术来构建设备，并且需要构建很多。如果你能加速科学进步，这是一个强大的AI可以做到的，我们可以更快地实现非常先进的碳捕获。它可以更快地获得非常便宜的电力，它可以更快地获得更便宜的制造。
结合这三点，廉价的电力、廉价的制造、先进的碳捕获。我们可以建造很多，然后从大气中吸收所有多余的二氧化碳。这个计划现在想实现有点困难，但如果你有一个极大地加速科学进步和工程发展的AI，它就变得非常简单。

相关标签：