微软CEO纳德拉访谈:人工智能的大方向与未来是什么?

新闻 人工智能
人工智能的未来到底应该是什么样的?它应该朝着什么方向发展?在发展的过程中应该注意什么?这些都是每一个关注科技发展的人在思考的问题。

人工智能的未来到底应该是什么样的?它应该朝着什么方向发展?在发展的过程中应该注意什么?这些都是每一个关注科技发展的人在思考的问题。最近,O'Reilly Media 创始人兼 CEO Tim O'Reilly 在 Linkedin 上发表了一篇他采访微软 CEO Satya Nadella 的文章。在这个文章中,他们谈论了人工智能的大方向与未来,并就人工智能发展过程中出现的问题,给出了自己的看法。文章由 36 氪编译。

[[205452]]

  我与 Satya Nadella 见面是在今年 4 月份,是为了我的新书《WTF?What’s the Future and Why It’s Up to Us》(译者注:2017 年 10 月 10 日发售)来采访他。但这篇文章所想讨论的大部分内容,并不是关于我的书,而是关于 Satya 的回忆录——《Hit Refresh: The Quest to Rediscover Microsoft's Soul and Imagine a Better Future for Everyone》(译者注:2017 年 9 月 26 发售)。

  我们都对科技的发展抱有乐观的态度,我们坚信,人工智能带来的挑战是让我们和社会定义什么是真正的人类。未来将会是一个人工智能强化和增强人类能力的世界,而不是让人类变得更加无用。这就是我们对话的基础。

  Tim:你在书中提到,人工智能带来的挑战将是定义一个宏大的、鼓舞人心的社会目标。你写道:“1969 年,肯尼迪总统承诺美国人要登上月球,这个目标的完成,在很大程度上要归功于,它所带来的巨大的技术挑战,以及它所要求的全球协作。同样,我们也需要为人工智能设定一个足够大的目标,而且要超越任何可以通过改进现有技术来实现的目标。”我很喜欢这个想法,不知道你是否可以扩展一下。

  Satya:如果你说,“哇,一个有视力障碍的人现在可以看到了……或者患有阅读障碍的人可以阅读了。”那将是一个真正的突破!而且,我们也能说“人工智能终于成为了一个真正带来包容性的技术”,这将是非常有意义的,尤其是在我们谈论人工智能可能会对我们世界造成巨大变革的时候。相反,我们可以引导人工智能在我们的社会中创造真正的包容,并全面参与到我们社会中来。

  这其中有很多的想法来自我孩子的经历。因为我有一个特殊需要的孩子,他被“锁”住了。我总是想,“要是他能说话就好了!”因此,当有人谈到“脑机连接”时,我会说,“哇,现在想想这能做什么!”

  在一个我们要创造这种技术的世界中,我们甚至可以说:“这是终极技术”,这是通往超级智能的道路,指导我们的设计原则是每一件事情,指导我们的道德哲学也是每一件事情。在某种意义上,我们必须做出的最大的路径依赖性决策将是“谁来设计超级智能”?

  Tim:我自己书中的一个章节叫做“我们的天网时刻”。我的观点是,人工智能的中一个方面我们谈论得不够多,那就是,它可能是一个集体智慧。我们正在利用搜索引擎、社交媒体和金融市场构建集体智慧机制。而且我们已经表明了我们所说的这些人工智能,是为了优化人们的利益。

  Satya:没错。尽管我们有各种各样的认知偏见,但人类还是有很大的优势。正如 Herbert Simon 所说,我们不再优化的时候,我们就满足了。这实际上是有帮助的。有一种满足是由我们共同的道德基础所驱动的。现在,当你说,“这是一个应该优化的问题”,也就是人工智能,那么我们就有问题要去解决了。

  Tim:你也谈到了增强人类的能力、经验和智力。你说你想要专注于人类的天赋,比如创造力,同情心,情感,身体,洞察力等等,它们可以和人工智能混合在一起。

  Satya:假设有大量的“人工智能”,那么稀缺的商品就是真正的智慧。然后你会说,“什么是真正的智慧?”

  真正的智慧将会在最具人性的品质中找到,那就是同情和怜悯之心,而那些将是最重要的东西。在我们真正找到如何将其嵌入某些机器之前,我们必须将其与人类结合起来。

  我们必须思考,教育应该对人类有什么样的影响。有了人工智能,也许你真的不需要学习傅里叶变换。你也可以去做培养正念,你可能想要培养同情心。这就是我所说的一点。所有人都有一种强迫症,每个人都需要接受教育,这是事实。但是,我们是不是过分强调了 STEM(Science,Technology,Engineering,Mathematics)?

  Tim:在我的职业生涯中,有一个概念一直在发挥作用,Clayton Christenson(当今最具影响力的商业理论家之一)曾说过一个叫做 “高利润守恒定律”(The Law of Conservation of Attractive Profits)的东西,即当一个原本价值很高的东西商品化之后,紧挨着它的东西突然间就会变得值价起来。我第一次听到这个是在 2004 年左右。他和我在同一个会议上进行了交谈。我在演讲中谈到了微软是如何取代 IBM 的:PC 硬件成为了一种商品,软件变得有价值。我的观点是,开源将使软件商品化,而其他东西将变得有价值。最终我意识到这个“其他东西”将是大数据。Clay 在谈论他关于高利润守恒定律的想法,我意识到,“我们说的是同一件事。”这项定律也完全适用于人工智能。由于人类认知的机械部分被人工智能商品化,人类独有的部分将变得更有价值。

  Satya:这是一个很好的说法。

  Tim:所以在未来的经济中,有很多基于关怀以及创造力的机会。创意经济不只有艺术和文化。每当产品成为一种商品的时候,我们就会找到新的方法,通过将它们与人类的创造力结合起来,使它们变得有价值。

  Satya:事实上,这基本上是我们的一种痴迷,对吧?当我在看《我的世界》这一代人时,或者你甚至可以说是 Snapchat 一代人……对我来说,这一代人最鼓舞人心的一点是,它是关于创造、故事的疯狂的看法。在《我的世界》中,男孩和女孩都在创造一些不存在的世界,只有他们的想像力。

  这就是我想要打造的一代。甚至在最新的 Windows 版本中。我们购买了每天有 1 亿人使用的产品——Microsoft Paint,并说:“让我们为 3D 创作做出绝对惊人的创意画布”。因为,在一个现实增强和混合现实的世界里,这就会成为现实。

  Tim:你也谈到了对大量数据进行处理的能力,以及更快地进行模式识别。在人工智能的发展过程中,有一种创造力被表达出来。你如何看待人工智能增强创意的过程?并提出创造性的方法来解决问题。

  Satya:传统的写作工具不过是在拼写、语法和短语纠正上面提供帮助,现在我们在其中添加了人工智能,它们就成了完整的写作辅助工具。我们正处于这样的境地,你可以说,“我想写得像 Faulkner(美国小说家,曾获 1949 年诺贝尔文学奖)一样,”它会开始说,“这是你可能想做的事情。”

  我没有上过写作学校,我只上过工程学院,但我梦想成为一名伟大的作家,我需要这种人工智能来帮助我。

  我之所以能做到这一点,是因为我看到了中国的小冰,也就是我们的对话机器人,包括人们对它的讨论,以及在某一特定时段里的话题和问题的数量。更多的原因是人们需要交谈。人们在表达他们最深刻的想法。我当时说,“哇,这就是人工智能能够产生移情作用的地方。”

  Tim:我们之前也讨论过人工智能成为第三个运行时的想法。让我们来讨论一下这个问题以及它是如何发生的。

  Satya:我们最后一次讨论的时候,我是这么说的:“PC 或手机操作系统是第一个运行时,第二个是浏览器和网络,第三个是使用私人助手,它了解你,了解世界,了解环境,并在帮助你。”

  然后我们说,“好吧,如果你同时进行思考、感知,最终采取行动,那么这三个运行时就在那里。”这个助手本质上体现了你思维的扩展,你知觉的增强,语音是一个,视觉是另一个,并且可以直接采取行动。这就是终极的运行时,对吧?

  这就是为什么在我的书中,我试着写这三件事:

  1)终极计算体验是什么?最终的计算体验是与计算结合在一起的真实世界。这是混合现实。

  2)这将要求人工智能在感知、认知和行动方面取得突破。

  3)然后我稍微有点离题了,说,“如果你想要创造那种计算能力,你必须打破冯诺依曼架构和经典计算的束缚。”

  我们能聊聊量子计算机吗?这就是我写的第三件事。

  Tim:我有点惊讶于量子计算在你的书中占了这么大的篇幅。

  Satya:进步是真实的——我的意思是,我们已经深陷其中。但问题是,它会以多快的速度成为现实。我不知道。但它不再是“哇,有可能吗?”之类的惊叹。

  Tim:你书里很重要的一句话是:“我们想要的不仅仅是智能机器,还有能够理解的机器。”这是当前人们对人工智能的一大担忧,我们不会真正理解他们是如何得出结论的。当然,这也适用于人类。因为我们倾向于只关注人类思想的理性一面,所以我们没有意识到,我们做了多少事情对我们来说,也是完全无法理解的。所以,这可以说是理性主义者的最后一声呐喊。

  Satya:当然。但我有两种方式可以规避风险。一是问责制。“当你是一名设计师,你创造了人工智能,你需要负责任的时候,会发生什么?”Tay 的整个经历确实对我们的思考产生了很大的影响。事实上,这是一种疯狂的做法,因为好多人都针对它,并为它提供训练数据,这些数据可能会劫持算法。这是谁的责任?我敢说这是我们的。这是我们的责任。

  Tim:嗯,很明显这是 Facebook 和假新闻问题。我与安全研究人员进行了非常有趣的对话,讨论如何愚弄自动驾驶汽车。你怎么能通过创造他们会在视觉领域误解的东西来入侵他们呢?但现实社会中,将会有各种各样的敌对干预。我们还需要设计更强大的人工智能。

  Satya:当人们说:“哦,人类,这些 DNN(深层神经网络)是神奇的。它们只是在做一些事情,我们甚至不知道“…我同意这句话背后的真相,但是关于层数和权重的选择——在它们的学习过程中,人类是做出了很多决定的。我们不应该这么快就放弃这些我们创造出来的算法,我们应该对它们做出的决定负责。我想我会说,“好吧,在人工智能中,编程的道德标准是什么?”

  注:访谈有删减。

责任编辑:张燕妮 来源: 36Kr
相关推荐

2024-01-17 08:44:27

人工智能AIOpenAI

2018-11-02 09:49:18

微软数据中心Windows

2014-04-03 17:38:45

2021-06-21 09:26:46

人工智能AI

2014-07-18 09:09:36

微软裁员

2023-11-02 15:36:38

人工智能AI

2014-02-09 14:46:33

微软微软CEO纳德拉

2022-08-15 10:08:16

人工智能AI

2017-04-27 12:14:35

Juniper路由交换

2019-01-18 12:41:16

2013-11-29 09:30:31

印度人微软CEO

2015-08-26 11:20:37

程序员发展方向

2018-07-24 15:28:24

2017-03-28 20:12:42

AI

2017-11-16 10:49:32

微软人工智能甲骨文

2021-10-21 17:58:39

微软纳德拉年度报告

2023-09-11 07:13:19

人工智能物联网

2022-03-15 16:06:39

人工智能AI

2023-08-18 08:05:36

OpenAI人工智能

2018-02-23 14:12:20

数据中心技术人工智能
点赞
收藏

51CTO技术栈公众号