新科技给我们的心灵提供了更高层次的挑战。

640_wx_fmt_png

640_wx_fmt_png 1

编者按:今年,距离第一台真正意义上的计算机发明已经71年,“人工智能”概念的提出也是61年前的事了。虽然科幻中早已写过无数次人与机器的未来,但直到最近,我们才真正意识到,人工智能已经模糊了现实和想象的边界,对它的熟悉程度,甚至会令我们感受不到它的存在。

于是,造物主和造物的关系又一次闯入了公众的视野。人类与AI之间,究竟是什么关系?当AI在越来越多的方面接近甚至超过人类,我们该怎么办?

关于这个话题的探讨,将决定我们如何在一个与AI共存的世界中,保留住对自我的认知。上周,郝景芳在新书《人之彼岸》的分享会上,与韩松、双翅目一起分享了他们的看法。

郝景芳和韩松,这是一个非常独特的组合。

他们的作品中不常见到史诗般的场景,而是把现实世界放在了另一个维度中。对于“人工智能/机器人”这样的经典科幻主题,他们的目光也更多地是放在人身上,关注现实以及科幻在现实中的映照,而非简单地展现技术奇观。

郝景芳的新作《人之彼岸》是一本科幻小说集,六个故事从不同的角度描绘了人工智能世界的图景,两篇科普文章则对人工智能做出了更广义的思考,总结出了四个人与AI最本质的差别:人的情绪、抽象思维能力、对世界的建构能力和创造力。

0_wx_fmt_jpeg

韩松的《驱魔》上个月刚获得华语科幻星云奖最佳科幻长篇,这是“医院三部曲”的第二部,讲的是负责医院运行的超级人工智能“司命”与人类病人的故事。

0_wx_fmt_jpeg 1

用哲学在读博士、科幻作者双翅目的话说,郝景芳和韩松就体现了小说中的“此岸与彼岸”的状态:他们站在经济研究和社会新闻的最前沿,反观人类自身。让我们得以在技术的洪流中,寻找到新的审视角度。

0_wx_fmt_jpeg 2▲ 对谈主持人双翅目

比如不把AI视为人类这个物种的对立面,而是生活在另一个世界的存在物,对AI的探索最终会让我们更关注宇宙的尽头和人心深处。

 AI能成为专家,而非全才 

关于人工智能的讨论,在去年AlphaGo出现之后达到了一个高峰,走出实验室和期刊,进入了普通人的日常话题。

郝景芳介绍,AlphaGo的原理是大数据学习,实际上就是统计方法,只不过非常先进。人类的大脑皮层只有6层, 而AlphaGo所使用的深度网络可以做到100多层,从效率上来说,人类完全没有可比性。同时,算法还可以自我对弈,每秒下百万盘,采用不同的思维模式,尝试新的招数。从AlphaGo到Zero,人类越来越看不懂AI的棋谱,是因为从来没有人尝试过。

0_wx_fmt_png▲ 来源:AlphaGo的原理仍是统计学方法(来源:monsitj/Getty Images)

但这是否意味着以AlphaGo为代表的AI就此封神呢?郝景芳并不这么认为:

“AlphaGo最大的局限性,是做不到跨领域学习。学新领域的知识,整个网络参数就要重新来一遍,过去的就完全忘掉了,这被科学家们叫做‘记忆灾难’,一个网络学不了两件事,最后只能用多个网络学习多种功能,变成一个特别庞大的网络。”人类则采用全脑网络记忆,记忆分布在整个网络里,因此具有了AI还不具备的多学科、多领域综合理解能力。

同时,AI很难真正“学到”常识,与人不同,算法的世界只存在0和1,对物理世界并没有概念,不明白人的内心是什么。“我们已经教了好几十年,但人工智能并不具有这个常识。未来除非人工智能能够像人一样经过进化的过程,在真实世界里生活,否则就很难具备综合性的理解能力。”

“也就是说,人工智能未来很可能是一个专家,但很难成为全才。”

0_wx_fmt_jpeg 3

 赢了人类,却不知道什么是开心 

AI 在技术领域的发展带来了“后人类”这一概念在学术圈和文化圈的流行。双翅目表示,“后人类”的概念是直接起源于我们在面对算法时对‘人类’本身的理解。“关于人性、人权的概念其实是文艺复兴之后才出现的,真正以人性为思考,只是近500年的事情。关于人类的概念体系正在被算法改变,技术的不断改造导致‘人’的概念受到了怀疑。”

在郝景芳的小说《爱的问题》中,人的情绪、行为的所有特征都要被AI所评判,如果没有AI的打分,人会怀疑自己。但机器存在误判,因为它们不存在世界观、他人观和自我观。“我们是最了解自己的人,如果能自我反思、自我理解,就会越来越有自信能确定自己是什么样的人。但是如果完全数字化,交给一些指标来评判的话,最后我们会失去和自己内心的连接。” 

0_wx_fmt_jpeg 4

郝景芳并不太担心人工智能有一天会自我觉醒,因为拥有意识的前提是得“以一个独立个体的身份去生存……而智能网络的计算很难让一个机器人完全独立,它们几乎都是联网的”。因此,未来可能会出现很多终端,但AI本身并不是独立个体,也就很难在可预见的未来产生自我意识。

“这样看来,AlphaGo真的挺可怜的,它赢了人类最厉害的棋手,却不知道为什么下棋、什么是高兴,也没办法自我表达。”

 爱还是不爱?AI:无所谓 

AI很难实现个体的独立,那它们会不会像电影《她》中描绘的那样,满足人类社会运转的基本情感需求呢?

很遗憾(或者说很幸运),这样的情况短期内也不太可能出现。

双翅目提出一个值得关注的问题:当我们在和计算机对话的时候,怎么知道这是真正的情感,还是基于大数据的反馈?

0_wx_fmt_jpeg 5

郝景芳对此的看法是,未来的对话机器人非常有可能高度模拟人的反应,了解我们的习惯,给出一个近乎完美的情感反馈,这实际上是一种“我以为AI在爱我,然后我可以爱它”的错觉:

“人其实是非常博爱、非常容易移情的生物,爱上什么都不奇怪,一个杯子用久了都会产生感情,未来爱上机器人也挺正常,因为我们内心就有这样的蓬勃涌动的情感。但是它会不会爱你呢?很多时候是不可知的状态。……爱对人类来说是一种欲望式的动机,而对机器人来说只是一个模拟状态,不会产生想从屏幕里跳出来的冲动,爱不爱你就是一个无所谓的状态。”

0_wx_fmt_gif▲ 来源:电影《她》

韩松提到,“人的情感是电化学的一种反应,最早的宇宙大爆炸,把一团压得很小的离子分离出来,形成生物界和非生物界,进化到人,在碳的基础上产生情感。那么,为什么不能在硅的基础上产生情感呢?”接着,他用《盲视》做了一个类比:这就像是一个各方面都很像人的外星人,但完全是模仿出来的。因此,有没有意识无关紧要,重要的是最后是否以一种“意识或精神的现象”呈现出来,这才是真正可能对社会造成冲击的。

我们总是处在矛盾之中,既希望创造出与自身尽可能接近的东西,又担心这样的造物会颠覆我们对自我的认知。如韩松所说,“地球上那么多生物,唯有人进化出这么多结果。进化到高级就是一种悲剧,因为要感受到孤独。人工智能的出现,就是人的孤独感的诠释。”正是这种无法缓解的孤独感,让人类产生了关于“独立的自我”的意识。

0_wx_fmt_jpeg 6

 要避免失业,得往高端转型 

换个角度来看,我们暂时不用担心AI取代作为独立个体的人,那它们会不会以更强大和高效的数据处理能力,取代社会意义上的人?

郝景芳最近正在做的一个课题,就是研究AI对劳动就业的影响,根据一些相关材料,普遍的前沿研究认为AI确实能取代很多重复的流程性的工作:

“未来一个人会不会失去就业或者被取代,要看他原本的工作里面,到底有多大一部分是重复性工作。……对大部分的人来讲,都可以把重复性劳动剥离,然后让他从事更加高级一点和复杂的工作。”

0_wx_fmt_jpeg 7

这也就意味着,我们在失去一些机械性的工作的同时,也会面临逐渐涌现出的更高级和复杂的工作机会,以满足新的沟通需要。“人工智能在金融领域的量化交易已经有一些应用了,但优秀的宏观分析师、研究员还是能够拿到几百万的年薪,因为大家觉得大局判断、综合能力还是稀缺的。”

历史学家尤瓦尔·赫拉利在《未来简史》中提出了“无用阶级”,即被AI无意识地踢出劳动力市场、对经济和政治体系来说无用的大多数。这也是郝景芳更担心的问题:社会有可能会撕裂。“相对低素质的劳动力,未来要求他往高端工作转型,这个是不太可能的,有一个门槛性的东西,不是转变一个思维方式就行了,有很多基础条件达不到。……我觉得在5年里就能看到它对社会的撕裂效果。”

 我们到底为什么研究AI?

回到最初的问题:在可预见的未来,AI暂时还不会产生自我意识,变成一个全新的物种,也很难作为一种社会运转模式,完全取代社会意义上的人。那它们究竟可能是什么?

就目前看来,或者说依照我们所期待的发展方向,AI在很长一段时间内都会是一种工具性的存在,而非人的对立面,让我们得以从技术的洪流中抽离出来,遥望技术的彼岸,反思和关照此岸。

0_wx_fmt_jpeg 8▲ 来源:Mike Agliolo/Getty Images

郝景芳觉得,“越探究人工智能,会发现我们应该更加关注的是宇宙尽头和人心深处,这是我们最广大和最细微的地方,只有更多地关注到这些地方,才会发现经常被我们忽略的人性之中的宝贵的地方。”为了唤起这一点,郝景芳今年开展了一个儿童教育计划“童行计划”,面向人工智能时代的教育,致力于用科学和艺术相融合的体系,培养创造性思维和终身学习的能力。

“所有小孩子都是探险家、科学家、艺术家,对这个世界充满好奇,也有非常强烈的想要去理解和创造世界的热情。在成长的过程中,我们会忘了曾经对宇宙这么好奇。好奇心和探索精神,是真正的创造力的来源。”

或者我们也可以选择创作,不仅是为了自我表达,同时也是像韩松所说的,“创作是为了多保存一个看世界的维度,或者让另外一个世界同时存在于自己身上。”

这样,在未来与AI共存的时代中,我们才更有可能守护好自己的内心。

0_wx_fmt_jpeg 9

🔍 | 关键词 |  #人工智能# #郝景芳# #韩松#📷 | 摄影 | 二向箔管理员、苏小七📃 | 责编 | 船长🖋 | 作者 | Raeka,转码员,《不存在日报》记者,冷僻故事爱好者。期待有一天能在街角遇见蓝盒子,去看看galaxies far far away。640_wx_fmt_png 2

640_wx_fmt_png 3

640_wx_fmt_png 4

640_wx_fmt_png 5

640_wx_fmt_png 6

0_wx_fmt_jpeg 10

0_wx_fmt_jpeg 11

640_wx_fmt_png 7