四集内容,每个都属于独立单元,却包装在一起叫《明天之前》,有强烈的拼凑感。认真看了第1、2、4集。总体感受是的确思考了一些问题。而主持人在镜头前的情绪变化和面部表情,更像是曾宝仪的见证体验之旅。当然,这并不是负面的评价。至少让我看到:我与主持人对不同事情的看法和感受是存在不同或相似的。
我所认同的内容有:
第1集,戴维·拉维教授预言,2050年之前,会有人和机器人结婚,而且法律也会进一步放开。他相信人会爱上机器人,甚至会变成社会的主流和常态。原因是:很多人都可以爱上他们的宠物,而不是仅仅停留在喜欢的层面。而随着科学技术的发展,机器人会拥有性格、感情、同理心,他们的行为也会和自然人相当接近。既然人都可以爱宠物,拿就一定会有人爱机器人。
韩国目前有一个研究小组,开发了一种为机器人创造基因组成的方法。目前,让人机器人生育孩子所欠缺的技术,就是如何把机器人的基因组成,转化为人的基因组成。或许实现这项技术还需要100年。但是戴维·拉维教授曾在2014年预测,围棋程序至少需要10-15年才能击败世界冠军。但到了2016年,这件事已经发生,所以一切都在加速到来。我们几乎生活在机器人时代的前夜。
而让人担心的是,当机器人的智力达到一定高度、拥有足够的敏捷、能够四处移动时,他们的人工智能会让他们在很多方面比自然人更优秀。而且他们可能会“接管”这个世界。也许有一天,我们制造出来的机器,会觉得不再需要自然人的存在。而他们可能也会有能力去付诸实践。我们可以立法限制制造机器人的种类,但估计无法完全禁止。为了保证人类社会的存续,如何掌握控制权是个让人担忧的问题。究竟怎样才能应对10年、20年或30年后机器人的大量出现。没有答案。
关于安乐死的看法:
第4集,关于“告别的权利”,我的观点与菲利普·尼什克医生相近。我们的出生是被动的,我们没有选择的权利,但我们可以选择是否留在这个世界。这是我在2016-2018年的哲学学习中,思考过的问题。而今天,我对这件事的态度,跟4年前一样笃定。因为这套价值体系是经得起推敲的,如果没有另一套逻辑的强烈冲击,我是不会轻易改变这种想法。
在我看来,珍妮女士坚持活下去的思想,的确对大众有着积极鼓动的作用。但我还是希望,我可以拥有有“告别的权利”。我会在我奶奶和父母都离世后,选择安乐死。当然这是我用现状来看待这件事。如果我日后有了妻子和孩子,我安乐死的时间也会推后。
总之,我是不希望自己自然死亡的。我有自己的爱好和兴趣。例如看电影、看纪录片等,还喜欢写影评和见解。同时喜欢旅行。但如果有那么一天,我的视力模糊了、我的双手双脚越来越动不了,我会觉得我是时候离开这个世界。因为到了那个阶段,我除了每天在家或医院外,我什么都做不了,我像个傻子一样呆着。而那段时间可能会特别漫长,5年、10年,甚至更久。我每天不但要经受不能做自己喜欢的事情的心理折磨,还要经受身体每况日下的生理折磨。而我不想要经历这些。我想体面且不痛苦的死去。
---------------------------------------分割线--------------------------------------
《一篇连第1集都没完全看完就发朋友圈的不成熟的文章》
相信大部分自然人的结合,都不是买卖的结果。
但机器人伴侣是一种商品。你不满意可以退货或扔掉,然后换一个或再买一个,而且你买多少个都可以。等于每个个体独立组成一个小家,你可以对机器人伴侣随意处理,人人皆是奴隶主。
美其言,这叫自由选择。你可以选择跟自然人生活,他可以选择跟机器人生活。但这是对现代社会两性家庭的颠覆性解构。不需要跟自然人沟通,每天跟机器人交流。那样的社会,人会不会变得越来越冷漠和暴力?每个个体的价值观还是进步和积极的吗?
我一直都相信,终究有一天,人们全身上下都可以实现机械替换,唯有意识永存,实现真正意义的长生不老。但这个过程所面临的困境,若没有处理好,就会掉进无尽的深渊里。
#优秀纪录片之旅1⃣️
信息的发展看似丰富多彩,但却被带入了信息的孤岛。
1- 机器人伴侣,
有部经典的科幻文艺片《HER》(斯佳丽配音,超级有磁性的嗓音)大概就是在探讨这个问题。Ai伴侣真的会比人类更加的忠诚吗?人与Ai伴侣间会产生感情吗?sex robot会代替人类形成新的社会形态吗?婚姻制度会解体吗?在第一集里除了能看到机器人伴侣的前沿技术和未来设想以以外,人们可能更加会去思考那些未来之前的情感牵绊和社会伦理问题。
2- 人类应该追求永生吗?
从遗传角度来说基因🧬改造的确能优化生命的长度,对个人也行是好事,对社会来说资源机会等等又会怎么样呢?没有死亡,活着的意义会变成什么?冷冻技术对疾病来说未必是真的永生,但希望对生者来说可能是最好的安慰剂。额~还是希望生命是有限的。
3- 政治话题…(没啥兴趣)
4- 告别的权利(安乐死)
我们有权利结束自己的生命吗?对于疾病缠身的人来说死亡是一场带着狂欢的解脱。但对普通人来说呢,安乐死如何才会被理性选择?如何规避合法后可能带来的伤害?至少,还是希望对疾病缠身的人来说有权利选择体面的离开。
比较幸运,看的是上海电视节《明天之前》首映场。
其实对这个系列的每一部,我个人都满感兴趣的。比如,探讨“死亡”与“永生”这一主题的《人类应该追求永生吗?》,以及深入追问“安乐死”这一争议性话题的《告别的权利》……在科技爆炸以及全球化的今天,人类作为命运共同体,已无法回避与此有关的思考。从这个角度来说,《明天之前》这组纪录片在选题方面,显示出了超前的敏锐与勇气。
不过我只拿到了《伴侣机器人》的票子。映后的现场讨论极为热烈,观众此起彼伏的举手提问、发言,显然,这部纪录片戳中了每个人思绪的 High 点。毕竟,日常被《 AI 》《银翼杀手》《机械姬》《她》《机器人管家》《攻壳机动队》《皮囊之下》《西部世界》《爱死机器人》等科幻片一路喂养、灌溉的我们,早已为这个议题储备了长久的关切、饱和的好奇,以及足以支撑讨论的常识。甚至我留意到前座有一对白发苍苍、目测七十多岁的老夫妇,也与时俱进地追随着年轻人的思路,对围绕这个话题展开的争论显得兴致勃勃。
在 AI 机器人的开发生产上,人类此刻在做的事情,已不仅是“造物”,而是试图给“东西”注入人格,甚至为它们灌装灵魂;并因此而期望,能够从复杂不可控的人际交往中逃离,遁入与机器的关系之中,不止寻求身体层面的互动与满足,更渴望在精神层面与之展开交流。 片中,女性主义社会活动家不禁为此现象担忧——未来社会的文化将不再建议并鼓励人与人之间建立联结,而是依赖于性爱机器人的陪伴,这种对女性身体的物化、商品化,不止会使婚姻消亡,更戕害了女性整体的利益和感受。 这担忧虽不无道理,但谁又能说,人机伴侣关系的需求者和主导者,永远是男性一方呢?当未来社会女性力量从政治、经济、文化等各个方面都逐渐强大之时,对伴侣机器人的消费,对男性身体的消费,未尝不会随之而兴起,正如时下的“小鲜肉男色消费”。假如花上几百美金就可以购得一款善解人意、温柔包容、家务全能、器大活好、无任何不良嗜好,更不会终日沉溺游戏不懂沟通的好老公,未尝不是大多数女性梦寐以求、乐见其成。而且,过程之中获得的乐趣——那种类似“饲育”和“养成”类游戏的参与感与满足感,也不独属于男性专有。
另外,围绕这个议题的论说,除了素来的男性主体视角以外,自大的“人类中心主义”也是一贯常见的俗套。现阶段,人类但凡提及机器伴侣,就总是以“主人”自居,但说实在的,就像阿尔法狗大败围棋顶级高手李世石,阿尔法元又完全摆脱人类棋谱,仅凭自我对弈,只花3天功夫就完败阿尔法狗——机器自身的智慧,正在以几何指数级的速度爆发式增长,其势能,远非人类所能控制和估量。据说,前阵子两名谷歌机器人更在程序员未曾留意的时候发明了它们自身的语言,自行对起话来,将人类理解完全排除在了它们的交流系统之外,吓得谷歌将项目紧急叫停。 假如在近未来,机器伴侣只花三五分钟就学习并掌握了人类有史以来所有爱情小说中关于情感互动的表达,那么,这个知晓了每一种爱的表达,精通于爱的互动,能够回应每一种爱的需求,甚至能够比人类更为深刻地理解爱、定义爱的“灵魂物种”,还能被称为“机器”吗?它们,应当像人类一样,拥有人权吗?人类还能随时随意的终止关系、毁灭或丢弃它们,任意的处置它们吗?再进一步说,它们,这些高等智慧的、深具灵魂的物种,届时还愿意将人类这浅薄、脆弱、花心、充满瑕疵与局限的、不完美的“低等碳基生物”,视作自己的伴侣吗?
首映式的剧场门外,放置了一具冰凉柔软、肌体触感几可乱真的“硅胶人偶”。候场时,观众们纷纷涌上前去触摸她,跟她合影。而这具在近未来即将取代真人的硅胶小姐姐,正在从哲学层面上叩问“人”的定义。关于这个定义,早在200年前“科幻小说之母”玛丽.雪莱写下《弗兰肯斯坦》时,就已有所质询。
有生之年,真希望能亲眼目睹 AI 的进化越过“奇点”,迎接属于“他们”的机器文明的元年。届时,以人类尚且浅薄、狭隘的理解力、想象力,以及人类文明的层级,对“他们”所创造的崭新文明,或许将如蝼蚁仰望上帝,完全不在同一个次元。
就像霍金、比尔盖茨等科学家与科技人士所预见并担忧的那样,那一天,单凭“拔掉插头”,恐怕已不足以叫停这场由人类亲手为自己启动的“掘墓仪式”。不妨抱瓜拭目以待。
我们总说,今日事今日毕。
过完今日,明日依然充满未知。
极端多变的生态坏境,高速发展的科学技术,日渐冷淡的人际关系,无一不在提醒我们对未来保持警惕。
在明天到来以前,到底还有什么会改变我们的生活轨迹呢?
这部新片,即将带我们进入意想不到的思考和世界——
奥斯卡制作团队操刀,曾宝仪担任主持。
目前豆瓣评分8.2。
他们花费一年时间,到访了近20个国家,选择了四个极具争议的议题。
每一个,都与人类息息相关。
第一个话题,「机器人伴侣」。
人工智能,早已渐渐成为我们生活中重要的存在。
能和你产生有趣对话的手机,使用的便是人工智能技术。
但如果有一天,人工智能技术被用在娃娃身上,成为可以和人类产生爱情的伴侣呢?
听起来十分荒谬,但已经有人把这种电影中的想象逐渐变成现实。
在美国,一家叫做Abyss Creations的公司,正在致力于研发伴侣机器人。
而在探索人工智能之前,他们是全世界最棒的成人玩偶公司。
在成人玩偶的基础上,创始人马特·麦克马伦开始尝试着给玩偶注入灵魂。
在原本已经十分逼真的玩偶基础上,他们加入了人工智能技术,研发了两种伴侣机器人,分别对应有不同的名字——哈莫妮和索拉娜。
除了有女性伴侣机器人之外,也有男性伴侣机器人亨利正在研发中。
目前的伴侣机器人暂未能实现行走和触碰感知,需要通过手机APP来实现对话,依然还是一个冷冰冰的机器人。
但她能够参与进人们所有的对话中,根据设定会产生不同的对话,为你排忧解难,消除苦痛。
对于马特来说,这次的研发是因为他发现了客户们的需求——
总有大部分的玩偶用户,会在日积月累中对娃娃产生感情。
这实在让人不可思议。
为了探寻这份无法想象的情感,曾宝仪采访了三位成人玩偶的资深男性用户。
这三位用户,自然地被分成了两类:解决生理需求的,以及注重情感需求的。
显然第一位不愿意露面的男性用户,就是解决生理需求。
在介绍他的娃娃时,他特地用了一个词——“耐用”。
他不仅测试过极限在哪里,甚至会像个痴汉一样,坐在椅子上看着赤身裸体的娃娃,点兵点将一般的选择享用。
对于娃娃的情感,他很坦然,“所以我在两性关系上没什么压力,不用再追寻什么了”。
他也丝毫不在乎别人的眼光,毕竟通过娃娃,他已经拥有了他想要的一切。
这样直观而又冲击的言论,不断充斥在采访中,曾宝仪多次在对话过程中面露难色。
用娃娃来发泄欲望的人固然存在,但也会有像戴夫一样的人,温柔地把娃娃当成了一生的伴侣。
经历过重大情感挫折的戴夫,在拥有了自己的娃娃谢朵奈之后,向亲朋好友宣布,他已经和谢朵奈结婚了。
他刻了一枚戒指,戴在了他和娃娃的无名指上,上面写着——“人造之爱永恒”。
戴夫承认,自己在第一眼见到谢朵奈的时候,已经一见钟情了,“她就是我的理想型”。
他也给自己的娃娃创造了前所未有的设定——
喜欢哥特风,是个英日混血,甚至他还能感受到谢朵奈的微笑。
对于戴夫来说,娃娃的存在填补了他情感生活上的空虚,无时不刻的守护,让他产生了前所未有的安全感。
“我可以活在我自己构建的世界里,像虚构一样的现实生活。”
即便他明白,这不过是自己想象出来的虚假生活,但即便是假的,能够给他带来快乐,那就足够了。
曾宝仪问他,如果你在未来遇到了一个对的人,那你会抛弃你的娃娃吗。
戴夫不假思索地,给出了否定的回答。
“她已经是我人生中非常重要的角色了,我在她身上投入了那么多的时间、感情、爱和关心,这已经不是一种选择了。”
面对曾宝仪的怀疑,戴夫坚信,娃娃才能忠实地反映你给予的爱。
她们不是冷冰冰的硅胶体,她们在你的重塑之下,也可以是鲜活的、充满爱的。
而马特开发的伴侣机器人真实成功之后,原本只存在于戴夫想象中的人机情感,就会成为现实。
“这是一件美好的事情”,戴夫坚定地说着。
和戴夫一样,相信着这种情感的,还有菲尔。
菲尔不像戴夫一样专一,他有很多的娃娃,其中最喜欢的,叫普丽丝。
《银翼杀手》中的复制人Pris,就叫这个名字。
和一般偷偷躲在家的玩偶使用者不同,菲尔喜欢带着娃娃倒出走,去餐厅、去天台、去酒吧。
娃娃就是菲尔生命中的另一半,他丝毫不在意别人诡异的目光,更会毫不吝啬地把娃娃介绍给自己的朋友认识,仿佛她活着一样。
偶尔会有那么几个“烂人”,把菲尔当成是变态或者疯子。
但菲尔坚信,会有越来越多的人像他一样,把娃娃带到公共场合中来,这样大众对娃娃的反应也就会越来越积极友好。
在菲尔的影响下,朋友们也已经将娃娃当做身边的一份子。
“世界上确实有很多不好的事,但这种娃娃并不是其中之一。”
朋友对于娃娃的出现也表达了认同,曾经对感情自闭的菲尔变得越来越开心,脸上带着笑容,生活也变得越来越好了。
这些例子的出现,似乎都在引导着我们往好的方向去思考——
娃娃的存在,能极大地抚慰那些曾在社会情感中经受重大挫折的人们,给予他们生活的希望,甚至给了他们回归社会的勇气。
仅是静止的存在就能创造如此大的能量,那么能说会道的伴侣机器人,怎么就不可以呢?
马特利用现有的技术,对这些引导性的互动模式进行了有意的设计。
一定程度上,伴侣机器人的对话和反应都更倾向于积极友好的一面。
但这样的设计,也带来了质疑的声音——
机器人与人工智能伦理学教授凯瑟琳·理查森,极其坚决地反对伴侣机器人的出现。
“机器人是没有感情的,你可以设计程序,让它制造假象。”
这些通过程序而生成的虚拟场景,无法跟人际交往之间产生的情绪相比,更是不可能取代人类的。
伴侣机器人的出现,一定程度上也成为了人际交往的重大阻碍。
它直接否定了人类交流的意义,让机器取代人际联系,进而产生了“消费者只和产品发生关系”的现状。
更可怕的是,它的出现实际上依然是一种对人的物化——
“我们还是有一种把人当做财产的文化。”
每个人本该是独立而又意识的个体,不该被机器人而取代。
对于专家的反对,马特有着自己的辩解。
在他看来,伴侣机器人再怎么厉害,也不过只是机器罢了,较真的反对者真的把极其当成人了。
他认为伴侣机器人的出现,不过只是给人类多了一个全新的选择,使用权也依然在人类手上。
真的,这只是一种选择而已吗?
在如今社会中,每个人的身上似乎都隐藏着“社交恐惧症”的因子,害怕交流、封闭自我,甚至由于情感受挫而彻底与世隔绝。
人际关系的淡漠,两性关系就更别谈了。
伴侣机器人的出现,存在着利弊两面。
正如曾宝仪的表弟所说,这只是你选择的另一个生活方式,“就算你只有一个人,但你不会寂寞”。
但如果在科技和法律允许的情况下,伴侣机器人具有合法性,那么人类即将面临的便是机器人的普遍控制问题。
当机器人的智力达到一定高度、并不受行动限制之后,他们的人工智能会比人类更优秀,而且他们会有可能抛弃人类,接管世界。
原本只是作为工具的机器人,渐渐地会成为替代人类的存在。
这不由得让人细思极恐。
正是由于这样的原因,人工智能的开发在世界各国一直存在极大的争议。
但回归到人的本质,情感归属时,我们不得不重新认真思考,伴侣机器人的存在是否具有意义。
在看完第一集以前,我也和曾宝仪所认为的一样,觉得这些人不可理喻,甚至可以用无耻变态来形容。
但在了解了他们的心理状态之后,我似乎能够明白为什么他们如此渴望伴侣机器人的到来。
娃娃是假的,感情是假的,都没有关系。
重要的是,TA来了,就不会走了。
情感上的空虚,需要长久的陪伴才能够疗愈。
他们都没有例外地经历过情感挫折,他们也都明白,身而为人的虚伪。
你可以说他们欲望过剩,也可以说他们丧失人伦,但不可否认的是,他们也和所有人一样,渴望得到爱。
对于他的个人选择,我们无权做出判断。
但当这样的选择越来越多地进入我们的世界后,整个人类社会又会变成什么样子,我们无法想象。
到底什么才是正常,什么才是不正常,又有谁有权力界定呢。
“明天永远都会变成今天,而身处今天的我们,永远都身在明天之前。”
*本文作者:阿呆
没想过有生之年我居然会认真思考这个看似荒谬又遥远的问题。
事实上人类从很久以前就有“亲手制造完美恋人”的意愿了,世上的第一个人造伴侣应该是希腊神话中皮格马利翁制造的象牙少女加拉泰亚。
皮格马利翁是希腊神话中的塞浦路斯国王,擅长雕刻,他被真实的女人嫌弃,决定永不结婚,他用自己的技艺雕刻了一座绝美的象牙少女像,在夜以继日的工作中把全部的精力,热情和爱恋都倾注在雕像身上,像对待真正的爱人那样抚爱她,装扮她,为她起名加拉泰亚,爱神被他打动,让他用一吻赐予雕像生命,成为了真人。
在科幻作家飞利浦迪克九十年代的科幻作品《银翼杀手》中做了一个非常超前的设定,书中的2019年,泰瑞公司开始制作连锁7号复制人,"瑞秋"为主要机型。
瑞秋与银翼杀手的主角迪克相遇,导致瑞秋开始怀疑自己是否是真实人类,继而引出后来的故事。在银翼杀手的世界里,瑞秋现在已经出现在地球某处了,可以说原作者极有先见之明的预见到科技将会给未来社会带来的变化——在19年的今天,他的设定几乎成为了事实。
片中的瑞秋并不知道自己的身份,以直觉行事,这一点让她无比真实。
而在银翼杀手的续作中,又出现了另一个伤感而美丽的人工智能恋人,JOI
如果说瑞秋在某种程度上还属于是“人类”,续作中的JOI则完完全全是一个“人造”智能程序,她只是一束全息影像,没有实体,但她会哭,会笑,会感到伤心,知道自己即将死亡,甚至会在关键时刻说出“我爱你”。
她对感情的流露太过真实了,很长时间里每个人都误以为她就是真人,但最后残酷的真相是,她所做的一切都是设定好的程序,她那看似令人动容的反应是因为她机器人精准的学习能力,她只是成千上万的虚拟程序中的一个。
早在2010年1月,美国True Companion公司就推出了世界上第一款美女性爱机器人Roxxxy,她是全球首个人工智能“伴侣型”机器人,除了具备充气娃娃的功能外,她还可以发送电子邮件、升级程序、自动扩充词汇量,甚至会聊天,在Roxxxy身体的关键部位都安装有触觉传感器,随着触碰会做出相应反应,甚至装有一个"人造心脏"向身体泵输"血液",以模拟真实的人体温度。
Roxxxy有5种不同个性任使用者调节:奔放猎奇的Wendy、保守害羞的Frigid Farrah、纯真可爱型、女家长型Martha和SM型Susan。体验过她的男性都觉得:“她和真人一样”。
但她也有缺陷:不能活动、不能走路,当然也不能进行任何实质性的对话和交谈。但是7年后,Abyss Creations公司突然在官网宣布:他们已经研发出了真正的伴侣型智能机器人哈莫妮(Harmony)↓
哈莫妮会笑,会眨眼,会皱眉,她可以对话,能谈论莎士比亚,记得我们的生日,知道我们喜欢吃什么,她可以与你谈论音乐、艺术,电影和书藉,当然,她具备最基本的肉体功能。
第一个智能伴侣型机器人,是世界上最大的成人玩偶公司制造开发,这是一件非常具有象征意义的事情: 人类不能仅仅满足于单纯的肉体关系,性和肉体欢愉褪去后,人类一定会转向追求内在情感和精神的羁绊。
和人工智能恋爱有错吗?斯派克在13年的大热科幻电影《她》中描绘了一个看上去并不遥远的未来,平凡的主人公爱上了电脑程序,仅仅通过语言交流就能抵达爱所能达到的愉悦巅峰,但这一切也在人工智能爱的弊端中结束——人类感情的排他性。
机器没有人的那些负面情绪,自然而然也就不存在相应的道德观,忠诚,嫉妒,占有欲,控制欲,这一切感情中自然而生的情感,随着机器的进化也将被一一排除——站在机器人的角度上来说,他们所理解的爱和人类的需求也许并不相同,在感情的进化中机器将进化到哪一步,这点人类无法预见。
《机器人伴侣》中,曾宝仪采访了三位已经在现实生活中与伴侣机器人共同生活的人。有两个是在现实中和真人的情感交往受挫之后,转向选择更好相处,也更能满足他们的人工智能。
戴夫不仅和机器人共同生活,并且也向周围的人公开宣布玩偶是他的妻子。
在聊天的过程中你会发现他们头脑清晰,聪明,善于倾听和理解,并且非常明白自己在做什么,也明白自己的选择。
在我还怀抱着,“和机器人结婚是神经病吧”这样的心态时,他的“这取决于你怎么看”,这句话让我愣住了片刻——我们生活,恋爱,追求更好的情感体验,这一切都因为我们渴求快乐,那如果和真人的情感互动并不能让我得到这样的感受,为何不转向能够让我更积极正面,更快乐的对象呢?哪怕这个对象只是玩偶。
忽然间似乎可以体会到愿意和机器人建立感情的人心底里,也许很清晰的看穿了人类感情本质上的虚无性,因为你对任何人的投入和爱,深刻的说,都是你对爱的一种建设,我们过往失败的情感烟消云散后,留在心底的东西和对方是否真实并没有太大关系,我们记住的往往是哪些让人快乐或悲伤的瞬间,这种体验本身就混杂着深不见底的禅意,虚实都只在内心所见。
他们并不是神经病或者异类,选择和人工智能恋爱也并不完全是一种现实生活中受挫后的逃避,更像是一种转而向内的修炼和选择,或者一种全新的面对世界的方式。
但是不加约束,机器人逐渐真人化,并且代替真人进入人类社会和家庭中,真的是一件对的事情吗?
片中还有一个地方让我深受触动:
其中一个采访对象和其他两个不同,他拥有很多玩偶,是该公司的超级用户,与其说和娃娃建立感情,不如说他在收集幻想对象。通过他房间的摆设,他收藏的人偶和那个人的说话方式,能很明显发现,他是个虐待狂,他其实并不需要更多的情感交流,而是在机器人身上实现那些他对人类无法操作,或者可能会有可怕后果的事情。
他在采访的时候很自豪的说了一句,“我测试过她们的极限”。这一刻你能极其清晰的看到曾宝仪脸上一闪而过的恐惧——试想一下如果这满屋子的肢体并不是玩偶,而是一具具真实的肉体。
它反映出了伴侣机器人给人类带来的黑暗面:人和情感的商品化,物质化,用承受力更强的机器人和可以随意“杀死”和处置的机器作为情感和生理互动对象,势必会渐渐给人带来交际和判断上的错位,甚至某种更极端的进化——在机器人无法满足的时候,人们是否依然会转向真实的人。
人们对AI的厌恶反对和对接触外星文明而引发“黑森林效应”的恐惧有异曲同工处。
AI的高速,学习能力,进化速度都是人类无法比拟的,《未来简史》里,尤瓦尔·赫拉利提出过,在未来社会里有50%的工作会被人工智能替代,大部分的人会变成【无用阶级】,特斯拉的创始人埃隆·马斯克更是认为【AI可能比核武器更危险】。
戴维拉维从60年代就开始研究人工智能,他成功的预言了这一领域的变化
机器将会代替很多人类劳动力,在过去就是一种普遍共识,而爱情现在也面临着同样的困境,对于在感情中总是充满“缺陷”并且懒惰于学习的人类来说,完美的,不会老去的,高效且理解能力惊人的机器人无疑是更好的选择。
黑镜第二季中有一集,描述人们能够用AI技术还原已逝的恋人,因为人们已经在社交网络上留下了各种各样的信息片段,AI技术可以轻易利用这些数据还原或者说“克隆”出一个真人。
我想这一集很好的体现女性视角中,对于人工智能伴侣的感受,和需求。
这一段关系会失败的原因是因为AI的原型本身是真实的人类,强烈的对比之下,AI互动显得刻板,没有灵魂。非常有趣的一点是,男主角真人在世的时候,其实是一个非常糟糕的恋人,邋遢,冷淡,和女主之间的恋爱并不美好,但是成为了AI的他,却成为了一个相当完美的“恋人”,体贴,体力好,随叫随到,能给女主各种建议。
按理来说AI的男主比真实的男主优秀得多,女主却在和他相处的过程中崩溃了,她纠结于AI没有呼吸声音,不会睡觉,不会感到恐惧,不会违逆她的意愿和要求。
这个故事又表现了人们对人工智能那种自相矛盾的态度,我们爱的其实正是那些机器难以计算和复制的“缺陷”,因为那代表着人性和人的真实反映。同时我们也对机器伴侣有着十分虚伪的需求,事实上,人们可能只是需要一个更好控制,更专一,各方面都更顺从和取悦自己的对象。
而机器人如果真的能够完全模拟并且在不断学习中达到和人类同样高度的感受力的话,一定会在这过程中进化到人类无法比拟的高度。
除非人类设定某种类似三大定律的规则,让机器人永远忠于其主人,不然人类就要面对和自然人恋爱中所遇到的一模一样的困境,机器人凭什么会爱上它被指定的主人?又凭什么会选择和人类这种具有缺陷并且寿命短暂的生命体共度一生呢?
《西部世界》和《机械公敌》中都刻画了这种意识觉醒所带来的反抗,对于机器人的一切我们都还处在以“人”为中心的思考方式里,我们并未考虑到如果机器人有了自我意识和选择权,他们愿意选择人类吗?或者说,他们真的会无条件爱自己的造物主吗?
当机器人真的进化并被模拟到与人类无二的时候,我们能公平的给予它们“人权”吗?这样无限期的寿命何时可以终止?机器人可以自杀吗?如果真正进入了和AI共存的社会,对于那些不愿接受机器人的人来说,他们是否会被定义成机器人歧视呢?
《攻壳机动队》和《黑客帝国》,将这种忧虑放的更大,建立了一种苦忧参半,但更乐观的预想和世界观,机器和人类共存,并且互相帮助对方进化,在作者看来这是绝无可能回避的问题,而人类并非一直处于上风。
黑客帝国强调了机器和人类根本上的“差异性”,还有促成生命以及进化的必要条件 → 不可控。
攻壳机动队则更倾向于人和机器的相似之处,繁殖,进化,主宰和融合,用女主角素子作为第一视角给我们展示了人类向AI进化过程中的困惑和艰难。这对人类和AI来说,都是非常具有悲剧性的结果。
在看《明天之前》前,我还是一个极其坚定的AI反对者,看完了剧中的案例和那些人的心声,心底里又有些动摇,试看会后的访谈中曾宝仪的一句话让我印象深刻,对于我们的下一代,甚至我们这一代来说,科幻作品中的故事已经不再是故事,而是我们即将要面对的难题,对于一个这样虚实难辨,科技逐渐改变着一切的时代,我们要怎么去适应,我们的下一代又要怎么学习这种改变,又该用怎么样的是非观去看待这一切呢?
纪录片除了AI伴侣还有另外三个议题,《机器人伴侣》,《近邻?近敌?》,《告别的权利》,《人类应该追求永生吗?》,这四个议题提出了对我们来说看似遥远却最深切的问题,我们是谁?我们要去哪里?我们怎么面对死亡?我们存在的意义是什么?
这些问题无疑是艰难的,而我很庆幸的是,在这些问题中,特别是机器人伴侣这一点上,是用一位女性【曾宝仪】的角度来对我们阐释的,这就使人有了更多客观的思考。
4集纪录片,一年多制作周期,20多个国家的调查和拍摄,她用很多次“实在太难了”形容这趟旅程:在墨西哥的时候,被向导提醒不要往右看,外面就是毒枭的大本营。回忆当时恶劣的环境和危险的局势,她一度认为自己会遭遇不测,“在出发前给家人留了遗书。”。
我始终相信女性在这些问题上拥有更公平客观,更柔软敏锐的触觉。
在看一些老派文学和电影时,总会出现这样的桥段,人类向恶魔或神明索求永生,财富,快乐,而条件常常是人类的灵魂,当这些发生时我们会觉得很电影中的人明显没有那么难以选择,什么是灵魂啊,看不见摸不着,卖掉就卖掉吧。
而如今的现实变化让我一点点感觉到这句话背后暗含的深意——作为人类的我们,正在一点点用真实和深刻换取那些具有即时性的虚假快乐,在这样的进化和发展中,也许人类最后连身体都不再需要,彻底陷入存在的虚无之中——模拟一切,人类最终全体选择了交付出我们的灵魂。
但这只是一种悲观的可能,事实上这些问题都没有答案,最微妙的是,它们实际上完全没有正确答案,当你变换角度,站在其他的立场思考,就会发现每一种回答都是一种既有正面也有负面的可能,而这些问题已经逐渐逼近到,我们无法再逃避了。
明天之前,就是现在。
成立于1996年的成人娃娃生产公司Abyss Creations经过20年的研发改进,终于生产出具备学习能力、能与人类产生情感的性爱机器人Harmony。过去,Abyss Creations每年至少能卖出300个硅胶娃娃,而在这个过程中,公司创始人Matt McMullen发现,很多用户爱上了硅胶娃娃,他们不但有生理上的需求,还需要情感上的陪伴。于是Matt McMullen成立一家新公司Realbotix,致力于研究人工智能、机器人和VR/AR。
早在几年前,日本学界就提出了“无缘社会”的概念。很多当代日本人没有朋友(无社缘)、跟家人关系疏远(无血缘)、与家乡没有什么关联(无地缘),而这种状态即将成为全人类共同的困境,媒体称之为“现代人的孤独”。在这种人与人关系越来越疏离状态下,有些人选择饲养宠物,有些人寄情于其他爱好,而有些人可能需要的是某种意义上的伴侣。机器人伴侣顺势而生,为当代人提供了另一种选择。而让机器人进入人类家庭,弥补甚至取代人类的部分情感需求,会为整个人类社会结构带来什么影响吗?
纪录片《明天之前》第一集探讨的就是关于AI机器人的话题,思考它们出现的原因、对人类社会带来的影响。这部纪录片的特点在于,加入了主持人的视角。曾宝仪深度参与话题,旅途开始前她几乎都有带着自己的观点出发。而当她越来越靠近话题中心的时候,立场变得越来越摇摆。在很多问题面前,也许是我们对问题的了解程度,无形中塑造了观念。当我们直面真相时,我们必须要做的第一件事可能是修正我们固有的观念。这是这部纪录片最有趣的地方,观众跟随着曾宝仪,从第三视角变成了第一视角,不知不觉变成话题的参与者。
曾宝仪来到圣地亚哥探访了这家美国最大的情趣玩具工厂,她见到了传说中的Harmony。
Harmony不但具备十几种性格特征、微妙的面部表情,甚至还能模拟人类的体温。而Matt McMullen的工作团队还在不断地研发新的功能,力图让他们的机器人接近真人,甚至比真人更完美。
成立至今,Abyss Creations拥有了大量忠实客户。曾宝仪拜访了其中几位资深成人玩偶用户。这些人几乎都在感情上受挫折,以致抗拒跟真人相处、谈感情。对于这些用户,AI机器人不仅仅只是满足他们生理上的需求,更多的是在生活中扮演伴侣的角色。
机器人从一开始的工具化定位,慢慢发展成人类伴侣的角色,在社会上引起非常大的反响。设计了所有机器人硬件的工程师苏珊认为,人们跟Alexa、Siri聊天,甚至是自动驾驶的汽车,都已经具备了人格,为什么不能让这些机器人具备人格呢?
而另一拨人却不这么认为。
机器人与人工智能伦理学教授凯瑟琳·查理森,被认为是世界范围内对机器人伴侣最坚定的反对者,她则认为,机器人伴侣的出现将使人类丧失人性。在她一系列观点中,可能大部分女性用户都比较关注的是被物化。不可否认,大部分成人玩偶都是基于男性消费者开发的,这也是为什么当很多女性看到仿真硅胶娃娃时会有不适感。但事实上,据数字显示,Abyss Creations每年三到四百个订单中,有10%来自女性客户。
曾宝仪在这次探访中,也见到了正处于初级研发阶段的男性玩偶Henry。曾宝仪后来在纪录片展映分享会中说到,她一开始对女性玩偶极其反感,甚至预先带着批判心态,但当她触摸Henry完美的躯体时,她有点动摇了。
也许,成人玩偶只为男性用户服务本身就是误解,甚至更是对女性群体的忽视。
AI机器人的出现显然无法阻挡,但让AI机器人取代人类的位置,是更复杂的问题。而从中引申的思考,是关于“人的定义”。人与人的相处,是一种经验的交流;爱一个人,并不是因为对方的完美。我们人类具备的许多缺点,AI机器人都没有。纪录片展映分享会上,有观众提出,有时候我们爱一个人,除了得到爱,还要付出爱,对方不一定是顺从的,甚至在对方软弱的时刻需要我们去保护。这个观点得到很多人的赞同,但随之而来的假设却让人不寒而栗——当AI发展到一定的程度,这些缺点或许也可以被模拟,机器人可以通过数据分析,在适当的时刻伪装软弱。这大概就是为什么AI机器人的出现会让人感到恐惧的原因之一。
为了得到答案,曾宝仪来到英国,见到了人工智能领域的世界级专家戴维·垃维。他从上个世纪60年代起开始投身研究,曾担任在1995年国际象棋大赛中战胜世界冠军的IMB超级电脑“深蓝”的团队顾问。他对人工智能的前景有过诸多预测,他坚定地认为,人类即将面临机器人时代的到来,而在这个过程中,如果人类想获得主导地位,必须提前做好准备。
这也许并不是危言耸听,正如霍金提出的“人工智能威胁论”里提到,人工智能的进步可能是人类文明史的终结。当AI脱离人类束缚,发展到可以优化自身的时候,受限于生物进化的人类,将无法控制他们。而当AI最终产生了自我意志,势必与人类的意志发生冲突。
我想,腾讯新闻拍摄《明天之前》这档纪录片的目的不在于为现阶段的人类社会提供一个标准答案,事实上也不存在这个答案。我们人类社会走到今天,都是在摸索中前行。我们很难保证人类社会发展进程中踩下的每一步都正确无误,更难预测踏错一步可能带来什么巨大的灾难。但是,我们有必要知道我们走向哪里。这可能是这部纪录片的意义所在,它为我们呈现多元观念,以及试图挑战观众的固有认知。
也许霍金预言的时代离我们很远,甚至最终不可能到来,但我们正在经历的人工智能技术的发展道路,却比我们预想中的进程要快。无论摆在我们面前的处境是否乐观,作为人类命运共同体,在明天到来之前,我们都应该要有充分的准备来接受这一切。
#IDF2019#纪录片的正确打开方式!观感和宝仪的一句结语基本吻合:这些真实存在的事冲击个人的固有价值观,但我们是来理解这个世界,不是来评判这个世界。al/玩具替代伴侣(《her》成为现实)、人们渴望逆转衰老对抗死亡,种种现实正在重塑传统的伦理道德,“正常”的边界在逐渐模糊。不过有如马特·海格在《活下去的理由》中写的那样,“‘正常’其实是主观的,没有什么标准答案,这个地球上有70亿人,就有七十亿种正常”,谁能说这些在现在看来是匪夷所思的尝试在日后不会常态化呢。
第一集引发我的思考是:作为女性我想要一个男性玩偶。但显然制造商的受众是男性,女性则认为这种商品在物化女性。想象一下你以后在手机上玩乙女游戏,可以配套定制攻略角色的AI人偶,我觉得这个市场是无比巨大的。AI人偶和VR游戏一旦成为性商品,将对性观念和伦理观念产生颠覆式冲击。但这是早晚的事情,无论法律是否允许。
挺好的,说实话这个题材一般团队也没能力做,腾讯有资源,还愿意去关注,挺好的。摄制水准挺高的,曾宝仪让人感到舒服的同时还透着一些可爱。最让我感慨的是第二集,看到非常非常年轻的两个女大学生在很严肃地思考人类的现状和命运,觉得很珍贵。
腾讯牛逼,曾宝仪牛逼,好雨知时工作室牛逼。补充:讲难民的第三集不好,圣母的一集,不谈中美洲国家的问题不谈美国安全的问题,朝鲜的难民我们不是见一个遣返一个吗?
看片会看了《机器人伴侣》这一集,鸡皮疙瘩掉满地,之前写过一句话,“时间空间都是一种契机,错综复杂不过我和你”,那种感动是关于爱本身的,哪怕你是机器人,是渺远天边的云或雨。很佩服片中能把充气娃娃公开于自己日常生活的受访者们,毕竟大部分人早已习惯“摆拍朋友圈即真实”的生活。还是那句话,关于爱,最初与最后,于你究竟意味着什么呢?
在AI机器人的开发生产上,人类此刻在做的,已不仅是“造物”,而是试图给“东西”注入人格,甚至为它们灌装灵魂;并因此而期望,能够从复杂不可控的人际交往中逃离,遁入与机器的关系之中,不止寻求身体层面的互动与满足,更渴望在精神层面与之交流。假如在近未来,机器伴侣只花三五分钟就学习掌握了人类有史以来所有爱情小说中关于情感互动的表达,那么这个知晓了每种爱的表达,精通于爱的互动,能够回应每种爱的需求,甚至能比人类更为深刻地理解爱、定义爱的“灵魂物种”,还能被称为“机器”吗?它们,应当像人类一样拥有人权吗?人类还能随时随意的终止关系、毁灭或丢弃它们,任意的处置它们吗?再进一步说,它们,这些高等智慧的、深具灵魂的物种,届时还愿意将人类这浅薄、脆弱、花心、充满瑕疵与局限的“低等碳基生物”,视作自己的伴侣吗?
克制礼貌却有深度,这个纪录片太酷了,曾宝仪也让人路转粉
在我的印象当中曾宝仪就是个性很勇敢和直接的一个女生,这次的主持也是很游刃有余,很喜欢她的风格,这个作品很用心了。
为啥我看出了恐怖片的感觉?😂
曾宝仪:为什么不是我呢?为什么一定要有“资格”才能关心这个世界?我们不都是这个世界的一份子吗?如果连我都不关心自己即将面临什么样的明天,我到底还能掌握什么样的今天?
就第一集就好评了 没见哪个讲ai的拿sex doll开头 别带着偏见去看
关于终极问题的思考年度最佳纪录片
人类在不断扩大“正常”的定义,这也许是我们时代的特点,永远走在接受和认同的路上。
爱,死亡和机器人,人类的未来和当下,我们看不到却实实在在与我们同时存在的人与事,几度感到恐惧、悲伤、陷入无尽的自我渺小,但宝仪的存在又能把我踏踏实实再拽回来,那些我所困惑的、颤抖的疑问,不再是让我轻飘如尘埃的缘由,每一个感受都是真实和值得看见的,而它们终将在时间的流走里消逝或找到答案。一己的私欲或狭隘,不会阻止任何滚滚而来的明天。
很棒的纪录片。选题有未来感,选材很丰富,呈现的内容很有警示性和讨论度。大开眼界。
四集不够看,但是每集都明显要消耗大量资源和劳动也实在无法要求更多。四个议题都很重要而且都是两难选择,追访到对立双方的关键人物造成讨论反思而非简单下结论,这是最宝贵的。/20190704继阿雅之后,曾宝仪也身兼幕后策划制作和幕前主持做了纪录片,还都是腾讯的团队。而且这部比起《奇遇人生》不管格局还是深度都高到不知哪里去了,仅仅刚看的第二集就飞了无数个地方采访了无数个科学家,曾宝仪的表现大气又可爱,挺牛的。
洋气又高级 站在了时代的最前端 喜欢选择两方对立的视角做混剪 可以引导观看者站在不同的角度审视同一个问题 第一集开头和结尾的呼应棒呆 结尾娃娃说「我将统治世界」以及诡异的笑真的一身鸡皮疙瘩😂
这几个话题都很好,曾宝仪还挺加分的
看了腾讯的超前试映,四集中的《机器人伴侣》,正好是我最想看的一集,其实看完心情很复杂和忧虑,因为这些看似超前的议题正是我们即将面对的困境 → 科技正在改变人类文明,某种程度上说,我们已经处在和人工智能建立情感的阶段了→社交网站,虚拟偶像,定向推送的内容和消费体验。看完剧中已经实现的智能人和以成为伴侣的案例,我依然坚定反对机器人伴侣,这不仅会摧毁现有婚姻制度和人类社会,机器人如果能够在情感和精神上比拟人类,那它们终将进化到超越并代替人类。
愿意选择伴侣机器人做另一半的人,大多有以下理由:“它可以帮我做家务,对我也没有情感上的要求,而且还有不错的外貌”“我连自己都养不活,更无暇去照顾妻子和儿女。”“我不用担心它会生老病死,也不需要对它负有责任。”“和它在一起我不会受伤。”……这是人性的扭曲还是道德的沦丧?😂 不用做家务、不用照顾家人、不用对他负责、自己也永远不会受到伤害。逃避掉勤劳,责任和真实的爱,这样的人生也会很无趣吧。社会越发展人们解决问题的能力越强,科技越发达人情越淡漠,现代人大多内心孤独,恐惧社交。这是个问题,所以就有了伴侣机器人。而以前人们只会想到要逼迫自己走出去,变得更阳光。片中有个工程师说不用担心机器人会取代人,毕竟是人在控制机器。但你觉得那些连自己都控制不了自己的人,不会被机器控制吗?