| smen |
2019-03-16 16:47 |
近年来，AI产业应用的深化已成为我国促进新兴产业发展，推动制造业转型升级的重要动力。另一方面，世界各国多个领域的学者也都在围绕这类新技术展开研究，警惕潜在的技术风险，思考与之相关的社会问题，尝试建立制度化的道德伦理规范。
美国历史学家阿德里安娜·梅厄（Adrienne Mayor）近来出版的著作《诸神与机器人》，在AI争论的热潮中宛如一股奇趣的清流。梅厄在硅谷定居十多年，浸淫于资本技术携手狂奔的氛围中，作为一位著名的古代科学史及古典民俗学专家，她在新书中独辟蹊径，把当今的新技术和人们耳熟能详的古希腊神话一一对位：塔罗斯是机器人，美狄亚是“黑客”，潘多拉是人工智能……在这些距今2500多年的故事中，在人神之间的爱情、阴谋与复仇中，早已埋藏了富有预见性的道德警示，而梅厄通过这场时空折叠的游戏，揭示了人类在前沿科技中所寄托的渴望力量与不朽的古老文化梦想。2019年3月5日，梅厄在旧金山接受了法国《解放报》驻美记者洛尔·安德里永（Laure Andrillon）的专访，编译如下。
洛尔·安德里永：说到神话，人们会想到永生的神明、神奇的魔力、神秘的想象生物。您为什么要到神话中去追溯机器人的历史呢？
阿德里安娜·梅厄：我是个研究古代科学史的历史学家，又在硅谷中心区生活了13年。看着身边的人们不断努力发明新的自动化设备，创造人工智能，追求健康长寿甚至不朽的生命，我想知道在今天激励技术进步的这种愿望，最初是在多久以前诞生的。大多数历史学家认为最早的机器人故事可以追溯到中世纪，主要是机器骑士。然而有一天，塔罗斯的故事突然进入到我的脑海。
塔罗斯是一台青铜机器人，会自动搬起岸边的岩石投砸来犯的船只，守卫克里特岛。在公元前700多年的《荷马史诗》中，塔罗斯并没有被描绘成某种神奇的生物！他不是被“生出来”的，而是通过技术，由火和冶金之神赫菲斯托斯用双手和工具制造出来的。
后来在神话中，女巫美狄亚为帮助伊阿宋获取金羊毛，找到了欺骗塔罗斯的方法。在不同版本中，她要么是催眠了塔罗斯，要么是说服他接受能使其永生的手术：她刺穿他脚踝处唯一的弱点，从中抽空了他的魔力神血。美狄亚就是个“黑客”！塔罗斯的神话已经考虑到机器人被黑客攻击转变其功能的可能性了。这让人不由想到一则传闻——美国军方正在开发一种智能机器人外骨骼，名字就叫塔罗斯，它使用可固化的液态金属来保护士兵免受子弹攻击，还将配备能远程监控士兵感官的传感器。
洛尔·安德里永：您在书中论证了任务自动化的梦想至少可以追溯到《伊利亚特》的时代。荷马笔下的机器工人是什么样的？
阿德里安娜·梅厄：在《伊利亚特》中，我们会读到许多自动化设备，这些器物都能自动运作。例如：菲阿奇岛民能自主航行的舰船，自动为奥林匹斯众神斟酒的三足鼎，在赫菲斯托斯锻冶时自动鼓风的风箱。这位神明甚至给自己打造了一群黄金铸身的女仆，为了省得给她们下命令，他还给了她们意识甚至神识，使她们能够预测出他的需求。联想到当下有关“究竟需要给神经网络提供多大的数据量才能令其完成特定任务”的辩论，这一段故事读起来着实让人着迷。值得注意的是，在所有这些例子中，为了免除繁重的人力劳动，行为动作都被机械化了。
到了4世纪，这些神话中的自动装置引起了亚里士多德的思考，这位哲学家虽然是奴隶制的狂热拥护者，但他在《政治学》中也承认，如果赫菲斯托斯造的那些自动三足鼎真的存在，就没有必要有奴隶了……这在今天看起来略有点讽刺，因为从那时起工人们就开始担心会被机器人取代了。
人工智能常被人们比作一个将释放一切人间罪孽的邪恶的潘多拉魔盒。但在神话中，这个禁止打开的盒子里装的，不仅有衰老、疾病、战争、饥荒和死亡，它还包含了希望。
洛尔·安德里永：那么即使以放弃希望为代价，也不应该打开这个盒子吗？
阿德里安娜·梅厄：潘多拉是一个引人入胜的例子，如果仔细去读这个故事，我们会发现她并不像人们常以为的那样，是个天真无邪的女人，禁不住诱惑才打开了禁忌之盒。她是宙斯请赫菲斯托斯制造出来的一个机器人，用来欺骗人类，报复他们的傲慢自大，因为他们接受了普罗米修斯的礼物，也就是曾经专属于神明的火种。潘多拉带来的灾祸不是偶然的，她恰恰是被精心设计，以美女的形象出现来欺骗人类的陷阱。至于在所有灾祸逃走之后剩下来的“希望”，它常被看作是留给人类的一份“安慰奖”。然而希望在古希腊人看来并不一定是积极的正能量。盲目的希望使人缺乏远见！要理解这个神话中的警示，关键要搞清楚是什么人，为了什么缘故要制造这个机器人：这是宙斯的想法，他是一个独裁的神，一个地道的复仇之神。这些神话提醒我们要警惕技术易于被暴君垄断并利用的倾向。
洛尔·安德里永：今天，超人主义群体和一些高科技企业正在努力追求永生不朽。他们能从那些有着同样目标的神话人物身上学到些什么？
阿德里安娜·梅厄：在神话中，追求永生的凡人往往表现出“傲慢”（hybris），也就是“过分、出格”的样子。英雄们的智慧和英勇则在于接受他们的有限性。在《奥德赛》中，女神卡吕普索以永生为代价挽留尤利西斯永远待在她的岛上，而他拒绝了这一提议，重拾自我并回到妻子佩内洛普身边。黎明女神爱奥斯为她的情人提托诺斯求得了不死之身，可她却忘了永生并不等于永葆青春。提托诺斯老了，爱奥斯将他安置在一个黄金铸就的牢笼里，让他在那里日渐衰弱地走向永恒。暴君西西弗斯绑架死神桑纳托斯带来了诸多麻烦：大地上人满为患，病人痛苦而不得解脱，战争成了人类的游戏，西西弗斯因此受到桑纳托斯和诸神的严厉惩罚。我甚至发现了一个不是靠神力而是靠技术（在故事里表现为药物）来寻求永生的神话：美狄亚把伊阿宋的父亲放到大锅药汤里熬煮，使他换血洗髓返老还童。后来她又把同样的技术用在她的情敌佩利亚斯身上，但是故意省略了其中一个步骤，于是给她带来的就不是青春而是死亡。这个故事让我马上想到近年来颇受争议的血液治疗试验，给年迈的老鼠输入年轻人的血液，测试其中的活性蛋白质治疗阿尔茨海默症或帕金森症等“老年病”，帮助衰老肌体恢复活力的可能性。这则神话警示我们认清科学与庸医骗子之间的界限，并展示了人如果想要“成神”将招致怎样的危险。
洛尔·安德里永：这些神话是不是要让我们必须放弃这些“文化梦想”呢？
阿德里安娜·梅厄：对古人来说，这些神话只是他们的某种思想实验，只是在今天仍然适用。我常想起一句话，是斯莱德克（John Sladek）1983年出版的科幻小说《提克·托克》（Tik-Tok，中文版译名《机器人谋杀案》）中，那个与小说同名的邪恶机器人说的：“有时我会想，机器人被发明出来是不是为了回答哲学家们提出的问题。”不过直至今日，我们才刚刚要拥有使这些机器人梦想成真的必要技术手段。思想实验呈现出截然不同的现实。它并不意味着我们必须放弃进步，但我们必须更谨慎地预测其中的危险。以代达洛斯的故事为例，他和儿子伊卡洛斯被困在克里特岛的迷宫里，这位巧匠为了脱身，用蜂蜡黏合羽毛造出了人造翅膀，并警告他的儿子不准飞得太高或太低，因为太阳的温度与海面的湿气会使翅膀损坏，可是年轻的伊卡洛斯陶醉于飞行，升得太高烤化了蜡而不幸坠亡，代达洛斯则一直小心翼翼地飞行终得逃脱，这则神话也是在教导人谦逊。我甚至还找到一个太空旅行的故事！为了征服天空，亚历山大登上他建造的飞行器离开了地球。他惊异地看着大地渐渐变成一个蓝色的小点，脆弱地漂浮在无尽的虚空中。看到这番景象他心满意足，满怀谦卑之心回到了地球。当我们知道今天有人想要造火箭去火星上定居时，又会是怎样的心情呢？
洛尔·安德里永：您在书的最后还提出，人们甚至可以用神话来教育人工智能……
阿德里安娜·梅厄：一些科学家已经在尝试通过给人工智能输入寓言故事、小说和电影剧本，来向它们灌输人类的道德规范了。“谢赫拉莎德”就是这样一个例子，这个人工智能的名字来自《一千零一夜》里讲故事的女主角：开发者试图通过大量简单的故事，来向“她”展示何谓有道德的行为。这项研究的目标是避免微软聊天机器人Tay“学坏”这类事件再度发生，2013年Tay刚上线没几个小时，就在社交网络上学会了种族歧视和性别歧视。人们可以用神话来养育人工智能，因为这其中包含了太多有关“他们”的教诲，而这些神话也将成为人工智能自己“文化”的一部分。不过你们也许会说，这只不过是我的又一个文化梦想而已…… |
|