社科网首页|论坛|人文社区|客户端|官方微博|报刊投稿|邮箱 中国社会科学网
通俗读物

【陈自富】保证技术造福大多数人

 

201769日,苹果公司首席执行官蒂姆·库克在麻省理工学院(MIT2017届毕业生毕业典礼发表演说时,表达了对技术应用中缺乏人文关怀的担忧,并鼓励MIT的毕业生将科技与人文结合起来,为更多的人服务。

演说词中有一段话被媒体广泛转载:“我所担心的并不是人工智能能够像人一样思考,我更担心的是人们像计算机一样思考,没有价值观,没有同情心,没有对结果的敬畏之心……如果科学是黑暗中的探索,那么人性则是引领我们前行、让我们看清危险的烛火”。库克表达了对技术异化的担心,即人像计算机一样思考,没有价值观和同情心,这样将导致技术控制人类,人性对技术再无约束作用,技术成为一种异己的敌对力量,危害社会甚至反制人类。由于库克所执掌的苹果公司在全球科技领域中的领先地位,同时该演说在某种程度上也反映了苹果公司对技术的官方立场,因此这段话在互联网上迅速传播并得到了广泛好评。

库克为技术带来的问题所开出的药方并不复杂:就是期待像MIT毕业生这样的科技工作者,能够多一些人文精神,把正确的价值观与科技结合起来。这种解决方式来源于一种对技术的主流传统观点:技术工具论,也就是认为技术只是人类用来改造自然和社会的工具,其本身并无善恶之分,技术是否能造福人类,主要取决于使用者本身的善恶,即所谓“枪不杀人,是人杀人”。因此要想控制技术应用的善恶,首先要让技术人员接受人文熏陶,使他们在掌握技术应用权力的同时具备辨明是非的能力,从而能够将技术用于人类福祉,正如另一家科技公司巨擘谷歌的口号:“不作恶(Don't be evil)。”

这种认为技术在政治上、伦理上和文化上是中性的,没有善恶对错之分的观点也被称为“技术中立论”,它和工具论是结合在一起的,工具是中性的东西,只是一种纯粹的手段,因此可以被人类应用于任何目的。由于将技术及其社会后果区分开来,技术本身似乎成了超凡脱俗的工具,而且由于技术开发中一般采用“效率”为主要衡量标准,所应用的知识似乎是客观并可以普遍应用的,因此在常识上也容易被大众所接受。而占据技术垄断地位的大公司更是欢迎这种观点,一方面可以通过开发技术的名义获取更多资源,另一方面即使技术被滥用甚至产生严重社会后果,那也是使用者的问题,公司作为技术开发者无须承担责任。

因此,我们对库克演说中表现出来的立场毫不惊讶,这正是二战以来全球对于技术工具论的主流立场,但这种立场在今天值得重新审视,难道真的只需要加强对科技工作者的人文教育就足以阻止技术被滥用吗?

我们一般把技术在应用上可能为善也可能作恶的特点称为技术的二重性,也就是说技术至少在应用于社会时承载着政治、社会和伦理的价值判断,因此也称作技术价值的二重性。就此而言,技术并不中立,但就构成技术本身的知识体系和工具而言,却无善恶之分。

二战以后由于经济的发展和信息革命的推动,使得世界各国之间的联系发展到了一个新的水平。科技、军事、政治、教育、农业等不同领域之间的相互影响更加活跃,我们难以再将技术仅作为中立的工具看待。一方面技术固然有被动等待人们揭示的中性部分,这一部分确定了技术的内在价值,但技术更重要的是其具备提高生产效率和推动人类进步的现实价值。为了让技术走出实验室,那么必然需要企业、政府、公众等社会因素的介入。从这个意义上来看,在实验室中被束之高阁的技术并无现实意义,只有广泛投入实际应用的技术才是真正有价值的,而如何投入应用却往往是一个社会、伦理和政治问题。因此,在当代社会技术不再中立,而是承载着商业、社会、伦理和政治等方面的价值观考量。

冷战结束后世界文明陷入一种多元化状态,技术不仅体现价值,而且成为了现代文明的物质框架,由此导致一些原教旨主义者拒绝现代技术文明,或者仅仅有所取舍地将部分技术用于宗教用途。在这个意义上,对技术的取舍转化成了生活方式的选择问题,使得人们对技术中立的看法发生动摇。

技术中立论将技术知识或工具的自然属性与其社会应用的复杂情景割裂开来。库克所主张的依靠技术人员自发性地控制技术的应用,并不是根本解决之道,因为所有的科学家和技术人员都在一定的文化背景中接受教育并形成自己的世界观。例如,MIT本身就是黑客文化的发源地之一,黑客所倡导的互联网开放和去中心化的思潮,催生了与主流产业对立的维基百科、比特币等项目,对全球已经成熟的互联网监管体系形成挑战,使得我们的文化产生分裂。

对技术二重性的把握需要从更高层次开始,即在构成技术的自然属性和社会属性的联系中将技术引导向善,这种联系贯穿于技术发展从需求、方案、开发定型、应用推广的全过程。从广义上来看,就是如何设计技术发展路径使之满足绝大多数人的需要,因此我们需要引入广泛的技术民主化,使得从用户到开发者和政府的各个群体都能充分参与技术设计过程,在打破技术专家的话语霸权的同时,避免被既得利益者绑架。

概而言之,在库克立场基础上的人们首先需要认识到技术在当代社会是高度负荷政治、文化和伦理价值的,绝不是纯粹、中性的工具。其次是在技术发展的全过程中把握其价值,而不是只诉诸于技术人员或科学家这样的特定群体的人文素养,因此需要用户、政府、消费者等各个群体的广泛参与。再次是要建立制度或规范,防止社会被技术的自我发展所绑架。技术一旦得到广泛应用,其自主性就被广泛的用户基础所推动,从而使得其发展不受约束并获得超额社会资源。例如,一个国家为了军备竞赛投入巨资开发军事技术,或者某个行业为了自身利益而阻止新技术的应用。最后需要在法律、文化、社会制度上规范技术在不同社会语境下的解读。很多技术的应用是由用户在自己的语境中来解释和定义的,例如搜索引擎既可以方便人们查找信息,也能够被不法商人用于虚假宣传和欺诈。

因此,只有在多个方面考虑和把握技术的二重性,我们才能努力保证技术一以贯之地造福于绝大多数人。

(来源:学习时报)