3.19 The Glass Cage

Topic: How we are changed by technology? (Nicholas Carr)

Carr’s central thesis can be summed up in a quote often attributed to Marshall McLuhan,

“we shape our tools, and thereafter our tools shape us.”

“The Glass Cage” expands the arguments in Carr’s groundbreaking book “The Shallows: What the Internet Is Doing to Our Brains”. “The Shallows” spotlights the cognitive consequences of Internet and computer use and, more broadly, examines the role that media and other technologies have played in shaping the way people think.

“The Glass Cage” explores the impact of automation from a deeply human perspective, examining the personal as well as the economic consequences of our growing dependence on computers. How we can use technology to expand the human experience?

核心观点

我们在慢慢的被周围的工具宠坏; 自动化替代了我们的决策能力; 自动化会钝化我们的思维; 自动化还有未解决的道德问题。 我们在慢慢的被周围的工具宠坏 自动化让我们的工作变得更加机械了。

案例1: 2012年欧洲航空安全局对飞行员做出了调查报告显示,95%的飞行员表示自动化会影响他们的手动飞行能力和认知能力,由于之前太依赖自动飞行技术,导致飞行员敏锐性和反应的准确度降低。2009年美国大陆航空公司一架客机就因为机长的操作失误引起了事故。

案例2: 再过两代人,因纽特人( Inuit tribes)的定位能力可能会彻底消失。因纽特人可以不用地图、指南针,仅依靠星星、风向甚至是雪堆的形状就判断定位,GPS的引入让他们的这个技能慢慢地退化了, 并且导航比较容易结冰、没电,捕猎事故的数量也增加了。

导航出现故障的比率多大呢?如果导航在大部分时候更加准确能够提高效率的时候,为什么还要这些定位能力呢?原来远古时代我们还不用穿衣服,有着长长的毛发御寒能力更强呢,那难道我们还要回到那个不用穿衣服的年代更好么?

案例3: 在一段旅行结束之后,用地图的旅行者能够更清晰地回忆起走过的线路,能更完整地回忆起整个地图。大脑的海马体里有定位细胞的,这些定位细胞会不断地强化我们的记忆能力。大脑对真实的场景和屏幕中的模拟场景,定位细胞的反应是不一样的。 自动化替代了我们的决策能力

我们越来越相信程序做出来的判断,就容易在不知不觉中遵守自动化做出的决定。

  • 案例1: 1995年,有一艘客轮,装了当时最先进的GPS系统,起航一个小时以后,这个设备的天线松掉了,还能够继续提供错误数据。船长虽然发现了问题,但还是决定相信数据,最后导致这艘船撞上了礁石,造成了一起不必要的海难。

  • 案例2: 美国的医院发现在使用电子病例后,病人的医药费越来越贵了。因为在检查的过程中,医生只要把病人的情况输入进去,系统就会自动地提供需要检查的项目。本来一个普通的感冒,结果机器就建议病人做一个全方位的身体检查,增加了无效、重复检查的几率。

Hui: 说明医生太多了。

  • 案例3: 优衣库的选衣服系统,将T恤按风格颜色分成不同的代表心情,顾客会戴上能监测脑波的耳机,系统测试他们在观看代表不同心情的视频时的脑部活动。最后系统根据测试结果为顾客选择最符合他们心情的T恤。 自动化会钝化我们的思维 我们的学习是有“生成效应”的,比起别人直接给我们的信息,我们对自己创造的信息记忆更牢固。自动化使我们的感官利用越来越少,这种学习方式,容易让我们失去很多隐性知识。

  • 案例1: 计算器让我们的心算、计算能力退化。 自动化还有未解决的道德问题

案例1: 如果无人驾驶汽车为了保护乘客而急刹车,但是急刹车会伤害旁边的路人,无人驾驶到底应该如何判断?

案例2: 如果现在路上有一个失控的大卡车往我这边来了,我得赶紧转到另外一个小胡同里躲避一下,在小胡同里已经停着一辆车了,车上没人,我必须得撞上小车才能保证自己不被大车碾压。但是这个时候自动驾驶的防撞系统检测到我要撞到障碍物了,于是就刹车了,我就得重新启动手动驾驶功能继续躲避,或者就得眼看着大卡车朝我冲过来。

案例3: 我们再把脑洞开得大一点,假如有恐怖分子命令人工智能的机器人伤害无辜的人,那这些机器人到底是应该完全遵循主人的意志,还是应该抗命?如何在自动化浪潮中保持清醒?可以从坚持工作、把自动化与人工操作相结合两个方面入手。

案例4: 工作悖论实验。在工作期间,人们更加高兴,情绪更高。虽然工作不是自己最喜欢的事情,但是在工作中,时间是充实的,并且工作有了成果会让人有成就感。在休息时间容易感到无聊。 在自动化开发和操作的时候,把人工操作融合进去。

案例5: 波音航空公司和空客公司,在设计自己的飞机的时候就是不一样的策略。空客的飞机的最终驾驶权是在计算机手里的。波音公司的设计体现着驾驶员对飞机的决策权。

只是道德问题的转移。同时也避免了很多问题。自动化存在这些缺陷,但是也有很多好处。无能驾驶车可以降低由于人的疲惫,注意力不集中,生病等各种原因造成的事故,和上面的意外比较起来,减少的事故比增加的事故多多多了。

总结 这本书可以说是给我们对于技术的乐观打了一针镇静剂。让我们看到过度依赖使用自动化会让我们的技能退化、失去决策能力、钝化我们的思维。但想要完全脱离自动化的生活是不可能也是没必要的,我们需要的是保持清醒,保持清醒的办法主要是坚持自己的工作,把自动化与人工操作相结合。

自动化本身是没错的,但问题在于,我们不知道该在什么时间说“够了”,不知道自动化和人工的界限应该在哪里。我们缺少的是保持思维的清醒、保持不被自动化推着走的能力,而我们要做的是重新判断这些技术是增强了我们还是削弱了我们的核心能力,然后做出正确的选择。虽然自动化让我们走进了一个看不见的笼子,但是我们仍然可以在自己喜欢做的事情中找到自己,找到不能被自动化代替的部分。 无论科技怎么发展,我们一天都只有24小时。我们可以用自动化帮助下省出的时间去发展其他的技能。只要我们自己总是处于一种学习的状态,能力只是此消彼长。如果机器真正可以取代人类,那岂不是证明人也能够创造出生物,甚至是高于自己的生物,如此一来,人类存在的价值又在哪里呢?只是为了延续而延续么?我不觉得世界是这样的。一定有一个高于现实维度的存在,当前的世界只是更大世界的一部分。归根结底,带来害处的不是自动化或者任何科技,而是人类的懒惰和狭隘。

金句:

  1. 自动化会削弱工具和使用者之间的联系,这并不是因为计算机控制的系统过于复杂,而是因为自动化不需要太多的人类参与。
  2. 如果自动化机器要在这个世界大行其道,我们就要把道德代码完美地转化为软件代码。
  3. 不知不觉地,社会就掉进了以机器为中心的生活漩涡,这种生活强调技术的重要性大过人类,因此,人们被迫扮演辅助者的角色,我们最不擅长的就是这个了。更糟糕的是,以机器为中心的观点将人类同机器相比,认为人类不够资格,不能胜任严格、重复、精确的任务。