我曾经讨论过目前的半自动化系统 ^[5] 根本就是不完善的，由于自动化的发展正好处于危险的中间状态，既不是完全自动化也不是纯人工操作。我认为：要么就完全自动化，要么不要自动化，但我们现在所使用的都是半自动化系统。更糟的是，当正常运转时，自动化系统发挥作用，当情况不妙时，系统没有事先警示就退出运作——这正好与我们的期望背道而驰。

如果一位飞机驾驶员或汽车司机清楚飞机或汽车的状况以及周围的环境，还有其他飞行物或汽车的位置和状况，而且，持续地了解并对这些状况做出反应，那么这个人是“操作系统回路”（control loop）中不可或缺的一环：感受并了解状况，决定并采取适当的行动，然后观察结果。当你每次开车时都小心翼翼，全神贯注，那你就是“融入系统中”（in the loop）。同样的道理，当你在做饭、清洗，甚至玩电子游戏时，只要持续不断地对情况做出判断，决定采取什么行动和衡量行动结果，那你就是在“融入系统中”。

和以上的观念非常类似的另一个观念称为“状况感知”（situation awareness）。它指一个人对周遭事物的背景和现在状况，以及下一步可能发生状况的了解与认知。理论上，在完全自动化的情况下，只要操作者充分地掌握状况，持续注意系统的动作并判断境况，在必要时介入操作，操作者仍然可以“融入系统”。然而，这种“被动式的观察”（passive observation）并不是很有趣，尤其像飞行员和驾驶者在数小时的长途驾驶中，需要长期保持这种状态。在实验心理学的领域里，我们通常以“警觉”（vigilance）来描述这种现象。对警觉的理论和实验研究结果揭示人的警惕能力会依时间增加而减弱，人们确实很难长时间关注在单调乏味的工作上。

当人们“置身事外”时，他们不再受到影响。万一系统发生问题，需要立即应对时，置身事外的操作者不能提供有效的处理。而让他们重新“融入系统中”，则要花相当多的时间和努力才能做到，到时候恐怕为时已晚。

自动化设备的第二个问题是对自动化的过分依赖，即使这时自动化设备已经出问题了。英国布鲁内尔大学（Brunel University）的两位心理学家内维尔·史坦顿（N.Stanton）和马克·杨恩（M.Young），用汽车驾驶模拟舱（automobile simulator）研究使用自动式巡航系统的驾驶者。他们发现，当自动巡航系统工作正常时，一切都好，可是当系统发生故障时 ^[6] ，使用巡航系统的驾驶者会比那些没有使用此高科技的驾驶者更容易发生车祸。这种发现有共性：安全设备在没有失效时的确能够增进安全。当使用者逐渐地依赖自动化设备之后，不仅“置身事外”，而且容易过于信任自动化设备。万一自动化设备出了故障，操作者已经很难应对问题，如果他们根本没有使用自动化操作，情况反而更好一些。在每个研究领域都发现了这种现象，比如飞机驾驶员、火车司机、汽车司机等。

有一种倾向是一味地遵循自动化设备所提供的操作指南，这造成一些稀奇古怪的结果。英格兰威特夏（Wiltshire）的居民发现了一个很赚钱的行业：从阿旺河（Avon）里拖出落水的汽车。原来很多汽车司机按照他们的导航系统的指示，把车子开进了阿旺河。尽管基于常识，他们也应当知道自己即将驶入阿旺河 ^[7] 。同样的，即使很有经验的飞行员，有时也太过相信自动导航系统。皇家号邮轮（Royal Majesty）搁浅 ^[8] ，也是由于船员过于相信他们的智能导航系统。所有的汽车制造商对这个问题都很重视。在这个大家乐于打官司的时代，他们除了处理实际的安全问题，就是深恐任何微小的事件可能引起大宗的诉讼。所以，他们如何应对？小心，再小心。

在拥挤的高速公路上开车是很危险的事，全世界每年约有120万以上的人死于车祸，五千多万人受伤。这的确是因为我们依赖汽车这一机器所必须正视的危险。一方面，汽车给地球上的人类带来帮助和价值，但另一方面同时也带来伤亡。

当然，我们可以更好地培训汽车驾驶员，但部分问题由于开车本身就是件很危险的事。当发生状况时，瞬间内很难做出反应。而且，每个驾驶员的注意力都随时在变化——这是人类的自然状态。即使在最好的状态下，开车也是个危险的活动。

如果一个系统未能完全自动化，那么，我们要对已经自动化的部分格外小心，有时候不需要干涉，有时候比真正需要参与的还要求人们投入更多，以便司机通晓境况，保持注意力。完全由人工操作的汽车很危险，完全自动化的汽车反而更安全。困难在于完全自动化之前的过渡期：当只有一部分功能可以自动化，并且不同的车子具有不同的功能，甚至已经安装的自动化设备也有其限制。虽然部分驾驶自动化的汽车会降低发生车祸的几率，可是我担心实际发生的意外事故会成倍地增加，牵连到更多的汽车，带来更多的伤亡，必须要小心处理人和机器之间的关系。