人工智能与真正的愚蠢
我们一直担心人工智能会变得过于聪明。
也许，我们真正应该担心的是另一件事。
当智能变得无处不在，而智慧却没有同步增长，会发生什么？
我们习惯把“智能”和“智慧”看成同一条尺度上的不同程度。
智能越高，决策就应该越好。
但历史告诉我们，事实并非如此。
世界上一些最聪明的人，也曾作出过极其愚蠢的决定。
而在人工智能时代，这个区别可能变得更加重要。
智能并不等于智慧
智能，是理解、计算、分析、预测和解决问题的能力。
智慧，则是知道哪些问题值得解决、哪些后果真正重要，以及什么时候根本不应该采取行动。
一个高度聪明的人，可以设计出一个极其精妙的策略，却最终带来灾难性的结果。
一个极其聪明的领导者，可以赢得选举、建立庞大的组织、谈判复杂的交易，并快速作出决策——却依然可能作出极其不明智的选择。
因为智能可以回答：
“我们能不能做到？”
而智慧会问：
“我们应该不应该做？”
人工智能正在越来越擅长回答第一个问题。
第二个问题，却困难得多。
看看商业世界
世界上一些最强大的科技产品，是由极其聪明的人创造出来的。
能够准确预测什么会让你继续刷下去的推荐引擎。
能够学习什么会让你多停留几分钟的信息流。
能够以惊人的精确度计算出什么内容最容易激发人们强烈反应的系统。
这些都不需要智慧。
它们需要的是智能——准确理解人类行为，并以极高的能力针对某个目标进行优化。
目标是：
用户参与度。
但用户参与度，并不等同于人类福祉。
这并不是智能的失败。
工程本身可能完全按照设计运行。
真正可能缺少的，是智慧。
一个团队可以聪明到几乎什么都能造出来。
但更困难的问题始终是：
我们应该造吗？
再看看一家公司
一家公司可以审视今天的运营，并提出一个非常聪明的问题：
有多少工作可以由人工智能做得更快、更便宜，而且不会抱怨？
越来越多时候，诚实的答案是：
很多。
公司可以精确计算出多少岗位能够被自动化，以及本季度可以节省多少成本。
但取消一个职位，并不等于消除了这个职位所承载的判断力、组织记忆以及人与人之间的关系。
一家公司可以在眼前的计算中取得胜利——降低成本、提高利润——却失去一些更难衡量的东西：
那些知道过去为什么作出某些决定的人；
那些能够发现模型没有注意到的错误的人；
那些熟悉客户到足以知道什么时候应该打破规则的人。
所以问题再次出现：
我们能不能取代它？
并不只是这个问题。
真正的问题是：
取代之后，公司会变成什么样？
这不是智能的问题。
这是智慧的问题。
人工智能的悖论
这也是我认为人工智能革命最有意思的地方。
在人类历史的大部分时间里，智能是稀缺的。
如果你需要有人分析复杂问题、快速计算、理解困难的知识，或者产生新的想法，你需要找到一个拥有这些能力的人。
人工智能正在改变这个等式。
机器已经能够在人类许多狭义的智能任务上超越我们。
而随着人工智能不断发展，它最终可能在更加广泛的智力任务上超过最优秀的人类。
如果这一天真的到来，将会发生一件意义深远的事情。
智能本身将不再稀缺。
而当智能变得丰富甚至近乎无限时，单纯的智能也就不再那么稀缺、不再那么有价值。
什么会变得更加珍贵？
判断力。
品格。
同理心。
克制。
视野。
理解后果的能力。
敢于说“不”的勇气。
换句话说：
智慧。
真正的危险不是人工智能
所以，也许人工智能最大的危险，并不是机器变得过于聪明。
而是：
人类越来越有能力去做事情，却没有同样的能力去判断什么事情应该做。
想象一下：
给一个缺乏智慧的人，提供近乎无限的智能。
这并不一定会带来更好的决定。
它可能只是让错误的决定变得更加复杂、更加精密。
人工智能可能让我们更容易去优化一个错误的目标。
更快。
更便宜。
以过去无法想象的规模。
这比“机器接管世界”这个熟悉的故事更加值得思考，也更加令人不安。
因为机器不需要变得邪恶，才会造成可怕的结果。
它们只需要极其擅长帮助人类追求错误的目标。
教育也必须改变
这对教育有着深刻的意义。
几代以来，学校都把大量精力放在培养智能上：
学得更多。
记得更多。
计算得更快。
解决更困难的问题。
取得更好的成绩。
这当然有充分的理由。
当智能是稀缺资源时，培养智能，是教育能够做的最有价值的事情之一。
但是，当机器能够比孩子获取更多信息、计算得更快、写得更流畅，并且越来越能够完成复杂的推理时，会发生什么？
也许，教育需要开始提出一个不同的问题。
不只是：
“我们能让孩子变得多聪明？”
而是：
“当智能不再稀缺时，我们希望孩子成为什么样的人？”
孩子依然需要智能。
但他们也需要判断力、同理心、勇气、视野，以及知道什么时候应该使用智能、什么时候不应该使用智能的智慧。
人工智能，人类智慧
人工智能时代最大的讽刺，也许是：
机器越聪明，人类自身的重要性反而可能越高。
我们最终也许会创造出在智力上超越我们的机器。
但一台机器告诉我们“什么可以做”，并不会替我们承担“什么应该做”的责任。
这个责任仍然属于我们。
所以，也许我们真正应该问的，并不是：
“人工智能会不会比人类更聪明？”
在很多方面，它大概会。
更重要的问题是：
“人类的智慧，能不能跟上人类智能的发展？”
因为人工智能可能让智能变得丰富。
但它不会让智慧变得丰富。
也许，这才是教育真正面临的挑战：
不是单纯让孩子变得更加聪明，而是帮助他们变得足够有智慧，能够善用自己的智能。
这个问题，也是 ChildFirst 思考教育时一直放在背后的核心问题。
我们相信，当智能发生改变，教育也必须随之改变。
这并不是在人类智能与人工智能之间二选一，而是在发展孩子人类潜能的同时，让他们学会与日益强大的智能机器共同工作。
我们把这种思考称为 Tri-Intelligence（三重智能）。
探索 ChildFirst 的教育哲学 →