编码歧视

豆瓣的热评第一把我想说的都说了。这部片子可取的地方在于指出了人工智能潜在的致命缺点，但片子的意识形态性让这部片子本身的意义打了折扣。

机器学习是一个黑盒子，它依照“多即是好”的原理，从历史数据中学习，因此它的学习过程即使对于创造它的程序员来说，也是一个黑盒子。这就导致了人类只是通过人工智能，在全自动化中复制自己的现有形象，没有鉴别，没有提升。就像片中说的，人工智能可以误判，但无法被质疑，也不被要求承担责任；作为一种唯数据论的技术，其设计目的是追求效率。

因此，就基于数据的机器学习本质而言，其产生的算法将不是中立的。因其通常为权势所用（如平台），机器学习其实会造成一种极危险的隐性的编码歧视，这也是片名的由来。

此外，盲目追求效率的一个弊端是人的物化。人被标准化参数所肢解，被片面化标签化。在教育系统，学生为标准化的培养体系和打分系统所评估，作为养料被高校挑选，再经过下一轮标准化的培养，然后作为“人才”输送入社会，被定义成一张张简历，简历再经过算法的筛查，剩下的简历才来到HR手里，再经过各种参数的标准化考核，把人物化为某一价格，体现为薪资待遇。这让我想起了最近的一部职场喜剧《破事精英》里面对绩效的刻画。

除了人的物化，人工智能还通过机械化，迎合并加深了现代社会对客观的追求。这种“机器客观”杜绝了人性的存在。Intelligence without ethics is not intelligence at all. 缺乏伦理道德的人工智能不是智能。人类的主观判断力、决策力、反抗力和拒绝的能力，是人性闪耀的光辉，这里有让我想起了《禅与摩托车维修艺术》中所提倡的“良质”，即不囿于可观察数据和传统主客观二分法的对quality的一种本能判断。