该公愤的规模超过十万学生的A级成绩的亮点有多少社会和政治力量算法决策现在有自动降级。除了学生的成绩，算法现在正在决定对普通人的生活产生巨大影响的各种事情，从贷款申请到求职面试，到社区成为警方的目标。
这些决定的结果常常被大多数人认为是不公平的，对于那些尽管学业成绩优异或基于学校过去表现而不是其自身表现而被降级的学生来说，情况也是如此。这些算法怎么会出错，以及我们如何确保它们将来产生更公平的结果?
在计算机科学中，算法是基于数学模型的一组指令，这些指令告诉计算机如何执行计算。该模型通常是根据有关过去决策以及做出决策的一些因素的数据构建的。
该算法可以自动执行决策，因此可以在短时间内有效处理大量数据。机器学习算法将在处理越来越多的数据时改进其模型。
正是这些数据用于构建和训练算法，这是许多问题所在。首先，算法通常需要相对较大的数据集才能正常工作。因此，就A级成绩而言，少于15名学生的小型班级仍会考虑其老师的评估，而较大班级则没有考虑。
另一个关键问题是，有关过去的数据不一定能帮助您对当前或未来做出适当的决策。它阻止了任何变化和发展的机会-例如，当学校改善教学水平或一年的学生表现优于前几年的同龄人时。
当Google或Amazon尝试根据具有相似个人资料的其他人的喜欢程度来确定哪些广告或建议可能对您有用时，这可能并不重要。但是根据他人的过去来确定您的未来会产生更大的影响。
这些关键的生活决策所涉及的社交数据本质上是不可预测的。建立关于肿瘤对治疗反应的模型的模型建立在关于分子和细胞的公认的自然定律基础上。但是人们不遵守类似的法律。这增加了用于构建算法的测试数据可能不同于其处理的真实数据的机会，并且算法的决策将是不准确或不公平的。
最重要的是，所有社交数据都存在着算法可以最终复制的偏见。例如，A级算法对结果进行了调整，以尝试复制以前不同种族群体的总体成就，这很可能反映了种族不平等。同样，依靠历史数据来训练算法会锁定过去的问题，从而防止社会变革或为解决这些偏见而做出的努力以系统的工作方式出现。
