好书共读——《算法霸权》:翻开大数据的阴暗面

大数据时代不缺乏推崇者,但本书作者凯西·奥尼尔不是。凯西·奥尼尔(Cathy O’Neil),数据科学家,哈佛大学数据博士,离开金融岗位后在新型公司任职数据分析职位,负责建立预测人们买卖和点击行为的模型。丰厚的经验积累让她深谙算法的精髓,但同时也让她看到算法背后的危险和威胁。她以“Weapons of Math Destruction”命名此书,直译过来是毁灭性数学武器,似先兆性的警醒,带读者走进数学模型和算法大数据的阴暗面。

在奥尼尔的讲述中,算法并没有消除社会不公,反而在运用数学模型中强化了人与人之间的差异。建立在以往统计基础上的数据库,在设计时就暗含了对某一类人群的歧视,如因为曾有记录表明在某一贫困地区的犯罪率较高,那么在算法预测机制下,警察突击这些地区的行动频率更高,生活在该地区的人更有可能因轻度犯罪而入狱,这在一定程度上又增加了贫困地区的犯罪率,形成了恶性循环。在招聘环节,一些应聘者被拒之门外,是由于正好和以往某违法者重名,或者因种族、居住地等信息而被淘汰。在筛选出去的求职者信息被雇主忽视的情况下,招聘软件的算法得不到反馈从而无法优化。在作者列举的案例中,算法成为提高效率的工具的同时,也无形充斥着歧视不公、呆板木讷。“人类的决策虽然经常有缺陷,却也有一个主要的优点,即人类的决策是可以改善的。随着一步步地学习和适应,我们会改变,我们的处理方式也会改变。相比之下,自动化系统不会随着时间的推移而改变,除非开发者对系统做出改变。 ”

精准化定位受众和个性化推荐是算法机制的重要应用,基于对用户数据的了解收集,提高了商家营销的针对性。但是,如果商家缺乏道德责任感,算法会成为他们欺瞒公众的利爪。利润追逐过程中,企业组织不正当使用大数据,推出诱导性广告或推荐内容,从而影响人们的决策。书中,作者举了美国大学招生的例子,“营利性大学使用的数学杀伤性武器精准度极高,直指最为弱势的群体。它们给提供了一个接受教育的机会,并向他们承诺了一个美好的未来,一个诱人的突破固有阶层的机会,而结果是这些贫困家庭的学生因此背负了更多的债务。”背负债务的学生并没有达到期望中的改变,这些大学所颁发的文凭在生活中得不到与付出相称的社会认同。我们由此可见,核心问题在于使用算法者的目标,当目标倾斜到漠视道德的谋利,算法就成为了伤害人们的武器。“根据美国消费者联合会的数据,好事达通过分析消费者的人口数据预测消费者购买低价商品的可能性。 如果可能性较低,那么向他们收取更高的费用就是合理的。”面对可得利益,企业以自己的一套说辞抬高商品售价,无视消费者权益,这是对公众信任的背叛,损毁了企业信誉。

奥尼尔提出了算法的公开透明,算法编写者和操纵者的自律和行业的监管这三条途径,“如果想要更进一步,我们可以参考欧洲模式,即规定收集任何数据都必须经过用户的批准,用户具有选择权。欧洲模式还禁止将数据重新用于其他目的。“事前同意”由于常常被用户忽视,因此作用不大。 但是,“不可重复使用”条款的约束力则非常强大:该条款将销售用户数据定义为非法行为。”

知晓算法的阴暗面不代表我们要逃避算法和数据,更重要的是将人类的价值观嵌入算法模型中去,创造有道德感的模型,人类社会有道德感和伦理规范,当日益渗透我们生活的算法大数据成为人类社会的构成部分,我们理应把握主动权,将算法控制为推动社会发展的正面力量。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

被问“为何决定不去南非出席金砖峰会”,普京:不认为去参会比留在国内重要

财联社7月31日电,美国共和党总统候选人德桑蒂斯表示,一旦当选总统,将考虑替换现任美联储主席鲍威尔。

K396次列车因北京暴雨滞留门头沟27小时:女乘务员哽咽安抚乘客,有乘客家属称已断联

小米明日将在印度发布 Redmi 12 手机,消息称其 10999 卢比起

三星Galaxy S24全系参数曝光,可能是近几年最有看点的三星手机了

iPhone15系列参数爆料汇总,一系四机,全系灵动岛+USB-C接口

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注