在这个炫酷的科技时代,我们享有快捷便利的电子招车无缝出行服务(Mobility As a Service)、卫星定位周边功能即时显示消费好去处,以及源源不绝的临近商品价格促销。但是伴随这些便利而来的大规模数码监控和系统性算法偏见(algorithm's systemic bias),却让我们逐渐失去了实现社会流动的能力。
社会流动(social mobility)或阶级移动,是社会经济学的一个概念,指的是自下而上的社会阶级升迁,例如由贫转富、由劳动阶层晋升上流社会等。
为了在由科技巨头主宰的时代中生存,我们需要以一种可以取悦主流算法的方式留言、生活、工作和消费。于是,你开始察觉每个人似乎都展现同样的信念与个性、大同小异的品味,相去不远的消费方式,以及相若的价值判断,以免被算法惩罚或压制。
在这个机器算法精心安排的世界中,我们还有自由意志吗?你可曾想到过,我们过去有多少琐碎乃至关键的决策,是由旨在优化企业收益的算法所决定或推翻的?
前些时候,我对面子书网友发牢骚,人类的习性将日趋被我们过往在网络所留下,以及在未来持续通过线上活动积累的数码踪迹(digital trace)所定义、强化(reinforce)和框限,最终丧失真正意义上的自由意志(free will)。
我的一些假设(hypothesis)如下:每个社交媒体用户,均可被一组描述个人特征的参数(parameters)所定义,例如剑桥分析公司(Cambridge Analytica)丑闻中描绘的情景。
为了有效的驱动消费,网络社交媒体有可能暗地里教导广告客户,如何通过增加或抑制能够影响我们,或我们最信任的家人与朋友之数码事件(digital events)的剂量,如传递信息的频率,和内容口味的轻重等,来达到高效的行销,或削弱对手公信的目的。
若以上举例的数码事件未能影响我们的信念和行为;我们身旁几同“数码奴隶”(digital slave)的亲朋戚友,可能遭到算法所产生的数码事件助推(nudge),发挥动摇我们的信念和改变我们行为的“助攻”角色。
据报道,即使一个人从未注册过面子书帐户,在技术上,面子书仍有可能会通过一个影子账户(shadow profile)来存储和追踪此非用户的数码踪迹。理论上,只要非用户的家人或朋友,甚至是陌生人上传可以辨识此人的图像、视频和帖文到社交网络上,平台可以通过机器学习算法持续拼凑和推敲这个人的日常点滴。
人们开始趋同
诚然,客制化算法的影响并非每次100%收效,也不必如此,就像行销和广告业者只图高于某个百分比的转换率(conversion rate)一样。然而,可怕的是,数码影响永远不会停止,也难以辨识边界。它会通过我们没有意识到的细微方式和隐晦渠道来形塑我们的行为和世界观。
我担心的是,由于受到企业盈利驱动数码事件潜移默化的影响,每个人都开始趋同,变得一致。
当然,在算法驱动的年代,我们生活的世界还是会有多样性,但这会是一个逻辑悖论:单元化的多样性,而不是真正的多元化。多样性的橱窗展示终究会汇集(converge)到主流品牌或超级平台(Super App)的麾下。最终的发展结果或会是,样品多元,但品牌、平台和载体极其单元。而每一个行销季节的样品主题,很有可能被超级平台的演算法逐渐单元化的设定和垄断。
另外,近日《哈佛商业评论》(中文版)的《当算法加剧了不平等,普通人还有上升空间吗?》一文中指出,起步卑微却能白手起家取得成功的事例,在日益由人工智能驱动的社会里变得渺茫。事缘人工智能的复杂算法由少数企业精英所支配;而普通员工却得面对算法管理、指派任务、评估表现的被动命运。最终,被算法监控、几近被透支应用劳动力的员工所将面临的是晋升无望,工作两极分化的窘境。
该文作者迈克·沃尔什(Mike Walsh)在《算法领导者》(The Algorithmic Leader)一书中,探讨了令人担忧的数码阶级鸿沟,亦即我们的劳动市场被划分为三个等级:为算法工作的普通百姓、拥有设计和训练算法系统技能的专业特权阶层,还有坐拥管理算法平台的少数超级富有贵族。
该文也引用“代码上限”一词来描绘阻止普通员工在人工智能驱动的企业里晋升的现象。这现象指的是,在日常的工作环境中,初级员工和自由工作者极少与其他人类同事互动。反之,他们都是由算法管理的,也就被动的被算法精算式的利用和操控,难以突围或吸引人类高层的青睐。
选择或已经被计算
去年9月,最初发表于《人物》杂志,在中国网民间广传的文章《外卖骑手,困在系统里》就刻画了系统演算法规定骑手必须完成送餐的时间、指定送餐路线,以及逾时送达食物所将面临的排名积分下跌和收入减少的悲歌,揭露了外卖骑手每日长时间受制于系统算法,牺牲可支配时间的冰冷现实。《新浪科技》分析,平台算法构成了优化资源配置效率、扩大市场份额的生命线,因此通过规则让骑手缩短送餐时间以增加接单量,是导致骑手被困在系统算法里的根本原因。
以上种种发人深思的议题,足以触发哲学性叩问:我们一直以为可以凭自己的想法做出选择,但其实在公在私,我们的选择有可能是已经被算法计算好的(并牢牢地限制住了);在算法的时代,我们还有自由意志吗?