当前位置:首页 >要闻 >

陈昌凤：应在善用算法的同时警惕数据主义

来源：中新经纬 2021-12-21 16:23:08

中新经纬12月21日电（薛宇飞）近日，清华大学社会科学学院社会学系、中国科学院学部-清华大学科学与社会协同发展研究中心主办了“伦理立场、算法设计与企业社会责任”研讨会。在研讨会上，清华大学新闻与传播学院常务副院长、教授陈昌凤指出，算法技术不再是一个简单的工具，已经开始影响社会形态，并产生了结构性的影响，这种社会形态被称为“平台社会”。

清华大学新闻与传播学院常务副院长、教授陈昌凤。主办方供图

她解释道，“平台社会”并不是把信息聚集在平台上，而是组织和用户之间交互的、可编织的结构，它带来的是数据驱动，通过算法应用、商业模型变革等产生影响。

另一方面，算法还影响着交往性质，也就是社会结构，因为信息平台最重要的用途是交往与传播，而交往与传播的性质在新的形态下已发生属性变革。

她表示，如今的信息传播已经与过去不一样，人们会运用算法技术，将过去发生的事情、现象进行总结，做成结构性模型，用模型去预测未来。例如，外媒的一篇报道中，模拟了一个公司不同性别、群体员工的晋升路线，最后会发现，在犯错误时，女性受到的惩罚比男性更严厉，男性的升职会更快。“算法和数据技术，给了我们透过现象洞察事物本质的机会与能力，这在过去是难以做到的。”

就算法伦理方面，陈昌凤分析了个性化与公共性、价值偏向、透明度、数据主义等几个热门问题。她称，价值偏向的问题各式各样，例如，ProPublica（注：美国一个在线新闻组织）曾做过机器偏向的系列调查报道，其中一篇关于种族偏向问题，一位持械抢劫的41岁白人，在算法系统中认定其危险系数为3（低危险），而一位偷窃自行车的18岁的黑人女孩，危险系数却被认定为8（高危险），引发大家对数据和算法模型的深层反思。

陈昌凤还提到，在使用数据服务于人类时，要警惕数据主义。她总结说，数据主义有三个倾向，一是无条件相信数据；二是算法决定一切，人类权利全部让步给算法；三是信息自由是最高的“善”，人类不要阻挡信息流的流通。

她指出，算法和数据技术正在不断提升人类的认识能力、助益人类的社会生活，但是新技术确实也带来了各种风险，引发人们的担忧，这如同过去所有新技术到来之时一样，人们都会有疑惑，这是必然的。人们应该学会如何善用新技术，把最核心的有益的部分使用起来，而不是因噎废食。

她最后表示，开发和使用算法时要有价值观的指导，从当前看，中国在使用算法方面具有优势的企业，是很重视算法善用的问题。（中新经纬APP）