人工智能应用- 推荐算法：05.推荐算法的社会争议

推荐算法极大地降低了用户获取信息的时间成本，也有助于打破信息垄断。麻省理工学院（MIT）在 2021年发布的全球十大突破技术中指出：“TikTok 的推荐算法能够让普通人发布的内容获得与名人同等的关注，这是内容公平性的体现；而细分用户群体也能看到符合自己兴趣的内容，这是用户公平性的体现。”然而，推荐算法也带来了数据隐私、信息偏见和信息茧房等社会问题。

首先，推荐算法会根据用户的行为数据进行个性化推荐，这种精准推送让人们担心自己的隐私受到侵犯。例如，当你在某个购物平台上浏览了一件商品后，其他社交媒体和浏览器上很快就会出现类似商品的广告。这种现象反映了不同平台可能在用户不知情的前提下共享用户数据，从而对个人隐私构成威胁。

图:在搜索引擎上搜索云南白药时（左），购物网站也会出现相关推荐（右）。

其次，推荐算法可能被滥用，导致用户权益受损。一个典型的问题是“大数据杀熟”，即商家利用推荐算法对忠实用户收取更高的价格，以谋取更高利润。此外，推荐算法还可能被用来区分不同群体，针对特定用户群体推送有利于商家的信息，进一步加剧了不平等现象。

最后，推荐算法容易形成信息茧房效应。当算法过度迎合用户的兴趣和偏好时，用户接触到的信息会变得越来越单一，导致其视野变窄，甚至陷入片面和极端的观点中。例如，社交媒体往往会给用户推荐和自己观点相同的内容，逐渐屏蔽与其立场不同的信息，最终让用户陷入封闭的“信息茧房”。《自然·机器智能》杂志在 2023年 11 月发表的一篇文章指出：现有的推荐算法天然会导致信息茧房的形成，影响用户对信息的独立判断和多元信息的获取。

图《自然·机器智能》杂志发表文章，讨论如何破除信息茧房。

因此，虽然推荐算法在提高信息获取效率方面有着不可忽视的贡献，其负面影响也必须引起重视。面对这种技术，我们要保持理性和批判的态度，不盲从推荐结果，主动拓宽信息来源，提升对信息的选择力和判断力。