TikTok和Instagram如何运用人工智能：算法决定我们看到什么？
了解人工智能和算法如何个性化社交媒体内容，以及动态操控带来的风险。谁在控制我们在社交媒体上看到的内容？
算法决定我们在社交媒体上看到什么
我们用手指轻轻一划，完美的视频就像魔法般出现。但TikTok怎么知道我们喜欢搞笑猫咪或烹饪教程？为什么Instagram不断推送我们只是瞥过一眼的主题内容？
答案在于人工智能。调控社交媒体信息流的算法并非简单的代码序列：它们是复杂的系统，通过学习我们的行为来提供个性化内容。这确实很方便，但也是一个值得深入理解的潜在操纵工具。
推荐系统如何运作
每当我们点赞、在某个帖子上停留更长时间，或完整观看一个视频时，我们都在向推荐系统提供宝贵信息。这个系统记录我们的行为，将其与数百万其他用户的行为进行比较，并试图预测我们接下来可能想看什么。
这就是著名的"个性化信息茧房"的形成方式：源源不断的定制化内容流，经过优化以让我们紧盯屏幕。例如，TikTok的算法会考虑每个用户的1000多个不同信号：从视频停留时间到滑动速度，从社交互动到应用使用时段。
Instagram采用类似但更分层的方法，将主信息流数据与Stories和Reels的数据相结合。结果创造出一个似乎比我们自己更了解我们的内容生态系统。
个性化背后的人工智能
实现这一切的技术基于日益复杂的机器学习算法。这些系统使用能够识别我们数字行为中复杂模式的深度神经网络。
TikTok特别开发了一种名为"For You Page"的算法，它结合了协同过滤（基于相似用户的推荐）和基于内容的过滤（内容特征分析）。人工智能不仅分析我们观看的内容，还分析我们的观看方式：手指的微动作、暂停、甚至手机倾斜角度。
Instagram以更深入的方式整合了人工智能。除了信息流内容外，该算法还影响搜索结果、Explore中的推荐内容，甚至Stories的排序顺序。正如我们在关于人工智能与社交媒体的文章中深入探讨的那样，这些系统正在重新定义我们在线消费信息的方式。
算法操纵的具体实例
问题不在于这些系统的效率，而在于其产生的意外副作用。我们可能只接触到与自己相似的观点，从而在没有对比的情况下强化固有信念。在最坏的情况下，我们可能被导向极端、阴谋论或具有操纵性的内容，这并非因为算法"想要"这样做，而是因为它已经了解到这类内容能让我们停留更长时间。
人道科技中心的一项调查揭示了社交平台如何无意中助长极化内容的传播。例如，TikTok因其系统可能迅速将用户推向激进视频或阴谋论内容而受到批评，即使用户只表现出最初步的兴趣。
Facebook（现为Meta）已承认其算法倾向于推广能产生"互动"的内容，即使这意味着放大愤怒或愤慨情绪。2021年，弗朗西斯·豪根在美国国会的证词揭露了该公司早在2018年就已意识到这些影响。
隐私与数据收集：个性化的代价
这一切之所以发生，得益于机器学习、预测分析和海量个人数据收集的复杂结合。这就引出了隐私问题。我们提供给社交平台的数据——即使只是与内容互动——都会被处理以重建我们的偏好、弱点及情绪倾向。
根据网络安全研究员 Felix Krause的分析，TikTok收集其用户超过380种不同类型的数据。Instagram也不遑多让：通过其内置浏览器，它可以追踪每一次点击、每一次光标移动，甚至已输入但未发送的文本。
其宣称的目标是尽可能长时间地保持我们的活跃度和在线状态。但代价是什么？正如我们在关于数字时代的专注力与注意力的文章中所探讨的，这种过度连接正对我们的专注能力产生深远影响。
算法偏见与数字歧视
令人担忧的不仅仅是用户画像。所谓的算法偏见也扮演着关键角色。算法并非中立：它们从人类数据中学习，而这些数据往往存在缺陷。如果某种类型的内容在过去受到青睐，它将继续被推广，从而强化已有趋势并压制观点的多样性。
正是这样，我们构建了有利于某些群体而边缘化其他群体的动态。例如，Instagram 曾被指控压制由有色人种或少数族裔创作的内容。TikTok 承认曾使用限制残障人士或"非传统"创作者可见度的政策，以避免网络欺凌，但这实际上造成了一种歧视性的审查形式。
MIT Technology Review 的一项研究表明，即使兴趣相似，TikTok 的算法也倾向于向不同种族的用户展示不同的内容，通过个性化推荐延续社会分裂。
需要记住的关键点
- 我们的数字行为滋养着日益复杂的算法，这些算法创造了定制的信息茧房
- 当个性化推荐优先展示能引发强烈情绪反应的内容时，可能导致激进化
- 收集的数据远不止点赞和分享，还包括微观行为和心理学模式
- 算法偏见反映并放大了人类的偏见，在数字世界中制造系统性歧视
常见问题
如何减少算法对我的信息流的影响？ 主动多样化你的互动，关注持有不同观点的账号，并在适当时定期使用"不感兴趣"功能。
社交媒体真的如此了解我吗？ 是的，它们收集数百种不同的数据点，通常交叉比对来自多个来源的信息，以创建关于你兴趣和行为的详细画像。
是否存在传统社交媒体的替代品？ 正在涌现一些更透明的平台，如 Mastodon 或 BeReal，它们使用更简单的算法或时间顺序信息流，但用户采用率仍然有限。
如何判断自己是否身处信息茧房？ 检查你是否很少看到与你信念相左的观点，或者你的社交媒体信息流在呈现的主题和观点上是否非常同质化。
迈向更高的数字意识
社交媒体中的人工智能具有两面性。一方面，它让我们能够发现新内容，与志趣相投的人建立联系，享受更流畅的数字体验。另一方面，它可能变成一面扭曲的透镜，只向我们展示现实的一部分——那部分能让我们停留更久的内容。
要应对这种复杂性，需要具备认知能力。需要一种数字素养，帮助人们识别其背后的机制，并思考我们为何看到某些内容而非其他内容。正如我们在关于虚假新闻与信息战的深度探讨中所言，批判性思维能力正变得日益重要。
唯有如此，我们才能从被动的用户转变为具有批判精神的数字公民。社交媒体的未来不仅取决于技术，更取决于我们如何决定使用和规范它，以及我们愿意在多大程度上理解每一次滑动屏幕背后隐藏的内容。