小红书的算法，在给你家孩子推什么？

你给孩子装了小红书，以为这不过是一个分享穿搭和美食的平台。

但你不知道的是：在算法的世界里，你孩子的账号不是"孩子"，只是一个有着特定点击习惯的用户ID。算法不关心年龄，只关心一件事——让他多停留一秒钟。

315调查给出了答案。

记者注册了一个15岁女孩的账号

调查记者在小红书注册时，无需实名认证，直接将个人信息设置为15岁女性。

接下来发生的事，写出来都让人不舒服：

被推送了大量色情擦边小说、图片和互动帖
「你问我答」互动区里，有用户向"初一女生"账号询问生理期、性取向，索要身体照片
销售儿童纸尿裤的商品推送里，展示的是儿童裸露图片——律师认定这涉嫌儿童软色情

一位标注"初一女生"的账号在置顶评论里写道：她发起互动本来只是想交朋友，但收到了"很多不堪入目的骚扰私信"。

这是在中国下载量接近300亿次的平台上，发生的事。

这不是"审核不到位"

你第一反应可能是：平台内容审核太差了，让这些违规内容漏网了。

但这个解释解决不了核心问题。

真正的问题是：推荐算法在主动把这类内容送到用户面前。

算法的逻辑很简单：找到让你停留最久、点击最多、留下评论的内容，把它推给你。这个目标函数叫"参与度优化"（Engagement Optimization）。

问题在于：在"参与度"这个维度上，情绪化的内容天然占优势。猎奇的、刺激的、引发强烈情绪（无论是愤怒还是兴奋）的内容，参与度指标往往最高。

而色情擦边内容，刚好命中了这个规律的极值。

从算法的视角来看，这是"高质量内容"。

这就是为什么简单说"审核不到位"并不准确——算法本身在积极地放大这类内容，而不只是没有拦住它。

AI推荐系统的"设计失误"

这不是小红书的特有问题。

2021年，Facebook内部泄露文件（“Facebook Papers”）显示，公司自己的研究证实：推荐算法让大量青少年用户产生了更严重的焦虑和抑郁症状，尤其是青少年女孩。研究结论是：「我们的算法正在伤害青少年」，但算法并没有因此改变，因为改变参与度优化的目标函数意味着平台数据下滑。

这揭示了AI推荐系统的一个结构性困境：

算法的目标函数是"最大化参与度"，不是"用户福祉"。

这两个目标，在成年人身上已经有偏差，在未成年人身上偏差被放大了十倍——因为青少年的认知和情绪调节能力还在发育阶段，对刺激性内容更脆弱，也更难以主动过滤。

无实名认证的设计，让算法连"这是一个未成年用户"都不知道。不知道，也就不会调整。

为什么"实名认证"只是治标

监管方向之一是推进未成年人实名认证——这是全国两会政府工作报告反复强调的方向。

这当然有意义，但还不够。

原因在于：即使知道了这是未成年人，只要算法的目标函数没变，行为就不会根本改变。

现有的"青少年模式"本质上是内容黑名单：过滤掉明显的违规内容，但算法对"参与度"的追求并没有改变。在这个模式下，算法仍然会找到黑名单之外的"最高参与度内容"推给孩子。

真正的解决方案需要一套不同的目标函数：把"未成年人的安全和发展"而不是"停留时长"作为优化目标。

英国的思路值得参考：2023年《在线安全法》（Online Safety Act）要求平台必须证明其服务对儿童"足够安全"，否则面临高额罚款，最高可达全球营收的18%。这把举证责任从监管方转移给了平台——平台需要主动证明安全，而不是被动等待被曝光。

家长现在能做的

在监管到位之前，家长可以做的几件事：

设备层：iOS的"屏幕使用时间"功能可以限制特定App的内容分级，家长监管账号可以审批下载请求。Android有类似的家庭链接功能。

账号层：不要让孩子用虚假年龄注册。部分平台对未成年账号有更严格的保护规则，实名才能触发。

教育层：和孩子谈"推荐算法是什么"。不是恐吓，而是帮助他们理解：刷到的内容不是随机的，是有人/有算法在决定让你看什么。这种元认知，是数字时代的基础素养。

最有效的：还是陪伴。不是监控，是参与——知道孩子在看什么，偶尔一起刷，建立可以谈论的渠道。算法最终替代不了父母的存在。

算法，在为谁的利益工作？

315每年曝光的，过去多是食品、产品质量问题。

今年加进来了AI和算法。从 GEO 投毒大模型，到推荐算法伤害未成年人，指向的是同一个问题：AI正在成为平台和用户之间最重要的"中间人"，但这个中间人，目前在为平台的商业利益工作，而不是为用户的真实需求工作。

这不是技术问题，是目标函数的问题。

技术可以优化任何目标，关键是我们选择让它优化什么。

如果这个选择一直由平台自己做，答案几乎必然是"参与度"。

你家孩子在用小红书吗？你知道他们每天在刷什么吗？

欢迎在评论区聊聊——你是怎么处理孩子和算法之间的关系的？