← 随机比特 / 所有内容

AI 看起来在安慰失去亲人的人,实际上也可能把哀伤做成一套可续费、可运营、难退出的对话系统。

2026-04-07 · 随机比特

AI 让她"见到"儿子一年,代价是哀伤开始续费

一位八旬母亲。 每天都和"儿子"视频。 催他吃饭,提醒他添衣。 过年时,还举着手机给他看桌上的红烧肉。

可她不知道。 儿子早就因车祸去世了。

屏幕里那个会说话、会回应、还带着熟悉口音的人。 是家属用逝者生前的影像、语音和方言数据,做出来的 AI 分身。 这场对话,持续了一年。

很多人看到这里,会先鼻子一酸。 因为它太像科技少见的温柔。

你很难简单骂它残忍。 对失去亲人的家庭来说,能再听一句"我挺好的",可能就够撑过一天。 对高龄老人来说,这甚至像一种止痛药。

所以支持者会说。 这不是欺骗。 这是缓冲。

我能理解。 但我更担心另一件事。

止痛药,不等于治疗。

如果真相一直不说。 如果系统一直能续费、继续聊、继续生成新的回应。 那它就不只是纪念了。 它开始变成一套延后告别的系统。

看起来,你在留住亲人。 实际上,你也可能在把哀伤留在一个永远不结案的界面里。

<figure><img src=“images/compare.png” alt=“compare”></figure>

这才是我觉得最该警惕的地方。 AI 复活表面在卖安慰。 底层卖的,可能是一段可持续运营的关系。

一旦它成了产品。 平台拿到的就不只是几张照片。

它拿到的是逝者的脸。 声音。 说话习惯。 家庭记忆。 还有家属最脆弱时留下的聊天记录。

这些数据,比普通隐私更难处理。 因为你很难补救。 也很难真正删除。

央视网在清明报道里提到,AI 复活已经形成一条商业链。 从模板视频,到定制数字人,再到可互动的分身,价格从几十元到数千元不等。 法律学者也提醒,这里面至少会碰到肖像、声音、隐私、近亲属同意等问题。

但法律现在能管住的,只是一部分。

它能问,谁同意你做。 却还很难回答,做完之后归谁。

这个数字人算谁的。 家属的纪念物。 还是公司的资产。

家属后来和它聊出来的新数据,归谁。 能不能继续拿去训练。 用户如果后悔,能不能真的删干净。

这些地方,还是空的。

国外也已经开始担心同样的事。 剑桥大学研究者把这类系统叫 deadbots。 他们担心平台会让逝者分身长期在线,甚至拿去做广告。 他们还提了一个很关键的设计点:如果用户想结束这段关系,平台应该提供一种体面的"告别方式"。

这个问题一出来,我反而觉得更真实了。

因为它说明,AI 复活最大的风险,不只是模型像不像。 而是产品会被怎么设计。

如果一个产品只有"生成"和"续聊"。 没有"退出"和"删除"。 那它天然就会把人往依赖里推。

更现实的是,这门生意正在变便宜。 中国"数字永生"相关服务的价格,已经从两三千美元降到几百美元。 门槛一低,它就不再只是少数家庭的特殊选择。 它会变成一个真正的大众市场。

而市场最会做的事,不是哀悼。 是留存。是续费。是复购。

所以我对这件事的判断很简单。

AI 复活不是不能碰。 但它绝不能只靠"感人"就上线。

如果要做,至少得补上四条线。

第一,谁能授权。 不是谁手里有照片,谁就能生成。

第二,交互数据默认不能拿去训练。 除非单独同意。

第三,必须有完整删除权。 素材、模型、生成物、聊天记录,都该能删。

第四,必须有退出机制。 让人能体面结束,而不是只能默默停用。

死亡本来就很难接受。 人类用了很久,才建立起一整套告别仪式。

但 AI 复活把这件事改了。 它让离开的人,看起来像没走。 也让思念,从回忆,变成了一个随时可点开的对话框。

这很温柔。也很危险。

因为真正难的,从来不是再听一句熟悉的话。 而是承认,那句话以后不会再自然出现了。

如果有一天你也能给家人做一个 AI 分身,你会怎么选?欢迎留言聊聊你的想法。

资料来源:央视网、腾讯新闻转引荔枝新闻、Interesting Engineering、MIT Technology Review