AI 让她"见到"儿子一年,代价是哀伤开始续费
一位八旬母亲。 每天都和"儿子"视频。 催他吃饭,提醒他添衣。 过年时,还举着手机给他看桌上的红烧肉。
可她不知道。 儿子早就因车祸去世了。
屏幕里那个会说话、会回应、还带着熟悉口音的人。 是家属用逝者生前的影像、语音和方言数据,做出来的 AI 分身。 这场对话,持续了一年。
很多人看到这里,会先鼻子一酸。 因为它太像科技少见的温柔。
你很难简单骂它残忍。 对失去亲人的家庭来说,能再听一句"我挺好的",可能就够撑过一天。 对高龄老人来说,这甚至像一种止痛药。
所以支持者会说。 这不是欺骗。 这是缓冲。
我能理解。 但我更担心另一件事。
止痛药,不等于治疗。
如果真相一直不说。 如果系统一直能续费、继续聊、继续生成新的回应。 那它就不只是纪念了。 它开始变成一套延后告别的系统。
看起来,你在留住亲人。 实际上,你也可能在把哀伤留在一个永远不结案的界面里。
<figure><img src=“images/compare.png” alt=“compare”></figure>
这才是我觉得最该警惕的地方。 AI 复活表面在卖安慰。 底层卖的,可能是一段可持续运营的关系。
一旦它成了产品。 平台拿到的就不只是几张照片。
它拿到的是逝者的脸。 声音。 说话习惯。 家庭记忆。 还有家属最脆弱时留下的聊天记录。
这些数据,比普通隐私更难处理。 因为你很难补救。 也很难真正删除。
央视网在清明报道里提到,AI 复活已经形成一条商业链。 从模板视频,到定制数字人,再到可互动的分身,价格从几十元到数千元不等。 法律学者也提醒,这里面至少会碰到肖像、声音、隐私、近亲属同意等问题。
但法律现在能管住的,只是一部分。
它能问,谁同意你做。 却还很难回答,做完之后归谁。
这个数字人算谁的。 家属的纪念物。 还是公司的资产。
家属后来和它聊出来的新数据,归谁。 能不能继续拿去训练。 用户如果后悔,能不能真的删干净。
这些地方,还是空的。
国外也已经开始担心同样的事。 剑桥大学研究者把这类系统叫 deadbots。 他们担心平台会让逝者分身长期在线,甚至拿去做广告。 他们还提了一个很关键的设计点:如果用户想结束这段关系,平台应该提供一种体面的"告别方式"。
这个问题一出来,我反而觉得更真实了。
因为它说明,AI 复活最大的风险,不只是模型像不像。 而是产品会被怎么设计。
如果一个产品只有"生成"和"续聊"。 没有"退出"和"删除"。 那它天然就会把人往依赖里推。
更现实的是,这门生意正在变便宜。 中国"数字永生"相关服务的价格,已经从两三千美元降到几百美元。 门槛一低,它就不再只是少数家庭的特殊选择。 它会变成一个真正的大众市场。
而市场最会做的事,不是哀悼。 是留存。是续费。是复购。
所以我对这件事的判断很简单。
AI 复活不是不能碰。 但它绝不能只靠"感人"就上线。
如果要做,至少得补上四条线。
第一,谁能授权。 不是谁手里有照片,谁就能生成。
第二,交互数据默认不能拿去训练。 除非单独同意。
第三,必须有完整删除权。 素材、模型、生成物、聊天记录,都该能删。
第四,必须有退出机制。 让人能体面结束,而不是只能默默停用。
死亡本来就很难接受。 人类用了很久,才建立起一整套告别仪式。
但 AI 复活把这件事改了。 它让离开的人,看起来像没走。 也让思念,从回忆,变成了一个随时可点开的对话框。
这很温柔。也很危险。
因为真正难的,从来不是再听一句熟悉的话。 而是承认,那句话以后不会再自然出现了。
如果有一天你也能给家人做一个 AI 分身,你会怎么选?欢迎留言聊聊你的想法。
资料来源:央视网、腾讯新闻转引荔枝新闻、Interesting Engineering、MIT Technology Review