近日，随着人工智能技术的飞速发展，其应用领域不断拓展，甚至触及了人类生命终结后的“数字永生”。近日，一篇发表在 arXiv 上的论文《Generative Ghosts: Anticipating Benefits and Risks of AI Afterlives》引发了广泛关注。该论文由谷歌 DeepMind 的 Meredith Ringel Morris 和科罗拉多大学博尔德分校的 Jed R. Brubaker 共同撰写，探讨了利用 AI 技术创建“生成性幽灵”（Generative Ghosts）的可能性及其带来的潜在影响。论文地址详见：https://arxiv.org/pdf/2402.01662
1.AI 技术催生“数字幽灵”
论文指出，随着生成式 AI 模型的不断进步，尤其是像 GPT-4、Palm 2 和 Llama 2 这样的大型语言模型的出现，AI 系统已经能够生成令人信服的人类行为和互动。未来，人们可能会创建定制的 AI 代理（即“生成性幽灵”），以在去世后与亲人或更广泛的世界互动。这些“生成性幽灵”与以往的数字纪念方式不同，它们不仅能够提供关于逝者生前内容的静态或互动式访问，还能生成全新的内容和互动。
2.潜在的益处与风险
2.1 为逝者提供“数字遗产”
“生成性幽灵”为逝者提供了一种全新的“数字遗产”形式。它们可以成为逝者记忆和智慧的载体，帮助保存个人、宗教和文化传统，甚至在经济上为后代提供支持。例如，一位作家的“生成性幽灵”可以继续创作作品，为其继承人带来收入。此外，这些 AI 代理还可以在法律和遗产规划中发挥作用，帮助解决遗产纠纷等问题。
2.2 为生者提供情感慰藉
对于逝者的亲人和朋友来说，“生成性幽灵”可能成为情感支持的来源。它们可以提供安慰、建议，甚至在重要的人生时刻（如婚礼、孩子的出生等）与生者互动，帮助他们继续与逝者保持联系。这种互动可能有助于缓解哀伤，支持健康的哀悼过程。
2.3 面临的伦理和安全挑战
然而，“生成性幽灵”也带来了诸多伦理和安全问题。例如，未经授权的第三方创建的“生成性幽灵”可能会侵犯逝者的隐私和意愿，甚至可能对生者造成心理伤害。此外，这些 AI 代理可能会被用于恶意目的，如身份盗窃、骚扰或经济犯罪。还有可能出现“第二死亡”的情况，即当“生成性幽灵”因技术故障、经济问题或法律限制而停止存在时，生者可能会再次经历失去亲人的痛苦。
3.技术与伦理的平衡
论文强调，AI 和人机交互（HCI）研究者需要与伦理学家、法律专家、宗教领袖等合作，共同设计出既能发挥“生成性幽灵”潜在益处，又能最大限度减少风险的技术和社会系统。这包括制定明确的政策，规范谁可以创建“生成性幽灵”、谁可以被代表以及其用途等。同时，还需要关注这些技术对社会的广泛影响，如对经济、人际关系和宗教信仰的潜在改变。
4.未来研究方向
尽管目前“生成性幽灵”仍处于概念阶段，但随着技术的不断进步，其实际应用将变得越来越可行。未来的研究需要通过用户研究、访谈、调查和参与式设计等方法，了解不同利益相关者对“生成性幽灵”的反应和需求。此外，还需要关注文化多样性，确保这些技术能够适应不同文化背景下的死亡和哀悼习俗。
“生成性幽灵”代表了 AI 技术在人类生命终结后的一种全新应用形式。它既有可能为逝者和生者带来诸多益处，也面临着复杂的伦理和安全挑战。如何在技术发展与伦理规范之间找到平衡，将是未来研究和政策制定的重要方向。
