撰文/ 許庭祐 Hunter Hsu

原文作者/ 艾力（Alexandre Erler）  副教授

來想像這樣的情境：
「你死後，一個 AI 分身繼續用你的語氣與親人對話，他們感動得哭了，但......這些話你生前從沒說過。」

這是一種將生成式 AI 應用在哀傷輔導的方式。透過收集逝者的照片、語音、訊息記錄等資料，訓練出一個可以模仿他們說話方式的「數位分身」（digital clone），陪伴親人度過喪親之痛。這類分身又被稱作「哀思機器人」(griefbots)。乍聽之下溫馨又療癒，但背後的倫理問題其實遠不那麼簡單。  

若要理解其中爭議，我們得先從 Deepfake 說起。

Deepfake 問題與「數位自我再現權」

你或許聽過 Deepfake：透過生成式 AI，將名人的臉部與聲音合成進另一段影片中，幾可亂真。這種技術被廣泛應用在政治諷刺、惡搞，甚至色情影片中。據統計，超過九成的 Deepfake 影片為色情內容，其內容不但侵犯隱私，也可能對當事人造成嚴重的心理創傷與聲譽損害。

在這樣的情況下，有學者開始呼籲應建立相關倫理規範。核心的主張之一是「數位自我再現權」（right to digital self-representation）：就算只是模擬我們的外貌或語氣，如果模擬方式讓人感到羞辱、違背本意，甚至未經本人同意，就應該受到限制。

規範「數位自我再現權」看似合理，但若是Deepfake用於開頭提到過的哀思機器人 (griefbots) 呢？模擬的是已經過世的親人，我們一樣要經過逝者的同意才能使用嗎? 還是因為立意良善，所以能夠繞過相關的倫理界線?

「哀思機器人」是慰藉還是冒犯？

有些觀點會認為，哀思機器人與 Deepfake 有本質上的不同，Deepfake 中的人像是「被動地」被挪用，常在當事人毫不知情的情況下，被放進各種影片裡觀看。但哀思機器人不一樣，它是「互動式」的。他們會出聲安慰、回應你的情緒，甚至模仿逝者的說話風格。

這種互動式的效果，來自大量真實素材的蒐集：生前的對話紀錄、影片、聲音、社群發文，通通成了模仿對象的重要參考資料。比起只是「換臉」的 Deepfake，哀思機器人更接近是一種「模擬人格」。

哀思機器人的目的看似無害：它不是為了取笑、羞辱或牟利，而是為了陪伴喪親者度過傷痛。這樣的目標，是否就能正當化模擬逝者這件事？又或者，我們仍應謹慎面對這樣的 AI 應用？

儘管哀思機器人看上去沒什麼好詬病，但也有觀點主張，我們並不應該輕易地把哀思機器人看做你忠心的代言人。想像一下，要是AI 從你生前傳過的簡訊中得知了你的祕密，並把他告訴你的家人呢?

或者，你能夠接受自己的生命畫下句點之後，被 AI 延續嗎? 你會不會擔心哀思機器人代替你繼續構造的生命故事，讓後人對你改觀?

與 AI 共構未來，你怎麼選擇？

在考慮了上述擔憂以後，也有人主張：就像我們尊重活人的同意，我們也應該讓逝者自己決定是否要留下數位分身。也許，在生前預先表明「我不希望被製作成哀思機器人」的權利，才是真正尊重。

但我們也知道，技術發展往往快過倫理規範。像 「Project December」 這樣的平台，已經能讓你上傳資料，與「已逝的摯愛」再次交談。當這種服務越來越普遍，我們該如何回應？我們要如何讓開發者知道：這不只是技術問題，更牽涉到逝者的尊嚴與逝者家人的記憶？

不論如何，這類倫理議題從來不是非黑即白的道德判斷，而是對於價值衝突的深思熟慮——我們要如何在不同的關懷之間，找到一條可行的路? 哲學思維該怎麼化為可靠的工具，幫助我們應對快速變遷的當代生活?

延伸閱讀
Erler, A. Deepfakes, Digital Clones, , and the Ethics of Consent (conference presentation).
De Ruiter, A. 2021. The Distinct Wrong of Deepfakes. Philosophy & Technology, 34, 1311-1332.
Fabry, R. E. & Alfano, M. 2024. The Affective Scaffolding of Grief in the Digital Age: The Case of Deathbots. Topoi, 43, 757-769.
Harbinja, E., Edwards, L. & McVey, M. 2023. Governing Ghostbots. Computer Law & Security Review, 48.
Loh, M. 2023. China Is Using AI to Raise the Dead, and Give People One Last Chance to Say Goodbye. Business Insider, 20 May 2023. URL = https://www.businessinsider.com/ai-make-money-china-grieving-raise-dead-griefbot-2023-5.
Story, D. & Jenkins, R. 2023. Deepfake Pornography and the Ethics of Non‑Veridical Representations. Philosophy & Technology, 36, 56.