AI“復活”親人，你會支持麼？
“大家好我們又見面了！”
2024年商湯科技年會上，公司創始人湯曉鷗這句問候，令在場所有人淚目又驚喜。
因爲這個“湯曉鷗”並非真正的活人，而是用AI技術“復活”的“數字人”。
AI技術“復活”的“數字人湯曉鷗”
2023年年底，湯曉鷗在上海因病搶救無效去世，讓無數熟悉他的人深感惋惜。
如今，“AI湯曉鷗”以如此生動的形式重返人間，不僅令人感受到科技進步的力量，更引發一股數字AI“復活”親人的熱潮。
其實，早在“AI湯曉鷗”之前，著名音樂人包小柏就利用AI技術復刻出“數字女兒”，不僅能用日常的音容和父母對話，還在她媽媽的生日宴獻上一曲生日歌。
UP主@吳伍六也曾在網上分享了他AI“復活”奶奶的全過程，視頻在網絡引發巨大反響，不僅讓人們找到緬懷逝者一種新的心靈寄託，也讓很多人看到了商機。
UP主@吳伍六AI“復活”奶奶的視頻截圖
01 復活親人產業鏈的崛起
通過數字AI技術“復活”親人，本質上是基於逝者生前留下的影像資料，藉助神經網絡、深度學習等AI算法，搭建出逝者的思維模型。
如今，“AI復活”的親人技術，不僅在一定程度上緩解了人們對親人的思念之情，同時也成爲一條全新的產業鏈。
清明前夕，這項業務更是火爆異常。
在某電商平臺上搜索“AI復活”，能看到不少相關店鋪，但由於這個行業尚無統一的收費標準，價格和服務質量參差不齊。
一般來說，市面上的“AI復活”產品，根據成本高低、技術難度，主要分爲三檔。
某寶上展示的AI復活技術產品
最低檔價格只有10元，客戶只需提供一張親人正面照片，準備50字左右的文字內容，半天之內即可收到一個“數字親人”的短視頻。
說白了，這些服務都是賺“信息差”的錢，商家幾乎都是套用某些AI軟件的“照片說話”項目批量作業。
由於照片質量以及各類AI軟件技術等原因，這種低價的“親人說話”視頻不僅說話時五官變形嚴重，聲音也極爲生硬，實在“慘不忍睹”。
中檔則是一種價格在百元左右的“AI換臉”項目。
這項服務特點就是“投機取巧”，在客戶提供的照片、視頻等資料基礎上，利用AI換臉技術，套用真人模特替換被克隆者的形象和聲音後生成，看上去倒也栩栩如生。
只是這種項目很考驗技術，許多商家做出來的“換臉親人”不僅臉型和動作脫節，表情也極爲僵硬，經常出現身體在動，臉部卻紋絲不動的恐怖畫面。
最貴的，要數售價超千元的“數字人克隆”。
這種項目一般要求客戶提供至少10秒的單人正臉視頻、30秒無雜質的錄音或語音內容，等待至少一週時間。
事實上，這種項目是藉助更爲成熟的AI捕捉技術，通過模型重塑一個與真人無異的“數字親人”。
無論形象、聲音還是動作表情，均可以假亂真，逼真度可達95%以上。
如果對這些項目還不滿意，某些更爲專業的AI網站已經宣稱，可提供超萬元的“豪華版數字人”服務。
數字克隆人網絡圖
這種技術其實與湯曉鷗和包小柏女兒的數字復活項目類似，主打的就是“不僅像，而且還有靈魂”。
事實上，人類一生產生的數據量其實並不大。
根據微軟公司的研發信息顯示，普通人一生可能產生的數據，只需約1TB的硬盤容量就夠了。
這點數據處理量對於如今的AI來說，實在是“小菜一碟”。
此類項目核心就是儘可能多地採集克隆對象的一切信息資料，從而讓AI通過算法分析和模擬出對方的性格、說話口氣、思維習慣等信息。
請注意，我們提到的是“克隆對象”啊。
因爲這種技術不只是用來複制死者，只要有足夠的數據量，複製活人也沒任何問題。
AI可以定製逝者，也能克隆活人
這就帶來一個新的問題：AI複製出的“數字人”，相關的信息如何保護？
其實，大部分客戶在網上定製“數字親人”時，未必會注意到商家會在相關視頻下標註“不做人臉識別，只做親人懷念”的提醒語。
很多商家雖然接單時都會承諾“所有數據是嚴格保密的，不會用於不法途徑或者網上進行二次傳播”。
可這對於客戶來說，只是一種心理安慰。
畢竟，網上商家不僅AI技術水平良莠不齊，也不乏心懷叵測之徒。
02 帶來的新騙局
想想看，網上定製“AI親人”，雖然是線上發貨，可後臺是可以看到客戶詳細電話和地址等信息的。
雖然大部分客戶定製是爲了緬懷逝去的親人，可也有不少人是爲了好玩去定製自己寶寶和其他家人的搞怪或祝福內容。
而且，爲了更爲逼真的效果，就需要儘可能多地提供相關的對話、視頻和照片，甚至還可能在溝通時，說出更多家庭或個人隱私，從而帶來不必要的風險。
雖然不能說從事“AI復活”的商家都會將資料拿去作不法用途，可想想這些年我們不知何時被泄露的家庭地址、電話信息，這些更爲具體的視頻與身份信息很難說不會被盜用。
任何時候，越高級的技術往往越是一把“雙刃劍”，既可能給人們帶來便利，也可能淪爲犯罪分子使用的“新道具”。
AI換臉技術如今已經真假難辨
自從生成式AI爆火，基於“AI換臉”的詐騙案件在過去一年層出不窮，有人甚至在短短10分鐘內就被騙數百萬元。
2023年5月，包頭警方發佈一起使用智能AI技術進行電信詐騙的案件，福州市某科技公司的郭先生10分鐘內被騙430萬元。
這位人在包頭的“好友”通過微信視頻聯繫郭先生，因外地投標需要對公賬戶過賬，所以想要借用郭先生公司的賬戶走賬。
基於對“好友”的信任，加上已經視頻聊天覈實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了“好友”的銀行卡上。
事後，郭先生才發現被騙。
對方通過“AI換臉”技術，佯裝成好友對其進行了詐騙。
郭先生事後懊惱地說：“他當時是給我打了視頻電話的，我在視頻中也確認了面孔和聲音，所以才放鬆了戒備。”
網上出現的利用AI換臉技術的新騙局
雖然包頭和福州警方接警後立即行動，成功追回三百多萬元，但還有近百萬資金無法追回。
這還算是簡單版的“AI換臉”騙局，更高級的詐騙能直接通過人工智能深僞（Deep Fake）技術詐騙上億港元。
今年2月，香港警方就曾公佈過一起案件：某跨國公司香港分行的財務，收到假冒該公司英國總部首席財務官的信息，邀請對方參與一個多人視頻會議。
起初，這位財務對自己突然參加這麼高級別的會議有些懷疑，可由於參與視頻會議的成員容貌“與真實人士一樣”，財務還是放鬆了警惕。
最終，他按照“總部領導”指示分15次匯款2億港幣（約1.84億元人民幣），轉賬至5個本地戶口。
當報案人最終向總公司查詢之後，才發現被騙。
據香港媒體報道，詐騙分子是利用了人工智能的深度僞造技術，從國外視聽網站YouTube上下載視頻，通過更爲先進的Deepfake（深度僞造）技術模仿了相關人士的視頻人像和聲音，製造多人蔘與視頻會議的假象。
事實上，整個會場其實只有這位香港財務是“真人”，其餘都是“數字人“。
爲了不露破綻，視頻會議期間，對方採取了“直接下達命令”的方式，絲毫不給財務反應的時間。
這起案件涉及金額達2億港元的詐騙案，不僅是香港歷史上損失最慘重的“換臉”案例，也是國內目前涉及“AI換臉”案件被騙金額最高的案件。
香港警方除了同樣提醒市民做好信息防範，還提醒一旦遇到此類可疑視頻內容，可要求對方在鏡頭前作出指定動作，或在會議期間不斷向對方提問來辨別真僞。
除了AI技術可能帶來的騙局，AI涉足人類的生死之事，依然極具挑戰。
03 法律和倫理問題
日本電影《入殮師》中有一句臺詞：死可能是一道門，逝去並不是終結，而是超越。
電影《入殮師》劇照
可面對親人的離世，我們大部分人都無法真正能有如此超脫的意識。
通過AI技術“復活”親人，或許能滿足親友的不捨之情，但是也帶來新的倫理挑戰：AI“復活”的“人”是否能真正代表死者本人？
“即便模仿得再像，她也不愛我。”一位利用AI“復活”妻子的丈夫在網上悲切地說。
事實上，基於目前的技術條件，即便是價格不菲添加了所謂前世記憶的“數字親人”，與我們想象中具有細膩情感要素的活人還是相差甚遠，更無法真正替代已經離開這個世界的他（她）。
更值得關注的，是“AI復活”技術背後暴露出的法律和倫理問題。
要知道，技術是可以被任何人掌握的。
因此，理論上，任何離開這個世界的人，都有可能被人以不同方式“復活”。
但是，這種“復活”是不是都能被其親人接受呢？
答案是否定的。
之前，許多視頻博主未經李玟家屬同意，利用AI技術“復活”李玟，擅自利用李玟肖像製作、發佈“AI復活李玟”系列短視頻，以溫情之名非法牟利，備受爭議。
這樣的情況在很多已經離世的明星和名人身上都曾出現過，也毫無例外被其家屬抗議和反對。
今年3月28日，李玟母親委託律師對此發表聲明，指出“AI復活李玟”系列內容已經給李玟母親及其家人帶來巨大心理衝擊和二次傷害，警告涉嫌侵權責任人7日內下架、刪除含有上述侵權內容的相關圖片、視頻及文章。
李玟母親委託律師發佈的律師函
事實上，根據《中華人民共和國民法典》等相關法律規定，死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的，其配偶、子女、父母有權依法請求行爲人承擔民事責任。
因此，不要以爲誰離開人世，就能隨意通過“AI復活”來博取關注和流量。
這類未經死者家屬授權的行爲，同樣會受到法律的嚴懲。
客觀上說，無論是從倫理還是法律角度，當一個人離開了這個世界，並不代表他（她）在這個世界就可以被肆意描繪。
作爲一種提供情緒價值的新式手段，“AI復活親人”確實有一定市場和需求，但也必須看到，這種技術一旦被濫用，甚至淪爲譁衆取寵的工具，不僅會給死者家庭帶來二次傷害，更是對死者最大的不公和侮辱。
爲此，2023年歐盟出臺了《人工智能法案》，將AI技術劃分爲“不可接受”、“高風險”、“中風險”和“低風險”四個管控等級。
2023年7月10日，中國也起草了《生成式人工智能服務管理辦法》，不僅再次強調了保護個人隱私的重要性，也強調了不得含有違法和有違公序良俗的內容。
顯然，國內外都已經意識到，“AI復活”會帶來隱私、倫理等方面的社會隱患，必須及時進行防範。
不過，法律終歸是道德的最低要求，AI技術異乎尋常的生長速度，必然會帶來許多令人意想不到的倫理考驗，監管依然面臨各種難題。
在法律和倫理的交匯點上，我們需要更加謹慎地平衡技術發展與人類情感之間的關係，確保每一次“復活”都是對生命的尊重和對記憶的珍視。
只有這樣，“AI復活親人”才能真正成爲人類情感世界中的一份寶貴財富，而不是一種對過去的侵犯。
同時，我們也希望更多的人可以坦然面對親人的離世，將這份思念深埋心底。
如同我們熟悉的那段話：面對告別最好的態度，就是好好告別。
想要了解更多AI 行業資訊以及ChatGPT和AI繪畫實戰案例，歡迎加入我們的「互聯網AI早讀課」知識星球！
在這個星球，你可以更加系統的學習AIGC相關知識：
1. ChatGPT和AI繪畫（Midjourney+Stable Diffusion+Photoshop beta）基礎+進階全攻略；
2. ChatGPT和AI繪畫最直接變現案例；
3. 與200+行業先行者鏈接，積累你的專屬人脈資源；
4. 社羣保姆級一站式服務，包教包會包討論；
現在加入，立享99元早鳥價優惠，星球用戶每漲100人，價格上調100元，直到恢復499元原價！
這個風口抓不抓的住，就看你願不願意邁出第一步了！
越晚加入成本越貴！最後兩個名額又要漲價了！
來源 | 正解局（ID：zhengjieclub）
作者 | 正解局 ；編輯 | 呼呼大睡
內容僅代表作者獨立觀點，不代表早讀課立場