虛擬人的法律與倫理治理

新技術往往會給現有社會倫理規范帶來沖擊，虛擬人技術也不例外，這是人類社會在進步過程當中始終面臨的問題。

　　隨著生成式人工智能技術不斷成熟，虛擬人制作成本降低、定制化內容生成和應答反應的自然度和豐富度提升，虛擬人逐漸在客服、講解員和直播場景三個領域獲得廣泛應用。目前，我國虛擬人行業整體參與企業較多，行業龍頭地位顯著。根據清華大學新聞與傳播學院新媒體研究中心制作的《2022虛擬數字人綜合評估指數報告》，2022年我國綜合指數排名前十的虛擬數字人分別為洛天依、哈醬、愛加、Meet Gu、時間小妮、央視AI手語主播、翎、希加加、梅澀甜、尤子希。

　　然而，新技術往往會給現有社會倫理規范帶來沖擊，虛擬人技術也不例外，這是人類社會在進步過程當中始終面臨的問題。虛擬人是由現實中的人類所設計和開發的，它們擁有復雜的人工智能系統，能夠模仿甚至超越真實的人類，其沒有主觀世界，但又貌似有主觀世界。因此，虛擬人市場火熱的背后，要警惕其中的法律和倫理道德等風險，嚴肅考慮虛擬人的權利和尊嚴。

　　攝影/寧穎

　　“權利”與風險并存

　　國家廣播電視總局發布的《廣播電視和網絡視聽“十四五”科技發展規劃》中指出，“面向新聞、綜藝、體育、財經、氣象等電視節目研究虛擬形象合成技術，包括2D虛擬形象的合成，3D虛擬形象的驅動，虛擬引擎構建、語音驅動、動作捕捉、面部表情捕捉等技術，提升節目制作效率及質量;同時探索短視頻主播、數字網紅、直播帶貨等虛擬形象在節目互動環節中的應用，增加個性化和趣味性。”

　　當下，人們最熟悉的虛擬人莫過于虛擬偶像和虛擬主播，前者起步最早，后者伴隨著電子商務直播帶貨后來居上。

　　虛擬偶像的出現無疑給廣告代言帶來了新的可能性，其優勢在于無需休息、不受時間和地域限制，可以24小時全天候為廣告代言活動提供支持，從而保證品牌形象的持續曝光。此外，虛擬偶像的形象塑造更加靈活多變，可以輕松創造出各種奇幻或具有未來感的形象，吸引年輕消費者的眼球，尤其是年輕一代消費者中對科技和潮流感興趣的群體。

　　而虛擬主播之所以能在電商直播行業內順利跑通，一方面是由于企業商家普遍存在解放真人勞動力、實現降本增效的訴求，因此虛擬人成為大環境下直播行業升級轉型的新方向;另一方面，則是平臺對數字人主播的政策解禁。前不久，抖音發布《抖音關于人工智能生成內容的平臺規范暨行業倡議》，針對人工智能生成的視頻、圖片和衍生的虛擬人直播，發布相關規范，明確認可虛擬主播形式，流量方面對標真人直播，沒有加以限制。正是企業商家、平臺對虛擬人的重視，使虛擬主播的規模迅速增長，能在神仙打架的直播環境中占有一席之地。

　　然而，隨著虛擬人在產業應用中逐漸增多，其法律問題也在不斷增加。對外經濟貿易大學數字經濟與法律創新研究中心執行主任張欣在接受《小康》雜志、中國小康網采訪時表示，虛擬人在法律上的權利和保護主要涉及到知識產權、版權以及商業權益。“但需要明確的是，虛擬人作為非生物實體，自身并無法享有法律權利，這些權利一般歸屬于虛擬人的創建者、所有者或經營者。”

　　西南政法大學民商法學院副教授孫山告訴《小康》雜志、中國小康網，虛擬人或許給大家一個錯覺，以為它和真實的人一樣可以成為權利主體。但實際上，虛擬人本身并不擁有任何法律權利，它并非法律上的主體，只能成為法律關系中的客體。“從生產制作層面而言，虛擬人凝結了設計運營主體投入的人力、物力及技術成本。為了滿足客戶和市場需求，生產者通過提供定制化產品服務，實現虛擬人在具體場景中的個性應用。”他說，由此可見，虛擬人的權利主體是其設計生產企業，“這類企業擁有虛擬人的肖像、交互模型、記憶存儲等多種權益，是企業獲得交易機會和實現創新的重要方式，并以此享有經營利益和競爭優勢，其合法權益受到法律保護。”同時，也可以設立虛擬人的權利代理人，代表虛擬人行使權利并保護其利益，代理人可以是虛擬人的開發者、運營商或專門的法律實體。此外，設計、操控虛擬人的軟件技術則可能作為計算機軟件被保護，例如“初音未來”所依靠的VOCALOID引擎的聲音庫軟件。“但由于虛擬人的開發需要多個領域的主體共同配合，因此在權屬上需要通過委托合同等方式進行明確，依附于虛擬人的不同類型的作品可能會歸屬不同的權利人。”

　　厘清了主體，其法律風險也清晰可見。上海錦天城(重慶)律師事務所高級合伙人李章虎律師總結了虛擬人產業存在的五種法律風險。第一是知識產權，這是最重要的法律風險。虛擬數字人的形象、聲音和算法等都可能涉及知識產權保護。未經授權使用、復制或修改虛擬數字人可能構成侵權行為。第二是隱私和數據保護。虛擬數字人在與用戶互動過程中可能收集和處理大量的個人數據，例如用戶偏好、行為習慣等。第三是言論自由和道德準則。盡管虛擬數字人可以提供各種信息和建議，但它們不能傳播違法、有害或不道德的內容。第四是虛擬數字人的智能化特點。虛擬數字人可能因錯誤的理解或程序漏洞而提供不準確或誤導性的信息，從而導致用戶誤解或產生法律后果。第五，虛擬人與現實世界之間界限模糊。盡管虛擬人由技術所驅動，并不具備與人類相同的法律責任，但人們有時會誤將其當作真實的個體，從而產生誤解和法律糾紛。

　　以法為本，恪守準則

　　《新一代人工智能發展規劃》曾指出，高度重視可能帶來的安全風險挑戰，加強前瞻預防與約束引導，最大限度降低風險，確保人工智能安全、可靠、可控發展。目前，虛擬人作為新興事物，由于其在我國具有非常高的關注度，如何進行法律規制成為一項重要的議題。

　　孫山介紹，根據《網絡安全法》第46條以及《個人信息保護法》第47條以及《個人信息保護法》第58條等規定，未來我國將會對虛擬人的數據安全提出更高要求，這對于虛擬數字人的發展來說無疑是一大挑戰。從數據收集角度來看，虛擬數字人存在很多數據收集方式，其中主要包括但不限于用戶主動上傳、非公開提供個人信息等行為;從數據使用角度來看，其涉及不同類型用戶的個人信息;從數據處理角度來說，包括將用戶在不同業務場景下產生的數據進行分類，例如將身份信息作為一種“必要”信息進行處理以及將敏感屬性數據進行單獨管理。

　　張欣認為，適用于虛擬人的法律因虛擬人所采用的技術和其適用場景的不同而不同。擬人化程度較高的虛擬人，其采用深度合成或生成技術，應當適用《互聯網信息服務深度合成管理規定》和即將生效的《生成式人工智能服務管理暫行辦法》，這兩部規章針對生成合成類算法進行法律規制，能夠有效緩解虛擬人所產生的虛假信息和個人隱私等法律風險。針對適用的場景，虛擬人直播帶貨可能會涉及《廣告法》的相關條款，針對虛擬人產生的人格權和知識產權糾紛會涉及《民法典》中的相關規定。

　　不過，總體上講，我國對于虛擬人的規制相對于其他法律法規較少，未來仍有很大完善空間。

　　“在虛擬人產業領域，遵守法律是最基本的應對方式，可以減少潛在的法律風險。”在孫山看來，當現有法律并未對虛擬人作出相適應的規定時，依照法律的概括性，應遵守現有法律框架，確保虛擬人的開發和運營符合當前適用的法律法規。此外，還要盡量避免爭議行為，在虛擬人的設計和功能中，避免涉及敏感或有爭議的內容，以減少法律糾紛的可能性，如避免侵犯他人肖像權、知識產權等。“《民法典》明確規定，使用自然人肖像應先行獲得肖像權人的同意，雖然該等同意并不要求一定是書面形式，但為便于后續合作過程中，將授權文件作為權利證明向第三方展示，能與肖像權人簽署書面授權許可文件是最好的，至于具體的權利內容，可以雙方商榷，爭取使各方利益最大化。”而針對虛擬人的聲音，要根據具體情況考慮采用著作權保護，或將虛擬人的重要聲音元素例如組合標志短語、個人口頭禪等通過文字商標或聲音商標的方式嘗試注冊，以獲得商標法上的保護。

　　此外，雖然虛擬人非自然人、不具有人格權，但如果虛擬人所呈現出的個人特征與現實人物的具體生活、工作環境、人物關系等存在關聯，那么針對虛擬人的侮辱誹謗等行為則會造成背后現實人物的社會評價降低，涉嫌構成對背后現實人物的名譽權的侵犯。

　　鑒于科技企業是虛擬人運營、制作和傳播的首要主體，張欣建議，科技企業應率先探索行之有效的自治框架，制定和執行適當的政策來保護所有相關方的權益。“應當為用戶和開發者提供明確的行為準則，規定如何合法、合規地創建和使用虛擬人。建立相應的舉報機制來保護用戶和開發者的知識產權。確保用戶數據的安全和隱私，如設定清晰的數據收集、使用和共享政策，并加強數據加密和安全存儲等措施。”孫山認為，還要在此基礎上加強用戶的知情權和控制權，企業要為用戶提供清晰的用戶通知，解釋虛擬人的行為和數據使用方式，通過提高透明度強化選擇權，降低用戶對虛擬人的未知程度，增加用戶對虛擬人行為的理解和參與度。“隨著科技日新月異的發展，對虛擬人系統進行定期的更新和審查也是十分有必要的，一方面確保其符合當前的法律要求和技術標準，另一方面，也能及時調整和改進虛擬人的設計和功能。”

　　“只有在法律的保護下，虛擬人才能持續發展并為用戶創造更好的體驗。”李章虎指出，共同關注虛擬人的法律風險，才能建設一個安全、可靠且有趣的數字世界。

　　保持理性 虛擬人與真實人類之間的情感聯系是一種模擬和虛擬的交流方式，我們應該保持理性并意識到這種差異。攝影/寧穎

　　倫理道德引人深思

　　過去幾年，虛擬人的形象呈現質感不斷提升。超寫實虛擬人，皮膚和毛孔的質感甚至可以媲美真人。因此，對一些深層次的倫理與道德問題更需要進行深入探討。

　　孫山指出，隨著虛擬人在現實生活中的廣泛使用，人們與虛擬人之間的情感連接越來越緊密，該種情感連接可能會影響到人們的真實社交。“對于人類來說，與虛擬人建立情感聯系是可能的。在現實生活中，我們常常會在與電影、游戲或虛擬角色的互動中產生情感共鳴。虛擬人的情感表達能力和個性特征可以引發人們情感上的反應，并產生情感連接。”

　　如果虛擬人被設計得足夠逼真以至于人們將其視為真實的情感對象，那么我們是否有義務對其負有情感責任?虛擬人的情感表達是否應該受到保護和尊重?孫山表示，“雖然虛擬人可能無法與人類一樣真實地產生情感聯系，但它們在娛樂、教育和治療等領域仍然具有潛力。通過設計虛擬人的情感表達和互動能力，我們可以創造出更加吸引人、更加溫暖和有效的用戶體驗。”

　　需要強調的是，虛擬人與真實人類之間的情感聯系是一種模擬和虛擬的交流方式，我們應該保持理性并意識到這種差異。張欣告訴《小康》雜志、中國小康網，虛擬人與真人的互動從本質上來講是人機互動，但是商家為了增加銷量可能會增加虛擬人的擬人化程度，“這種擬人化程度的提高是否會引起消費者的‘情感依賴’是一個倫理難題。而且，利用已故之人的畫像和聲音來對已故之人進行追憶的虛擬人服務也會產生倫理問題，可能產生預期之外的情感和認知傷害”。她同時指出，虛擬人所使用的畫像和聲音是否侵犯現存或已故之人的人格權是目前最受爭議的倫理治理難題。

　　在韓國MBC制作的一檔名為《遇見你》的紀錄片中，技術人員就通過VR技術重現了一個名叫娜燕的七歲女孩，這個女孩事實上在數年前已經因嚴重的白血病而去世了。這樣“重現”的虛擬人需使用死者本人的各種敏感數據，如肖像、聲音、姓名等，不僅極有可能在過程中侵犯死者的人格利益、人格尊嚴，而且“重現”后，虛擬人做出何種行為、說出何種話語皆不能由“本人”決定，其所作所為只能由生者控制。從道德倫理的角度來看，數字化復活或許也是對死者尊嚴的一種侵害。

　　除此之外，曾經爆火的“AI孫燕姿”現象也令人深思。張欣表示，網友雖然對其歌聲的爬取和再生成并無惡意，但此類應用仍有被濫用的風險。

　　孫山對此持相同看法。“虛擬人的行為和決策通常是由算法驅動的，算法的設計和實施可能涉及道德和價值觀的選擇，這就需要考慮如何確保虛擬人的行為符合倫理原則和社會價值。”他表示，算法應當是公開透明且具有可理解性的，這樣才能對算法是否符合倫理原則和社會價值進行評估，并增加用戶對虛擬人的信任。“虛擬人的算法還應該尊重個體的隱私和自主權，遵循適當的數據保護和隱私政策，不濫用個人數據，并且應該給予用戶對其個人信息的控制權。除此之外，我們還需要考慮虛擬人對社會的影響，算法應該被設計為能夠促進社會公平和包容，盡量減少負面影響，如失業問題或對社交互動的依賴。”

　　相關機構預測顯示，到2030年，我國虛擬人產業整體市場規模將達到2700億元，成為壯大數字經濟的新增長點。就在不久前舉辦的“人工智能創新與治理”論壇上，張欣參與了《生成式AI倫理與治理倡議書》的發布。該倡議書的發起是為了應對生成式人工智能快速發展帶來的諸多挑戰和問題，涵蓋了AI的安全、信息披露、人工把關、敏捷治理等七大原則，并給出了七大治理建議。“生成式AI模型需要嚴格保證其使用的安全，避免因誤用或濫用造成社會風險和影響;對于使用生成式AI服務生成或編輯的信息內容，相關企業或組織應添加能夠讓公眾明確知悉且不可刪改的標識，以與真實信息區分，并逐漸形成行業標準;在AI生成的內容發布到公共領域之前，需要有人工進行把關和審查，以確保其內容的合法性和合規性;隨著AI技術的迅速發展，AI的治理和規范也要及時跟進，以適應新的技術發展和社會需求。”張欣說道。

　　《生成式AI倫理與治理倡議書》代表了人工智能協同共治的一種探索、期待，也為進一步完善相關的法律法規和政策提供了重要的參考。張欣表示，“我們希望能夠對AI行業進行方向性的引導，鼓勵AI行業的健康發展，實現治理與發展的雙輪驅動。倡議書發布以來，已經對生成式AI的治理和應用產生了積極的影響。”她提到，在行業內，已經有企業開始積極響應倡議書的建議，改進AI模型的開發和使用流程，提高信息披露和人工把關的標準。倡議書的發布也提高了公眾對生成式AI的認識和理解，促進了公眾的參與和監督。

　　(西南政法大學民商法學院法律碩士王澤州對此文亦有貢獻)

　　(《小康》·中國小康網 獨家專稿)