中新經(jīng)緯6月14日電 題：直播虛擬人也會(huì)“塌房” 須重視合規(guī)問(wèn)題

作者 黃斌 北京德和衡律所元宇宙科技與法律研究中心主任、《互聯(lián)網(wǎng)法律評(píng)論》特約專家

持續(xù)近三年的新冠疫情讓人們開(kāi)始習(xí)慣于長(zhǎng)時(shí)間的“線上工作和學(xué)習(xí)”，同時(shí)推動(dòng)虛擬人大規(guī)模集中出現(xiàn)，以滿足人們的“線上工作和娛樂(lè)”。虛擬人是連接現(xiàn)實(shí)、開(kāi)啟元宇宙的重要角色，并且成為元宇宙中一條重要的交互賽道。與此同時(shí)，商家的虛擬人直播如雨后春筍般出現(xiàn)在各大平臺(tái)，“虛擬人+故事場(chǎng)景”直播顛覆了傳統(tǒng)的真人直播模式，刷新了用戶對(duì)平臺(tái)、品牌的認(rèn)識(shí)，構(gòu)建起一種全新的營(yíng)銷生態(tài)。為實(shí)現(xiàn)可持續(xù)運(yùn)營(yíng)，平臺(tái)和直播虛擬人商家有必要高度關(guān)注其中的運(yùn)營(yíng)、合規(guī)風(fēng)險(xiǎn)。

直播虛擬人發(fā)展概況

虛擬人起源于20世紀(jì)80年代，近年來(lái)隨著建模、AI、動(dòng)捕、渲染技術(shù)的發(fā)展進(jìn)入高速成長(zhǎng)期。2021年10月20日，廣電總局發(fā)布《廣播電視和網(wǎng)絡(luò)視聽(tīng)“十四五”科技發(fā)展規(guī)劃》，在虛擬主播方面提出“探索短視頻主播、數(shù)字網(wǎng)紅、直播帶貨等虛擬形象在節(jié)目互動(dòng)環(huán)節(jié)中的應(yīng)用，增加個(gè)性化和趣味性”，首次明確地鼓勵(lì)和支持虛擬人的發(fā)展?！艾F(xiàn)在進(jìn)入了一個(gè)時(shí)間點(diǎn)，已經(jīng)不太需要去教育客戶，同他說(shuō)為什么要給你推虛擬人，很多品牌直接問(wèn)有哪些虛擬人可以和他們合作，目的性非常強(qiáng)，這也和市場(chǎng)成熟度有關(guān)，”動(dòng)圖宇宙創(chuàng)始人丁焱表示。

2022年6月8日，Anycolor于東京證券交易所上市，這是全球首家以虛擬人為主營(yíng)業(yè)務(wù)的上市企業(yè)，其旗下有彩虹社，也有直播事業(yè)部。如今出現(xiàn)了一些品牌虛擬人深度定制，以及提供虛擬人IP代運(yùn)營(yíng)服務(wù)的公司，平臺(tái)、商家都開(kāi)始定制品牌虛擬人，或者與提供虛擬人IP代運(yùn)營(yíng)服務(wù)的公司合作，試圖以虛擬人形象的IP價(jià)值輸出打開(kāi)在Z時(shí)代中的影響力，拓展新消費(fèi)人群。

直播虛擬人同樣會(huì)“塌房”

業(yè)界普遍認(rèn)為，真人主播有人設(shè)崩塌的風(fēng)險(xiǎn)，而直播虛擬人不存在人設(shè)崩塌的風(fēng)險(xiǎn)。但事實(shí)上，虛擬人人設(shè)同樣也會(huì)崩塌。人工智能虛擬人是通過(guò)大量的預(yù)設(shè)人格相關(guān)數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)，然后通過(guò)算法進(jìn)行自動(dòng)化決策，并與用戶實(shí)現(xiàn)交互。人工智能虛擬人的人格塑造可能貫徹了平臺(tái)、商家的商業(yè)目的，該商業(yè)目的可能因?yàn)橐恍┢缫暫?span id="c77kqdj" class="wpcom_tag_link">偏見(jiàn)導(dǎo)致人設(shè)崩塌。算法設(shè)計(jì)者固有的偏見(jiàn)和歧視也有可能導(dǎo)致人設(shè)崩塌，例如，某品牌智能音箱在回復(fù)用戶心動(dòng)周期的相關(guān)問(wèn)題時(shí)建議用戶自殺，某人工智能軟件將黑人識(shí)別成靈長(zhǎng)類動(dòng)物等。

《頂流虛擬偶像A-SOUL一夜塌房，背后的五個(gè)女孩真的就是工具人？》一文也指出：但無(wú)論是AI直播，還是完全按照劇本設(shè)計(jì)的人設(shè)，都不是粉絲真正想要的。資本或許認(rèn)為粉絲愛(ài)的是皮套，但是對(duì)很多粉絲來(lái)說(shuō)，虛擬偶像提供的情緒價(jià)值比冰冷的皮套更重要。皮套和靈魂是相輔相成的，粉絲第一眼肯定是被皮套吸引，但有趣的靈魂才是維持人氣的關(guān)鍵。

真人驅(qū)動(dòng)型虛擬人及人工智能虛擬人面臨合規(guī)問(wèn)題

虛擬偶像雖然是技術(shù)產(chǎn)物，但目前還是得依靠人來(lái)驅(qū)動(dòng)。智能虛擬人是指利用人工智能技術(shù)，通過(guò)多模態(tài)技術(shù)和深度學(xué)習(xí)模型的運(yùn)算結(jié)果，實(shí)時(shí)或離線驅(qū)動(dòng)虛擬人的語(yǔ)音表達(dá)、面部表情、具體動(dòng)作，其通過(guò)人工智能技術(shù)打造直播虛擬人的完整人設(shè)，并賦予直播虛擬人“靈魂”。

人工智能的運(yùn)用應(yīng)符合可理解原則和公平原則，人工智能應(yīng)該能夠?yàn)槿祟惿鐣?huì)現(xiàn)有的道德所理解；人工智能的運(yùn)行應(yīng)當(dāng)保持透明可見(jiàn)的原則，不讓特定個(gè)人或少數(shù)群體遭受偏見(jiàn)、侮辱和歧視；人工智能應(yīng)當(dāng)尊重人格尊嚴(yán)和個(gè)人隱私，保障人工智能參與者的知情權(quán)和選擇權(quán)；最后，人工智能的發(fā)展應(yīng)當(dāng)可控，人類不從屬于人工智能，也不應(yīng)受到人工智能的脅迫，保障人類在人工智能中的決定作用，當(dāng)人工智能失控時(shí)，應(yīng)當(dāng)有毀滅裝置。針對(duì)智能虛擬人的直播運(yùn)營(yíng)，平臺(tái)及商家需要關(guān)注的合規(guī)風(fēng)險(xiǎn)如下：

對(duì)于匯集大量直播虛擬人的平臺(tái)而言，平臺(tái)的善良管理者義務(wù)是與其從虛擬人直播中直接獲得的經(jīng)濟(jì)利益正相關(guān)的(例如，在直播虛擬人獲得的打賞中分成)，獲得的經(jīng)濟(jì)利益越大，自然應(yīng)對(duì)此負(fù)有較高的注意義務(wù)，其應(yīng)當(dāng)承擔(dān)的法律責(zé)任和注意義務(wù)與之前所述真人驅(qū)動(dòng)型虛擬人基本一致。

商家在制作和運(yùn)營(yíng)直播虛擬人時(shí)，應(yīng)當(dāng)堅(jiān)持科學(xué)倫理先行。倫理是指在處理人與人、人與社會(huì)的相互關(guān)系時(shí)，應(yīng)遵循的道理和準(zhǔn)則，是指一系列指導(dǎo)行為的觀念，是從概念角度出發(fā)，對(duì)道德現(xiàn)象的哲學(xué)思考。它不僅包含處理人與人、人與社會(huì)、人與自然之間關(guān)系時(shí)的行為規(guī)范，而且也蘊(yùn)涵著依照一定原則來(lái)規(guī)范行為的深刻道理。

人工智能最大的弱點(diǎn)是，缺乏直接的感受能力，在價(jià)值判斷上存在弱點(diǎn)，而人工智能倫理準(zhǔn)則所倡導(dǎo)的造福人類、避免傷害、公平正義等價(jià)值理念，為人工智能技術(shù)層面的開(kāi)發(fā)和運(yùn)用提供了價(jià)值判斷標(biāo)準(zhǔn)。

以機(jī)器學(xué)習(xí)為代表的人工智能技術(shù)需要大量數(shù)據(jù)，數(shù)據(jù)是機(jī)器學(xué)習(xí)的根基，數(shù)據(jù)的真實(shí)性、完整性，以及數(shù)據(jù)的規(guī)模和質(zhì)量是人工智能進(jìn)行分析與建模的關(guān)鍵。人工智能公平性的核心基礎(chǔ)是數(shù)據(jù)，數(shù)據(jù)的不公平主要體現(xiàn)在：不同群體在數(shù)據(jù)中所占比例不均衡，數(shù)據(jù)固有的歧視，數(shù)據(jù)固有的偏見(jiàn)，數(shù)據(jù)的包容性不夠，數(shù)據(jù)的通用性及數(shù)據(jù)的準(zhǔn)確性等。數(shù)據(jù)具有固有的歧視和偏見(jiàn)，是因?yàn)橐恍в衅缫暫推?jiàn)的價(jià)值觀映射在數(shù)據(jù)上。如果沒(méi)有對(duì)上述數(shù)據(jù)不公平現(xiàn)象進(jìn)行調(diào)試和校驗(yàn)，這種不公平將反饋到人工智能算法模型，并最終映射到人工智能的公平性上。

算法是一種“數(shù)據(jù)處理活動(dòng)”，包括收集和處理數(shù)據(jù)，挖掘數(shù)據(jù)價(jià)值，涵蓋數(shù)據(jù)的生成、采集、存儲(chǔ)、轉(zhuǎn)換、處理和輸出的全過(guò)程。智能直播虛擬人需要通過(guò)算法實(shí)現(xiàn)自動(dòng)化決策，以達(dá)到與用戶之間的強(qiáng)互動(dòng)。算法的出現(xiàn)和使用，是為了執(zhí)行大規(guī)模重復(fù)的任務(wù)和計(jì)算，是為了實(shí)現(xiàn)商業(yè)上高效快速的交易，是為了實(shí)現(xiàn)公權(quán)力具有廣度、深度和效率的運(yùn)行。隨著算法的日益廣泛應(yīng)用，算法成為促進(jìn)政治、經(jīng)濟(jì)、文化和社會(huì)發(fā)展的工具，應(yīng)當(dāng)遵循人類共同價(jià)值觀，遵守國(guó)家或地區(qū)的倫理道德；算法應(yīng)當(dāng)尊重人類主體地位，給用戶選擇權(quán)和決策權(quán)；算法應(yīng)當(dāng)抑制人類社會(huì)無(wú)處不在的歧視和偏見(jiàn)；算法應(yīng)當(dāng)保障用戶的人身權(quán)和財(cái)產(chǎn)權(quán)。(中新經(jīng)緯APP)

本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權(quán)所有，未經(jīng)書(shū)面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。選編內(nèi)容涉及的觀點(diǎn)僅代表原作者，不代表中新經(jīng)緯觀點(diǎn)。

責(zé)任編輯：孫慶陽(yáng) 實(shí)習(xí)生 李佳文