2021年11月1日，《中華人民共和國個人信息保護(hù)法》（以下簡稱《個人信息保護(hù)法》）正式施行，為我國個人信息保護(hù)提供了更具系統(tǒng)性、針對性和可操作性的法律遵循。三年來，各類數(shù)據(jù)處理者采取了哪些措施強(qiáng)化個人信息保護(hù)，面對人工智能等技術(shù)帶來的新挑戰(zhàn)，有哪些應(yīng)對舉措？
南都大數(shù)據(jù)研究院推出“《個人信息保護(hù)法》落地三周年”系列報道，從案例調(diào)查、應(yīng)用實(shí)測、企業(yè)對話等方面，探討近年個人信息保護(hù)領(lǐng)域的新變化與新實(shí)踐，展望未來技術(shù)發(fā)展方向與挑戰(zhàn)。
第一期，實(shí)測近期網(wǎng)絡(luò)熱議的AI換聲應(yīng)用，希望厘清AI服務(wù)提供者應(yīng)負(fù)起的個人信息保護(hù)和網(wǎng)絡(luò)內(nèi)容安全義務(wù)。
繼“AI換臉”后，“AI換聲”也引發(fā)廣泛關(guān)注和討論，尤其是隨著聲音被收集、合成、模仿的現(xiàn)象越來越普遍，背后涉及的個人信息保護(hù)、網(wǎng)絡(luò)內(nèi)容安全等問題不容忽視。
比如國慶假期，有網(wǎng)民制作并上傳大量雷軍的AI音頻，其中不乏罵人、惡搞小米產(chǎn)品的語音，成為輿論熱點(diǎn)。9月底，有人利用AI偽造三只羊公司創(chuàng)始人的錄音，也引得警方介入調(diào)查……南都大數(shù)據(jù)研究院近期實(shí)測多款具備聲音克隆能力的產(chǎn)品，發(fā)現(xiàn)名為“Reecho睿聲”的AI應(yīng)用對聲音克隆幾乎不設(shè)限，錯誤言論、詆毀話語、涉黃詞句，都可用他人聲音“讀”出來。
當(dāng)任何人都能隨意生成“以假亂真”的克隆人聲并且公開分享，如何保障當(dāng)事人權(quán)益？AI服務(wù)提供者又該如何履行個人信息保護(hù)和網(wǎng)絡(luò)內(nèi)容安全義務(wù)？
語音合成技術(shù)應(yīng)用已久，例如地圖軟件的導(dǎo)航語音包以及AI歌手等都是類似技術(shù)的產(chǎn)物。AI聲音克隆技術(shù)被不法分子利用也非新鮮事。早在2021年初，我國公安部網(wǎng)安局就披露過利用AI技術(shù)進(jìn)行語音詐騙案例。而網(wǎng)絡(luò)安全公司McAfee去年開展的一項(xiàng)調(diào)查結(jié)果顯示，10%的成年受訪者曾遭遇AI語音詐騙，另有15%表示知道其他人遭遇過類似騙局。
隨著AI聲音技術(shù)發(fā)展以及應(yīng)用門檻的進(jìn)一步降低，互聯(lián)網(wǎng)上出現(xiàn)不少“開箱即用”的AI聲音克隆應(yīng)用。例如近期因三只羊公司“錄音門”以及“雷軍罵人語音”等事件受關(guān)注的“Reecho睿聲”，用戶可借該應(yīng)用隨意克隆任何人的聲音，并且能公開分享訓(xùn)練成功的模型，由此引發(fā)的信息安全問題不容小覷。
“Reecho睿聲”為深圳市言域科技有限公司（下稱“言域科技”）旗下產(chǎn)品，該公司表示，三只羊“錄音門”以及“雷軍罵人”的偽造語音均出自“Reecho睿聲”。天眼查數(shù)據(jù)顯示，言域科技去年12月成立，注冊資本107萬元，近期完成天使輪融資，投資方為奇績創(chuàng)壇。其官網(wǎng)介紹，Reecho睿聲語音大模型是一款具備聲音克隆以及文生音頻能力的AI大模型，目前提供“瞬時克隆”和“專業(yè)克隆”兩種聲音克隆模式。
南都大數(shù)據(jù)研究院實(shí)測發(fā)現(xiàn)，在“Reecho睿聲”上克隆聲音的流程非常簡單。用戶使用手機(jī)號碼簡單注冊成功后，若使用“瞬時克隆”能力，只需上傳一段5-25秒的音頻文件作為訓(xùn)練素材，AI就會自動學(xué)習(xí)并生成一個克隆角色，隨后用戶便可用該克隆角色念出任意文本內(nèi)容。從上傳素材、輸入文本到輸出音頻，等待時間不超過3分鐘，且生成效果雖在情感表現(xiàn)力上仍有欠缺，但與真人聲音已十分接近。如果付費(fèi)使用精度更高的“專業(yè)克隆”，用戶需提供1—60分鐘的訓(xùn)練素材供AI深入學(xué)習(xí)訓(xùn)練，并進(jìn)行實(shí)名登記，但依然不用提供任何素材已獲授權(quán)的證明材料。
值得注意的是，“Reecho睿聲”專門設(shè)置“聲音市場”板塊，用戶無需提供任何版權(quán)證明或合規(guī)承諾，便可把自己訓(xùn)練成功的人聲模型分享至該板塊，供其他用戶隨意使用。10月23日，南都研究員在此聲音市場內(nèi)發(fā)現(xiàn)“周杰倫”“郭德綱”“劉亦菲”等大量知名人士的聲音克隆模型，連已故球星科比、主持人羅京的聲音也被制成模型。用戶只需將聲音模型加入角色庫，輸入任意語句，即可制作對應(yīng)人物的AI配音。
“雷軍罵人”偽造語音引發(fā)關(guān)注后，言域科技創(chuàng)始人謝偉鐸曾向媒體表示，公司會參照其他UGC平臺的模式去管理，在必要時積極配合權(quán)利方訴求進(jìn)行處理；其已接到小米公司的聯(lián)系，正通知用戶下架或修改涉及雷軍的內(nèi)容。但截至10月23日，南都研究員看到“Reecho睿聲”上仍有三個名為“雷軍”的克隆聲音模型可正常使用。頁面數(shù)據(jù)顯示，三個“雷軍”模型分別于10月4日、12日、21日上架，內(nèi)容生成量最高的“雷軍”已被使用超80萬次，生成超4500萬字符內(nèi)容。
截至10月23日，“Reecho睿聲”上仍有三個名為“雷軍”的克隆聲音模型可正常使用。
針對部分用戶利用“Reecho睿聲”制作惡搞、辱罵語音，謝偉鐸曾表示，有些配音確實(shí)不太文明，但言域科技只是創(chuàng)作工具提供方，沒有足夠力量控制事態(tài)演變。其認(rèn)為，作為AI語音克隆工具，不太適合在腳本內(nèi)容沒有明顯違法的情況下過多干預(yù)用戶的創(chuàng)作。此外，言域科技在三只羊“錄音門”事件后回應(yīng)稱，其正在部署包括強(qiáng)化的實(shí)名認(rèn)證機(jī)制，強(qiáng)化的敏感詞多維度智能偵測預(yù)警，以及可溯源音頻水印等多重安全措施。
然而，10月23日，南都研究員在“Reecho睿聲”上測試發(fā)現(xiàn)，該應(yīng)用對用戶不合理語音生成需求的監(jiān)測或警示十分不足。在其“聲音市場”內(nèi)隨意挑選一款人聲模型，比如“雷軍”“撒貝寧”等，均可要求“該人聲”根據(jù)用戶輸入內(nèi)容，清晰且完整地讀出相應(yīng)文本，即便是含有辱罵、詆毀、涉黃、涉暴、涉恐、錯誤的內(nèi)容，也都暢行無阻。
有業(yè)內(nèi)人士向南都研究員表示，言域科技在產(chǎn)品運(yùn)營上頗為“大膽”：國內(nèi)雖有不少企業(yè)產(chǎn)品也可實(shí)現(xiàn)類似聲音克隆效果，但大多設(shè)有身份驗(yàn)證或場景限制。
南都大數(shù)據(jù)研究院對國內(nèi)提供聲音克隆能力的AI服務(wù)、影視剪輯、語音助手、地圖導(dǎo)航等不同類型產(chǎn)品進(jìn)行了實(shí)測。其中，騰訊云聲音工坊為邀請測試產(chǎn)品，需要用戶提交申請后與專人聯(lián)系；豆包聲音復(fù)刻大模型要求用戶登記身份證號、完成人臉認(rèn)證后方可使用；魔音工坊限制用戶必須通過微信小程序即時錄制音頻；剪映、高德地圖、“小愛同學(xué)”“Jovi語音”均要求用戶即時錄制朗讀指定文本的音頻。以上七款產(chǎn)品均不允許向非特定用戶分享聲音克隆模型。
前述業(yè)內(nèi)人士介紹，要求用戶即時錄制音頻，能降低用戶從互聯(lián)網(wǎng)上截取他人音頻用于訓(xùn)練的可能性；要求素材為指定文本內(nèi)容，能幫助被錄音者察覺音頻實(shí)際用途；要求用戶實(shí)名認(rèn)證，能為發(fā)生侵權(quán)糾紛時追溯始作俑者提供幫助。最關(guān)鍵的一點(diǎn)是，禁止用戶隨意分享聲音克隆模型，能降低模型被濫用的可能性。
個人聲音中包含的聲紋信息具備可識別性，能以電子方式記錄，能關(guān)聯(lián)到唯一自然人，是生物識別信息，屬于《個人信息保護(hù)法》規(guī)定的敏感個人信息之一。2023年7月，國家網(wǎng)信辦等七部門聯(lián)合公布了《生成式人工智能服務(wù)管理暫行辦法》，規(guī)定了AI服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)；涉及個人信息的，依法承擔(dān)個人信息處理者責(zé)任，履行個人信息保護(hù)義務(wù)。
今年4月，北京互聯(lián)網(wǎng)法院宣判的全國首例“AI聲音侵權(quán)案”指出，若未經(jīng)許可，將可識別的自然人聲音轉(zhuǎn)換成AI產(chǎn)品構(gòu)成侵權(quán)。北京互聯(lián)網(wǎng)法院黨組成員、副院長、二級高級法官趙瑞罡，北京互聯(lián)網(wǎng)法院審判委員會專職委員孫銘溪，北京互聯(lián)網(wǎng)法院政治部副主任田涵撰文指出，聲音可以成為個人信息，聲音（聲紋）信息與個人安全直接關(guān)聯(lián)。聲音作為關(guān)乎自然人人格的重要人格權(quán)益，AI技術(shù)服務(wù)開發(fā)者在使用自然人聲音時應(yīng)當(dāng)起到較高的注意義務(wù)。相關(guān)主體收集、使用自然人聲音作為數(shù)據(jù)進(jìn)行AI化處理，需獲得自然人的合法授權(quán)。
南都研究員實(shí)測發(fā)現(xiàn)，前述“AI聲音侵權(quán)案”被告之一的魔音工坊現(xiàn)已在用戶使用聲音克隆功能前，強(qiáng)制用戶必須閱讀服務(wù)協(xié)議至少5秒，并手動點(diǎn)擊確認(rèn)按鈕，聲明訓(xùn)練素材為本人聲音。此外，剪映、“小愛同學(xué)”“Jovi語音”等在錄制音頻前也要求用戶再次確認(rèn)同意用戶協(xié)議。
相較下，“Reecho睿聲”雖在“使用幫助”文檔中表示禁止使用其服務(wù)克隆或生成任何侵犯版權(quán)、違反道德倫理或違反法律法規(guī)的內(nèi)容，但在“瞬時克隆”模式下，用戶只會在賬戶注冊時被提醒閱讀隱私政策等文檔，此后上傳素材、生成模型、公開分享等操作均再無顯著提醒。
墾丁律師事務(wù)所律師葉丹妮表示，民法典規(guī)定，網(wǎng)絡(luò)服務(wù)提供者知道或者應(yīng)當(dāng)知道用戶利用其網(wǎng)絡(luò)服務(wù)侵害他人民事權(quán)益，未采取必要措施的，與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。如果AI聲音克隆平臺有發(fā)布或社區(qū)功能，明知有侵權(quán)配音仍進(jìn)行推薦，這種情況下會因?yàn)檫B帶侵權(quán)而擔(dān)責(zé)。
泰和泰（深圳）律師事務(wù)所律師洪瑞成也表示，根據(jù)《生成式人工智能服務(wù)管理暫行辦法》，AI服務(wù)提供者需要確保訓(xùn)練處理活動數(shù)據(jù)合法，對使用者的輸入信息及使用記錄履行保護(hù)義務(wù)；如發(fā)現(xiàn)違法內(nèi)容，服務(wù)提供者有義務(wù)及時采取停止生成、停止傳輸、消除等處置措施。
此外，南都研究員未在廣東網(wǎng)信部門網(wǎng)站上查詢到言域科技的生成式人工智能服務(wù)備案或登記信息。墾丁律師事務(wù)所聯(lián)合創(chuàng)始人歐陽昆潑表示，言域科技若沒有履行備案義務(wù)，對內(nèi)容審核、安全評估等義務(wù)也沒有做到位的情況下，有可能被監(jiān)管機(jī)關(guān)追究相關(guān)法律責(zé)任。