如何平衡AI創(chuàng)新與人格權(quán)益保護(hù)

□ 法治日?qǐng)?bào)全媒體記者 杜洋

6月12日，最高人民法院發(fā)布6個(gè)典型案例，旨在加強(qiáng)對(duì)利用網(wǎng)絡(luò)、信息技術(shù)侵害人格權(quán)的否定和整治，強(qiáng)化人格權(quán)司法保護(hù)力度。其中，“殷某某訴甲公司、乙公司等人格權(quán)糾紛案”“彭某某訴某軟件運(yùn)營公司肖像權(quán)糾紛案”均涉及利用AI技術(shù)侵權(quán)的問題。

近年來，互聯(lián)網(wǎng)和AI技術(shù)快速發(fā)展的同時(shí)，由此引發(fā)的侵害人格權(quán)案件也日漸增多。對(duì)此，各地法院積極探索相關(guān)裁判規(guī)則，通過案件裁判為新業(yè)態(tài)、新技術(shù)劃定應(yīng)用邊界，結(jié)合社會(huì)治理撐起人格權(quán)的法律保護(hù)傘，讓群眾的人格權(quán)益得到充分尊重和保護(hù)。

劃定人格權(quán)保護(hù)紅線

2024年4月，北京互聯(lián)網(wǎng)法院對(duì)“殷某某訴甲公司、乙公司等人格權(quán)糾紛案”進(jìn)行一審宣判。被告使用原告聲音，并開發(fā)案涉AI文本轉(zhuǎn)語音產(chǎn)品未獲得合法授權(quán)，構(gòu)成侵權(quán)，法院判決其書面賠禮道歉，并賠償原告各項(xiàng)損失25萬元。

本案中，人民法院依法認(rèn)定，聲音作為一種人格權(quán)益，具有人身專屬性，未經(jīng)權(quán)利人許可擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)，為新業(yè)態(tài)、新技術(shù)的應(yīng)用劃定了行為界限，有助于規(guī)范和引導(dǎo)人工智能技術(shù)沿著為民、向善的方向發(fā)展。

近年來，人民法院通過對(duì)一起起相關(guān)案件的審判，逐步明確AI技術(shù)在利用數(shù)據(jù)信息時(shí)有所為、有所不為，確保人格權(quán)益保護(hù)紅線“劃得實(shí)、守得住”，彰顯了人民法院的司法擔(dān)當(dāng)。

2022年4月11日，最高法發(fā)布民法典頒布后人格權(quán)益司法保護(hù)典型民事案例，其中有一起涉及AI軟件擅自使用自然人形象創(chuàng)設(shè)虛擬人物構(gòu)成侵權(quán)的典型案例。

被告運(yùn)營的一款智能手機(jī)記賬軟件中，用戶可自行創(chuàng)設(shè)或添加“AI陪伴者”，可設(shè)定其名稱、頭像等，并設(shè)置了“調(diào)教”功能，用戶可讓“AI陪伴者”與自己產(chǎn)生互動(dòng)。

本案原告何某系公眾人物，未經(jīng)其同意，該軟件出現(xiàn)以原告姓名、肖像為標(biāo)識(shí)的“AI陪伴者”，并通過算法應(yīng)用，允許用戶上傳大量原告的照片，制作與原告互動(dòng)的內(nèi)容。

“被告不僅擅自使用了原告何某的肖像、姓名，更通過算法構(gòu)建其性格、口頭禪等‘人格畫像’，我院認(rèn)定該行為屬于‘系統(tǒng)性剝奪自然人對(duì)自身人格形象的控制權(quán)’，應(yīng)當(dāng)適用一般人格權(quán)加以保護(hù)。”北京互聯(lián)網(wǎng)法院綜合審判三庭法官毛春聯(lián)說，此案中，AI技術(shù)的“非中立性”逐漸顯現(xiàn)，技術(shù)服務(wù)與內(nèi)容服務(wù)的區(qū)分界限被打破，當(dāng)前不少網(wǎng)絡(luò)服務(wù)者雖然只提供AI技術(shù)，卻以“技術(shù)服務(wù)”之名行“內(nèi)容服務(wù)”之實(shí)。

為查明AI技術(shù)侵害人格權(quán)益的涉案技術(shù)的基本原理、設(shè)計(jì)邏輯、運(yùn)行過程，北京互聯(lián)網(wǎng)法院建立了技術(shù)調(diào)查官制度，通過技術(shù)調(diào)查官對(duì)AI的專業(yè)解讀，確保法官準(zhǔn)確理解技術(shù)，作出公平裁判。

據(jù)杭州互聯(lián)網(wǎng)法院法官賴粵旭介紹，AI技術(shù)的開發(fā)和應(yīng)用應(yīng)符合人類社會(huì)基本的道德價(jià)值體系，使用者一旦選擇將AI技術(shù)用于侵害他人合法權(quán)益，法院就可根據(jù)被侵害主體所主張的侵權(quán)者，進(jìn)一步通過查明侵權(quán)賬號(hào)的實(shí)名注冊(cè)者、實(shí)際控制者等方式，判定被侵害主體所主張的對(duì)象是否為侵權(quán)主體。

促進(jìn)AI技術(shù)規(guī)范使用

2023年5月，上海易某網(wǎng)絡(luò)科技有限公司開發(fā)了一款某短視頻平臺(tái)小程序“某顏”，使用AI視頻合成算法幫用戶實(shí)現(xiàn)“一鍵換臉古風(fēng)漢服”。陳女士在某短視頻平臺(tái)上刷到這款小程序，發(fā)現(xiàn)里面有十余條自己的古風(fēng)原創(chuàng)作品，隨后向上海市嘉定區(qū)人民法院起訴。

訴訟中，易某公司意識(shí)到相關(guān)行為可能構(gòu)成侵權(quán)，主動(dòng)履行了相關(guān)AI算法備案手續(xù)，重新上架小程序。嘉定區(qū)法院發(fā)出司法建議，提示企業(yè)強(qiáng)化依法經(jīng)營意識(shí)，注重素材合法性審查、內(nèi)容生成合法性審查等。易某公司積極響應(yīng)，認(rèn)真整改，承諾將規(guī)范經(jīng)營。陳女士最終撤回起訴，雙方達(dá)成和解。

為平衡好技術(shù)創(chuàng)新與人格權(quán)益法律保護(hù)的關(guān)系，人民法院積極發(fā)揮職能作用，引導(dǎo)相關(guān)企業(yè)在AI技術(shù)應(yīng)用中樹立守法意識(shí)，推動(dòng)行業(yè)自律，構(gòu)建良好有序的AI發(fā)展生態(tài)。

“我院在相關(guān)案件的處理過程中，會(huì)綜合考慮行為人和受害人的職業(yè)、影響范圍、過錯(cuò)程度，以及行為的目的、方式、后果、事后采取的措施等因素，合理認(rèn)定技術(shù)開發(fā)和應(yīng)用企業(yè)應(yīng)當(dāng)承擔(dān)的民事責(zé)任，在充分填補(bǔ)權(quán)利人損失的前提下避免因過度苛責(zé)抑制創(chuàng)新發(fā)展。”廣州互聯(lián)網(wǎng)法院相關(guān)負(fù)責(zé)人說。

同時(shí)，各地法院積極與多方主體合作，力求在保護(hù)人格權(quán)益的同時(shí)，促進(jìn)AI技術(shù)的規(guī)范使用。

北京互聯(lián)網(wǎng)法院多次赴互聯(lián)網(wǎng)頭部企業(yè)調(diào)研，組織專家學(xué)者進(jìn)行座談研討，深入了解產(chǎn)業(yè)發(fā)展情況，探討AI技術(shù)的法律邊界與倫理規(guī)范，推動(dòng)企業(yè)建立自律機(jī)制；杭州互聯(lián)網(wǎng)法院深入走訪數(shù)字經(jīng)濟(jì)的頭部企業(yè)，與相關(guān)產(chǎn)業(yè)的理論學(xué)者、實(shí)踐專家開展專題研討，從產(chǎn)業(yè)端學(xué)習(xí)研究當(dāng)下AI產(chǎn)業(yè)的發(fā)展模式和發(fā)展趨勢(shì)，聚焦AI產(chǎn)業(yè)的法律適用邊界，積極引導(dǎo)相關(guān)企業(yè)加強(qiáng)AI技術(shù)研發(fā)與應(yīng)用的風(fēng)險(xiǎn)防控機(jī)制。

針對(duì)AI換臉、AI合成聲音等前沿侵權(quán)行為，北京、杭州、廣州等互聯(lián)網(wǎng)法院及時(shí)發(fā)布典型案例，樹立裁判規(guī)則，明確行為界限，引導(dǎo)公眾依法正確使用AI技術(shù)，增強(qiáng)群眾保護(hù)自身人格權(quán)益的法律意識(shí)。

厘清公共與個(gè)人數(shù)據(jù)

“未來，生成式AI可能會(huì)引發(fā)隱私或個(gè)人信息泄露問題。大型生成式AI需要大量數(shù)據(jù)作為參數(shù)，AI產(chǎn)品的提供者在訓(xùn)練AI產(chǎn)品時(shí)很可能會(huì)運(yùn)用大量沒有合法來源的數(shù)據(jù)信息，這就可能帶來一些侵害隱私和個(gè)人信息的新形式。”中國人民大學(xué)法學(xué)院教授王利明告訴《法治日?qǐng)?bào)》記者。

“可以預(yù)見，在AI時(shí)代，人格權(quán)的客體可能會(huì)涵蓋數(shù)字化人格表征，諸如對(duì)應(yīng)實(shí)體人物的虛擬形象，這些虛擬人物形象的實(shí)體權(quán)利人可能會(huì)對(duì)其虛擬形象主張?zhí)摂M人格權(quán)益。此外，AI的發(fā)展需要大量公共數(shù)據(jù)的支撐，在公共數(shù)據(jù)的共享開放以及授權(quán)經(jīng)營中，最核心也最復(fù)雜的問題就是如何厘清公共數(shù)據(jù)和個(gè)人數(shù)據(jù)，防止侵害個(gè)人信息權(quán)益和隱私權(quán)等個(gè)人權(quán)益。”成都互聯(lián)網(wǎng)法庭法官吳婷補(bǔ)充道。

賴粵旭告訴記者，面對(duì)AI技術(shù)帶來的新挑戰(zhàn)，杭州互聯(lián)網(wǎng)法院將進(jìn)一步關(guān)注AI應(yīng)用新業(yè)態(tài)，深化研究、探索新類型案件的裁判規(guī)則，確保相關(guān)案件中適用法律的公平性和準(zhǔn)確性。

“我院將與相關(guān)部門形成合力，及時(shí)反映司法實(shí)踐中發(fā)現(xiàn)的新情況，為規(guī)范AI發(fā)展貢獻(xiàn)司法智慧，通過加強(qiáng)協(xié)作共治，共同減少和避免AI技術(shù)發(fā)展過程中出現(xiàn)的新風(fēng)險(xiǎn)。”廣州互聯(lián)網(wǎng)法院相關(guān)負(fù)責(zé)人說。

在王利明看來，隨著AI運(yùn)用的場(chǎng)景越來越寬泛，由此帶來侵害人格權(quán)益的風(fēng)險(xiǎn)必須在法律上予以有效應(yīng)對(duì)。

“一方面，不能因?yàn)樾碌腁I技術(shù)可能引發(fā)侵害人格權(quán)益的風(fēng)險(xiǎn)而對(duì)AI服務(wù)提供者課以過重的責(zé)任，從而妨礙技術(shù)的創(chuàng)新。另一方面，也應(yīng)要求服務(wù)提供者盡可能采取必要措施，例如將AI產(chǎn)生的信息明確標(biāo)識(shí)，預(yù)防損害的發(fā)生和擴(kuò)大。”王利明建議道。