在一款熱門(mén)記賬軟件中，用戶除了記錄日常開(kāi)支，還能創(chuàng)建AI虛擬陪伴者。這些AI角色可以根據(jù)用戶設(shè)定的關(guān)系(如親友、戀人)，在記賬后自動(dòng)發(fā)送表情包、留言互動(dòng)，這一功能獲得了眾多用戶青睞。當(dāng)公眾人物何某發(fā)現(xiàn)自己的姓名、肖像被這款軟件推薦為AI陪伴者，不僅用戶可隨意設(shè)置親密關(guān)系，AI還能模仿其神態(tài)語(yǔ)氣生成互動(dòng)內(nèi)容后，他認(rèn)為自身人格權(quán)益遭受侵害，最終將軟件運(yùn)營(yíng)方上海某人工智能科技公司訴至法院。

北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)定，被告并未獲得何某的許可，使用了何某的姓名、肖像，構(gòu)成對(duì)何某姓名權(quán)、肖像權(quán)的侵害。此外，AI陪伴者還系統(tǒng)地使用了何某的整體形象，也侵犯了何某的一般人格權(quán)。上海某人工智能科技公司被判向何某公開(kāi)賠禮道歉并賠償20.3萬(wàn)元人民幣，該案件也入選了最高人民法院“民法典頒布后人格權(quán)司法保護(hù)典型民事案例”。

“雖然網(wǎng)絡(luò)上的虛擬形象并不是真實(shí)的主體，但發(fā)布相關(guān)言論和使用其形象時(shí)，可能會(huì)涉及對(duì)他人人格尊嚴(yán)的貶損。”本案承辦法官，北京互聯(lián)網(wǎng)法院審委會(huì)專職委員孫銘溪表示，“企業(yè)創(chuàng)新發(fā)展過(guò)程中要時(shí)刻注意法律的邊界。網(wǎng)絡(luò)用戶利用新的技術(shù)去滿足個(gè)人情感和文化需求的同時(shí)，也要充分尊重他人的人格權(quán)益。”

隨著深度偽造(Deepfake)技術(shù)的使用門(mén)檻不斷降低，AI換臉、虛擬主播等應(yīng)用呈爆發(fā)式增長(zhǎng)。國(guó)家網(wǎng)信辦2024年4月最新監(jiān)測(cè)數(shù)據(jù)顯示，短視頻平臺(tái)AI換臉視頻日均新增量已突破72萬(wàn)條，其中除明星形象濫用外，普通人形象盜用比例亦呈上升趨勢(shì)。技術(shù)狂歡背后，暗藏肖像權(quán)侵害、虛假信息傳播、情感詐騙等系列隱患。2024年4月26日最高人民法院發(fā)布的《全國(guó)互聯(lián)網(wǎng)法院受案情況通報(bào)(2024Q1)》顯示，人工智能相關(guān)侵權(quán)案件收案量較去年同期增長(zhǎng)317%，其中涉及人格權(quán)糾紛案件占比79.2%。

面對(duì)技術(shù)濫用風(fēng)險(xiǎn)，大家如何才能筑牢防線？

孫銘溪提出了三個(gè)建議：第一要強(qiáng)化個(gè)人信息保護(hù)，避免在公開(kāi)平臺(tái)上傳高清正臉照片、原聲錄音；謹(jǐn)慎授權(quán)APP調(diào)用攝像頭、麥克風(fēng)權(quán)限，關(guān)閉非必要的人臉識(shí)別功能。第二要提升內(nèi)容鑒別能力，AI合成的視頻有人物邊緣模糊、表情僵硬、口型不匹配等細(xì)節(jié)特點(diǎn)，同時(shí)要利用官方工具(如網(wǎng)信辦“辟謠平臺(tái)”)或第三方檢測(cè)軟件驗(yàn)證真?zhèn)?。第三要主?dòng)維權(quán)與舉報(bào)，發(fā)現(xiàn)侵權(quán)內(nèi)容后，應(yīng)立即通過(guò)平臺(tái)投訴渠道要求刪除，并保存截圖、鏈接等證據(jù)；向當(dāng)?shù)鼐W(wǎng)信部門(mén)舉報(bào)違法AI合成服務(wù)，或向法院提起訴訟。

“當(dāng)你在屏幕前驚嘆‘換臉’特效時(shí)，請(qǐng)謹(jǐn)記：每一次點(diǎn)擊，都可能成為技術(shù)濫用或詐騙的‘突破口’。”孫銘溪說(shuō)，“AI換臉技術(shù)的狂奔，呼喚法律與倫理的‘韁繩’。從開(kāi)發(fā)者的合規(guī)責(zé)任到公眾的風(fēng)險(xiǎn)意識(shí)，唯有在法治框架內(nèi)探索技術(shù)邊界，才能讓創(chuàng)新真正造福社會(huì)。”