被AI仿冒困擾的不止張文宏一人。如何識別AI換臉換聲？AI在商業(yè)中的合法使用場景如何界定？如何防止AI技術(shù)被濫用？部分政協(xié)委員對此進行了解讀。

如何識別AI換臉換聲？

隨著技術(shù)發(fā)展，AI生成的畫面、聲音、視頻越來越逼真，普通用戶愈發(fā)難辨真?zhèn)危虼艘渤霈F(xiàn)了不少利用AI進行違法犯罪的案例。那么，如何識別AI換臉換聲？

全國政協(xié)委員、金杜律師事務(wù)所高級合伙人張毅介紹，在特定場景下，如深度偽造的實時視頻，可以在視頻對話時，臨時要求對方在臉部前面揮手等方式進行識別。實時偽造的視頻，在揮手過程中，會造成面部數(shù)據(jù)干擾，所偽造的人臉會產(chǎn)生一定的抖動、閃現(xiàn)或其他異常情況。若是短視頻換臉，一般出于娛樂大眾的目的，仿真度一般較低，只要注意觀察細節(jié)，如眨眼頻率、聲畫同步情況等，便容易發(fā)現(xiàn)是否為人工智能生成內(nèi)容。

“依法進行生成式人工智能的內(nèi)容標識，應(yīng)成為識別主要方法。”張毅介紹，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印。《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法（征求意見稿）》亦均有相關(guān)規(guī)定。

“所以說，AI換臉不是想換就能換，有可能涉及肖像權(quán)及個人信息權(quán)益侵害問題，進而承擔(dān)相應(yīng)的法律責(zé)任。”張毅提醒說。

如何合法使用AI聲音和人臉數(shù)據(jù)？

目前，國內(nèi)市場上存在多種提供AI生成視頻服務(wù)的新型軟件，“合法邊界”問題成為大家熱議的重點。

談到合理合法使用AI聲音和人臉數(shù)據(jù)，張毅表示要堅持幾個原則：首先是合法獲取，即取得數(shù)據(jù)主體的明確同意。對此，《中華人民共和國民法典》有明確規(guī)定。其次是明確用途，即取得授權(quán)同意。若對聲音、人臉數(shù)據(jù)用于與收集時告知的目的不符的其他用途，也可能存在數(shù)據(jù)濫用的法律風(fēng)險，如侵犯個人信息保護。再次是數(shù)據(jù)保護。采取必要的技術(shù)措施保護聲音和人臉數(shù)據(jù)在存儲和傳輸過程中的安全，否則可能存在數(shù)據(jù)泄露的法律風(fēng)險，如個人信息泄露導(dǎo)致的侵犯隱私權(quán)問題。同時，要嚴格遵守行業(yè)標準。比如，電商場景、游戲場景中若自動生成的內(nèi)容包含侮辱、誹謗、淫穢、暴力及虛假宣傳等，可能違反《互聯(lián)網(wǎng)信息服務(wù)管理辦法》。

如何防止AI技術(shù)被濫用？

任何技術(shù)的應(yīng)用和發(fā)展都應(yīng)建立在符合道德倫理、社會規(guī)則和法律的前提下。如何防止AI技術(shù)被濫用，讓“科技向善”落地有聲？

張毅建議，一是在源頭端，需要進一步加強公民個人信息保護，尤其是加強對生物特征等隱私信息的技術(shù)、司法保護力度。二是在技術(shù)端，研發(fā)AI產(chǎn)品的企業(yè)和使用AI產(chǎn)品的平臺要做好“守門人”的工作，不僅要確保所有的開發(fā)和使用活動符合相關(guān)的法律法規(guī)，也要增強透明度，向用戶清晰說明產(chǎn)品功能、數(shù)據(jù)使用及潛在風(fēng)險。三是在法律制度層面，要進一步完善人工智能等領(lǐng)域相關(guān)法律法規(guī)。

“首先，盡快推進人工智能法出臺，讓人工智能監(jiān)管有法可依。其次，加強行業(yè)標準制定，確保企業(yè)在使用AI技術(shù)時遵守法律和倫理規(guī)范。此外，完善的責(zé)任追究機制也至關(guān)重要，以明確各方在人工智能濫用時的法律責(zé)任。最后，可以推動跨部門協(xié)作和信息共享，以提升對AI技術(shù)綜合監(jiān)管能力，確保技術(shù)發(fā)展與社會利益之間的平衡?！睆堃氵M一步建議。

監(jiān)管如何跟上技術(shù)發(fā)展？

AI技術(shù)快速發(fā)展，監(jiān)管如何跟上？

“當(dāng)前，明確AI在商業(yè)中的合法使用場景刻不容緩?！笔龑萌珖f(xié)委員，云南聯(lián)通黨委書記、總經(jīng)理張云勇表示。

張云勇建議，首先，完善法律法規(guī)，加強監(jiān)管力度。應(yīng)進一步完善相關(guān)法律法規(guī)，明確AI技術(shù)在直播帶貨等商業(yè)行為中的使用場景負面清單，確保AI合成技術(shù)用于商業(yè)宣傳和帶貨的視頻內(nèi)容合法合規(guī)。

其次，加強技術(shù)監(jiān)測與信息共享。識別AI換臉直播帶貨的技術(shù)涉及到機器學(xué)習(xí)算法、圖像與音頻分析技術(shù)、人工審核與AI算法輔助等多個方面，只有綜合運用這些技術(shù)，才能提高識別AI換臉內(nèi)容的準確性和效率，進而保護消費者免受欺詐。因此，要推動建立跨平臺的信息共享和協(xié)同機制，對AI直播帶貨侵權(quán)行為賬號相關(guān)責(zé)任人進行聯(lián)合打擊和治理。

再次，強化安全合規(guī)主體責(zé)任。一方面，直播平臺應(yīng)承擔(dān)起對直播主體的監(jiān)管責(zé)任，強化技術(shù)手段應(yīng)用，加強對直播帶貨內(nèi)容的審核和管理。另一方面，電商平臺應(yīng)建立健全內(nèi)部質(zhì)量管理體系，要嚴格篩選主播和經(jīng)過AI處理的視頻及商品，營造健康有序的直播環(huán)境。

張云勇進一步建議，要鼓勵行業(yè)協(xié)會制定直播行業(yè)帶貨的行業(yè)標準和行為準則，引導(dǎo)企業(yè)自覺遵守，強化直播營銷平臺、直播間運營者、直播營銷人員的主體責(zé)任。推進行業(yè)信用體系建設(shè)，向社會公布行業(yè)內(nèi)從業(yè)人員、平臺等信用等級，推動“直播帶貨”信用體系建設(shè)。

十三屆全國政協(xié)委員、第五空間信息科技研究院院長談劍鋒建議，要進一步擴大監(jiān)管范圍，不僅要監(jiān)管技術(shù)應(yīng)用，還要在前端的技術(shù)研發(fā)立項階段就進行源頭管理。同時，適當(dāng)整合監(jiān)管手段。對生成式人工智能技術(shù)的發(fā)展，不僅要在各個分領(lǐng)域做相應(yīng)調(diào)整，還要做好系統(tǒng)整合，用好技術(shù)和法律的合力，健全適用性高的人工智能技術(shù)法律體系。

“在人工智能技術(shù)迅速發(fā)展的背景下，監(jiān)管必須具備靈活性和適應(yīng)性?！睆堃惚硎?，在法律層面，可以采取靈活審慎的立法策略。針對突出問題，可以通過出臺司法解釋、監(jiān)管部門指導(dǎo)意見等形式解決；在涉及具體場景問題時，可以通過先行先試、監(jiān)管沙盒等方式進行探索，也可以先出臺地方立法或部門規(guī)章，再逐步推進立法。

在張毅看來，人工智能應(yīng)用涉及面較廣，跨界合作至關(guān)重要。政府、行業(yè)和學(xué)術(shù)界需要共同參與，分享最佳實踐和技術(shù)標準，從而制定出科學(xué)合理的監(jiān)管政策，也可以考慮借助AI手段進行監(jiān)管。