成都市溫江區(qū)廢紙回收價格電話13981937861,成都佳梵廢舊物資回收有限公司長期回收空調(diào)、變壓器、配電柜、電腦、廢鐵、廢銅、電子電器、電線電纜、廢舊金屬、廢舊等物資，聯(lián)系電話：13981937861，18980010174。

　　AI使造謠變得越來越容易？

　　科技的邊界也需法律來明確

　　AI繪畫，AI視頻，AI對話……

　　在AI正加速滲透現(xiàn)代人生活的當下，Bard、ChatGPT、Chinchilla和LLaMA等生成式AI正迎來裂變式增長的用戶。

　　通過將智能的機器學(xué)習(xí)算法與數(shù)十億條人類生成的內(nèi)容相結(jié)合，這些系統(tǒng)似乎可以做任何事情：根據(jù)字幕創(chuàng)建一個極度逼真的圖像，或是通過已公開的用戶照片合成一張新的自拍照，用視頻中的一個人的肖像替換另一個人也只需要動動手指。

　　在這個由AI構(gòu)成的“新世界”中，生成式AI創(chuàng)建的內(nèi)容高度逼真，普通人越來越難準確區(qū)分真人和AI生成內(nèi)容，偽造、扭曲現(xiàn)實、造謠將變得越來越容易，有圖也不是真相，有視頻可能也不是真相——它們需要先證明自己是真的才行。

　　AI寫真能精準復(fù)制你的樣子

　　人工智能技術(shù)日益發(fā)展，深偽技術(shù)(deepfake，即基于人工智能的人體圖像合成技術(shù))也在人們生活中更加常見，而且更常被濫用。

　　最近，喜歡拍照的王洛奇(化名)迷上了AI寫真?！敖o自己拍照，老公怎么訓(xùn)練也練不出來，自從用上了AI生成軟件，‘喂了’大概50張自己之前拍過的照片進行訓(xùn)練，寫真再也不愁沒有好的攝影師拍了?！?/p>

　　王洛奇告訴記者，使用AI生成的寫真相似度應(yīng)該在95%以上?！拔夷昧艘粡圓I生成的寫真去問女兒照片中的人是誰？孩子表示這就是媽媽呀，還問我什么時候拍的。”

　　因為在王洛奇進行AI寫真訓(xùn)練時，使用的照片大多是在泰國旅行時拍的，還有幾張穿泰服的，結(jié)果AI生成的寫真極具異域色彩。

　　當被問到AI生成的照片是否有明顯的缺點時，王洛奇想了想告訴記者：“其實AI寫真的近景和中景都很無敵了，非要說缺點，就是遠景的全身照臉部會有點垮，不知道是不是訓(xùn)練素材數(shù)量不太夠還是生成照片的像素太低導(dǎo)致的?！?/p>

　　制作真實人物的虛假視頻技術(shù)正變得越來越容易獲得。生成人工智能的進步，將很快意味著虛假但視覺上令人信服的內(nèi)容將在網(wǎng)上激增，從而導(dǎo)致信息生態(tài)系統(tǒng)更加混亂。

　　近日，一位女網(wǎng)友在網(wǎng)上曬出自己在地鐵列車的照片被別有用心的網(wǎng)友下載，并用AI技術(shù)“一鍵脫衣”，造謠圖隨后在網(wǎng)上廣泛傳播。此事沖上熱搜。

　　更為嚴重的是，如果AIGC(生成式AI)內(nèi)容不斷被訓(xùn)練后，可能導(dǎo)致生成的視頻或圖片成了讓人難以分辨的偽證，進而損害當事人的利益和名譽。

　　加水印能保護用戶隱私嗎？

　　專門研究圖像取證的計算機科學(xué)家、伯克利計算機科學(xué)教授Hany Farid主張對AI圖像進行視覺指定：是時候該給這些數(shù)字照片貼上可識別的標簽。Hany Farid在接受記者采訪時表示：“我認為解決這個問題的有效方法之一，就是添加水印?！?/p>

　　標記文件和其他物品以證明其真實性、表明所有權(quán)和反偽造的歷史由來已久。以龐大的圖像檔案庫Getty Images為例，它為其目錄中的所有數(shù)字圖像添加了可見水印，允許客戶在保護公司資產(chǎn)的同時自由瀏覽圖像。

　　根據(jù)OpenAI公開發(fā)布的內(nèi)容顯示，該公司正在試驗一個系統(tǒng)來為ChatGPT的創(chuàng)作添加水印，但段落中的字符不能像數(shù)值那樣進行調(diào)整，因此文本水印采用不同的形式。

　　抵御AI濫用是場“持久戰(zhàn)”

　　高水準“AI畫師”Stable Diffusion曾為自己設(shè)置了一個自動審核圖片安全性的程序，一旦監(jiān)測到生成的圖像涉嫌違規(guī)，即它在內(nèi)容政策里寫明的不得用來生成“引人不適的、色情、仇恨、暴力等圖像”，機器就會攔下這張圖片。

　　據(jù)外媒報道，C2PA聯(lián)盟(內(nèi)容來源和認證聯(lián)盟)最近發(fā)布了一個開放規(guī)范來支持視聽內(nèi)容可以被驗證為人工生成。隨著Adobe、微軟、英特爾、BBC等多家技術(shù)公司加入這項工作，C2PA已做好充分準備，以生產(chǎn)有效且廣泛部署的身份驗證技術(shù)。

　　對人類生成的內(nèi)容和人工智能生成的內(nèi)容進行聯(lián)合簽名和水印處理，雖然不能防止一切形式的濫用，但可以提供一定程度的保護。任何安全措施都必須不斷調(diào)整和完善，因為“對手”會找到將最新技術(shù)武器化的新方法。

　　近日，江蘇首例“人臉解封”侵犯公民個人信息案公開審理，鄭某在被害人不知情的情況下從他人處購買包含姓名、身份證號碼、照片、視頻等個人信息，然后操作圖片形成動態(tài)視頻來進行人臉核驗解封他人賬號，幫助詐騙團伙實施犯罪。

　　被告人鄭某因犯侵犯公民個人信息罪被判有期徒刑八個月、緩刑一年，并處罰金人民幣40000元，作案工具予以沒收。該案判決目前已生效。

　　“要遏制AI合成的亂象，得政府監(jiān)管部門、平臺、網(wǎng)民多方形成合力，多管齊下。”北京航空航天大學(xué)法學(xué)院副教授、北京科技創(chuàng)新中心研究基地副主任趙精武曾表示，作為服務(wù)的提供者，AI合成平臺必須承擔主體責任。

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對AI合成的服務(wù)提供方作出了多項規(guī)定，比如，AI合成平臺必須要求內(nèi)容創(chuàng)作者實名認證，監(jiān)督創(chuàng)作者標明“這是由AI合成”之類的標識，以免誤導(dǎo)公眾；在提供“換臉”技術(shù)前，應(yīng)該征得“被換臉”者的同意；完善數(shù)據(jù)管理、保障個人信息安全。

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，深度合成服務(wù)提供者和技術(shù)支持者必須加強訓(xùn)練數(shù)據(jù)管理和技術(shù)管理。

　　如同垃圾郵件、釣魚網(wǎng)站伴隨著互聯(lián)網(wǎng)的誕生而難以清除，在AIGC逐漸普及的當下，抵御使用生成AI的各種形式的濫用，何為現(xiàn)實何為AI生成的“真假之辯”，似乎也是一場“持久戰(zhàn)”。

　　華西都市報-封面新聞記者 邊雪