“蒙娜麗莎在AI眼中是只貓”，芝加哥大學(xué)推出防AI復(fù)制圖像工具

　　多知網(wǎng)1月29日消息，最近，芝加哥大學(xué)計(jì)算機(jī)科學(xué)家發(fā)布了發(fā)布了一款軟件工具名為Nightshade，它可以巧妙地改變?nèi)魏螖?shù)字化藝術(shù)作品，以防止任何使用圖像進(jìn)行訓(xùn)練的生成人工智能模型抓取或者復(fù)制。

　　研究人員介紹，“雖然人眼看到Nightshade處理的圖像與原始圖像基本沒(méi)有變化，但人工智能模型在圖像中看到了截然不同的構(gòu)圖。”

　　例如，一幅經(jīng)過(guò)處理的圖像，人類的眼睛看到的是綠色田野上一頭奶牛，但人工智能模型可能會(huì)看到草地上躺著一個(gè)大皮革錢包。模型在看過(guò)足夠多的經(jīng)過(guò)處理的圖像后，會(huì)越來(lái)越相信奶牛有漂亮的棕色皮革把手和帶拉鏈的側(cè)口袋，也許還有可愛(ài)的品牌標(biāo)志。

　　Nightshade團(tuán)隊(duì)還提供了其他示例，比如蒙娜麗莎的未改變圖像和處理過(guò)的圖像幾乎與人類相同，但人工智能看到的蒙娜麗莎則是“一只穿著長(zhǎng)袍的貓”?！　?/p>

　　(左圖為正常的蒙娜麗莎，中圖為經(jīng)過(guò)處理的蒙娜麗莎在人眼中的呈現(xiàn)，右圖為AI看到的蒙娜麗莎)

　　藝術(shù)家在發(fā)布自己的作品之前，可以先在Nightshade上處理一下，上傳作品加入誤導(dǎo)人工智能的標(biāo)簽，然后重新輸出作品。這樣，AI模型抓取后就沒(méi)辦法正常使用了。目前Nightshade可以免費(fèi)使用。

　　Nightshade的開(kāi)發(fā)人員旨在幫助藝術(shù)家防止他們的作品在未經(jīng)同意的情況下被用于訓(xùn)練合成圖像。通過(guò)改變圖像，該工具增加了對(duì)這些藝術(shù)品進(jìn)行訓(xùn)練的成本和復(fù)雜性，從而鼓勵(lì)人工智能開(kāi)發(fā)人員尋求與藝術(shù)家達(dá)成許可協(xié)議。

　　Nightshade受到了藝術(shù)家的歡迎。“我們需要這樣的防御工具來(lái)保護(hù)我們的作品，保護(hù)作品的外觀，并保持我們?cè)谑袌?chǎng)上的地位，”一名藝術(shù)家如是說(shuō)。

　　芝加哥大學(xué)計(jì)算機(jī)科學(xué)家去年還發(fā)布了一款工具Glaze，Glaze使得AI模型不能抓取圖像，可以說(shuō)，Glaze是防御性的工具。而Nightshade則是一款更具有進(jìn)攻性的工具，AI模型抓取了圖像后會(huì)讓其結(jié)果變差。

　　Glaze/Nightshade是芝加哥大學(xué)計(jì)算機(jī)教授Ben Zhao帶領(lǐng)其博士團(tuán)隊(duì)共同研發(fā)的，該團(tuán)隊(duì)強(qiáng)調(diào)，他們的目標(biāo)不是破壞AI模型，而是促進(jìn)AI模型合理使用藝術(shù)家作品。(多知網(wǎng) Penny)