抖音平臺(tái)近日發(fā)布了針對(duì)“災(zāi)害期間AI內(nèi)容不當(dāng)使用”的專項(xiàng)治理公告，該舉措源于西藏自治區(qū)發(fā)生的地震災(zāi)害期間，網(wǎng)絡(luò)上涌現(xiàn)的一系列利用AI技術(shù)生成的災(zāi)害虛假場(chǎng)景，這些不實(shí)內(nèi)容對(duì)救援工作造成了不必要的干擾。

抖音官方指出，在地震災(zāi)害發(fā)生后，平臺(tái)上出現(xiàn)了大量由AI技術(shù)生成的災(zāi)難圖片，部分發(fā)布者將這些內(nèi)容視為“藝術(shù)創(chuàng)作”或出于“祈福”的目的，但并未意識(shí)到這些行為可能造成的誤導(dǎo)。抖音強(qiáng)調(diào)，AI創(chuàng)作雖然具有創(chuàng)新性，但如果不加以規(guī)范，很容易混淆虛擬與現(xiàn)實(shí)的界限。

為了應(yīng)對(duì)這一問題，抖音平臺(tái)制定了以下一系列規(guī)范，要求所有在平臺(tái)上使用生成式人工智能技術(shù)的創(chuàng)作者、主播、用戶、商家、廣告主等生態(tài)參與者必須遵守：

首先，發(fā)布者需對(duì)AI生成的內(nèi)容進(jìn)行明確標(biāo)識(shí)，確保其他用戶能夠清晰地區(qū)分虛擬內(nèi)容與現(xiàn)實(shí)情況，特別是在那些容易引發(fā)混淆的場(chǎng)景中。其次，無論內(nèi)容是如何生成的，發(fā)布者都需要對(duì)其產(chǎn)生的后果負(fù)責(zé)。使用虛擬人技術(shù)的用戶需要在平臺(tái)進(jìn)行注冊(cè)，并完成實(shí)名認(rèn)證，以確保身份的可追溯性。

抖音還明確規(guī)定，禁止利用生成式人工智能技術(shù)創(chuàng)作和發(fā)布任何侵權(quán)內(nèi)容，包括但不限于侵犯肖像權(quán)和知識(shí)產(chǎn)權(quán)等。對(duì)于此類行為，平臺(tái)將采取嚴(yán)格的處罰措施。同時(shí)，也嚴(yán)禁利用AI技術(shù)創(chuàng)作和發(fā)布違背科學(xué)常識(shí)、弄虛作假或造謠傳謠的內(nèi)容，一經(jīng)發(fā)現(xiàn)，同樣將受到平臺(tái)的嚴(yán)厲處罰。

抖音平臺(tái)的這一系列舉措，旨在加強(qiáng)網(wǎng)絡(luò)內(nèi)容的真實(shí)性和可信度，防止虛假信息對(duì)公眾造成誤導(dǎo)，特別是在災(zāi)害等敏感時(shí)期。通過明確規(guī)范和嚴(yán)格處罰，抖音希望能夠在保障用戶創(chuàng)意自由的同時(shí)，維護(hù)一個(gè)健康、有序的網(wǎng)絡(luò)環(huán)境。