抖音平臺近日發布了針對“災害期間AI內容不當使用”的專項治理公告，該舉措源于西藏自治區發生的地震災害期間，網絡上涌現的一系列利用AI技術生成的災害虛假場景，這些不實內容對救援工作造成了不必要的干擾。
抖音官方指出，在地震災害發生后，平臺上出現了大量由AI技術生成的災難圖片，部分發布者將這些內容視為“藝術創作”或出于“祈福”的目的，但并未意識到這些行為可能造成的誤導。抖音強調，AI創作雖然具有創新性，但如果不加以規范，很容易混淆虛擬與現實的界限。
為了應對這一問題，抖音平臺制定了以下一系列規范，要求所有在平臺上使用生成式人工智能技術的創作者、主播、用戶、商家、廣告主等生態參與者必須遵守：
首先，發布者需對AI生成的內容進行明確標識，確保其他用戶能夠清晰地區分虛擬內容與現實情況，特別是在那些容易引發混淆的場景中。其次，無論內容是如何生成的，發布者都需要對其產生的后果負責。使用虛擬人技術的用戶需要在平臺進行注冊，并完成實名認證，以確保身份的可追溯性。
抖音還明確規定，禁止利用生成式人工智能技術創作和發布任何侵權內容，包括但不限于侵犯肖像權和知識產權等。對于此類行為，平臺將采取嚴格的處罰措施。同時，也嚴禁利用AI技術創作和發布違背科學常識、弄虛作假或造謠傳謠的內容，一經發現，同樣將受到平臺的嚴厲處罰。
抖音平臺的這一系列舉措，旨在加強網絡內容的真實性和可信度，防止虛假信息對公眾造成誤導，特別是在災害等敏感時期。通過明確規范和嚴格處罰，抖音希望能夠在保障用戶創意自由的同時，維護一個健康、有序的網絡環境。
