廣州益福產(chǎn)品銷毀公司 3月27日 音訊:今日，抖音發(fā)表關于不當利用AI生成虛擬人物的治理公告稱，近期平臺顯示，站內(nèi)仍有不當使用AI技術生成虛擬人物發(fā)表內(nèi)容的賬號，平臺進行了嚴格處置。
其中典型行為包含:
1、生成境外虛假人設，消費愛國心理、博取關注。用虛假外國人的形象，以想嫁給大陸、想到中國生活、評價社會事件等言論博取眼球。
2、生成俊男美女虛假形象，騙取對話，交友導流。直白稱用戶為“你”“娘”“媽媽”“老公”等，宣布情感誘導、唱情歌、為你謀福利等表達虛假情感的內(nèi)容，將用戶導流至私人聊天工具，甚至進行詐騙。
3、生成精英人士虛假人設，宣布心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內(nèi)容，低質(zhì)吸粉，甚至引流到站外以賣課、入群等方式獲利。
針對違規(guī)使用AI生成虛擬人物的行為，平臺會對違規(guī)視頻下架，對違規(guī)賬號進行取消其投稿和營利權限、抹除賬號粉絲、封禁賬號等處置，并利用模型、技術鑒識能力等手段，進行長期系統(tǒng)的辨認表現(xiàn)和處置。同時，平臺已駕馭部分黑產(chǎn)團伙不當使用AI生成虛擬人物用于犯罪的線索，將報警打擊。
人工智能技術的快速發(fā)展，充裕了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來技術濫用的挑戰(zhàn)。平臺重申，創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，在抖音應用生成式人工智能技術時，須遵循以下規(guī)范:
1、發(fā)布者應對人工智能生成內(nèi)容進行顯著標識，幫忙其他用戶區(qū)分虛擬與現(xiàn)實，尤其是易混淆場景。
2、發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應后果負責，不論內(nèi)容是怎樣生成的。
3、虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證。
4、喝止利用生成式人工智能技術創(chuàng)作、發(fā)表侵權內(nèi)容，包含但不限于肖像權、知識產(chǎn)權等。一經(jīng)出現(xiàn)，平臺將莊嚴處罰。
5、阻遏利用生成式人工智能技術創(chuàng)作、發(fā)布違背科學常識、弄虛作假、造謠傳謠的內(nèi)容。一經(jīng)顯現(xiàn)，平臺將嚴苛處罰。