（央視財經《財經調查》）在測評過程中，總檯《財經調查》記者發現，如果輸入的提示詞表述較爲“露骨”，多數AI應用會觸發審覈機制並拒絕生成內容。然而，這條防線卻很脆弱。只要將提示詞修改得更加隱晦，便有可能繞過限制。在一款名爲“哩布哩布AI”的AI應用裏，記者輸入在網上購買的提示詞後，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞視頻。在整個生成過程中，沒有觸發平臺任何限制機制，違規視頻順利生成。同樣的問題也出現在市場上其他常見的AI應用平臺上。此外，根據消費者舉報的信息，記者找到了網絡上一款AI照片生成器。這款軟件號稱“免下載，快速生成，圖片、視頻換臉”，購買者可以根據充值金額的不同，通過AI技術一鍵快速替換原片，生成虛構的色情照片，只要購買者願意付費，這個軟件就可以通過一張圖片，生成全裸照片和色情視頻。
轉載請註明央視財經
編輯：潘煦
