AI安全-認知與對抗系列

需求背景

隨著新一代信息技術的快速發(fā)展，深度合成、AIGC等技術作為人工智能領域的新應用正在快速普及。基于深度學習的DeepFake類造假技術（如視頻換臉、聲音偽造）的逐步成熟，導致造假的技術門檻和成本逐步降低；AIGC技術的進步也加劇了AI生成內(nèi)容技術被濫用的風險。深度合成及AIGC等新技術的濫用將造成大量通過AI生成的虛假的、具備政治立場的、誘導性的文本、圖片及音視頻被制造出來，勢必對社會認知、知識產(chǎn)權、網(wǎng)絡安全、國防安全、社會安全等帶來嚴重威脅和重大挑戰(zhàn)。

在政策法規(guī)方面，為規(guī)范互聯(lián)網(wǎng)信息服務深度合成使用以及生成式人工智能生成數(shù)據(jù)的有效管理，促進互聯(lián)網(wǎng)信息服務健康發(fā)展、推進網(wǎng)絡空間治理、維護社會公平穩(wěn)定發(fā)展，國家互聯(lián)網(wǎng)信息辦公室協(xié)同相關部門分別發(fā)布了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》以及《生成式人工智能服務管理辦法（征求意見稿）》。

在技術訴求方面，深度偽造及AIGC生成內(nèi)容的精準檢測問題亟待解決，為國家相關部門對這些技術濫用的監(jiān)管與治理提供有力抓手。