英美等企業(yè)聯(lián)發(fā)《AI 系統(tǒng)開(kāi)發(fā)指引》 稱全球首份安全標(biāo)準(zhǔn)

隨著AI的高速發(fā)展，安全問(wèn)題越來(lái)越凸顯，日前美國(guó)網(wǎng)絡(luò)安全兼基礎(chǔ)架構(gòu)安全管理署（CISA）及英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）日前正式發(fā)布《安全 AI 系統(tǒng)開(kāi)發(fā)指引》（Guidelines for Secure AI System Development）白皮書(shū)。

該白皮書(shū)號(hào)稱“首份全球 AI 安全標(biāo)準(zhǔn)”，旨在從設(shè)計(jì)階段強(qiáng)化 AI 系統(tǒng)的安全性，以防范可能的安全風(fēng)險(xiǎn)。

據(jù)悉，這份指引是由包括美、英、德、法、日、韓、新加坡在內(nèi) 18 國(guó)，并聯(lián)合微軟、谷歌、OpenAI、Anthropic、Scale AI 等 23 個(gè)網(wǎng)絡(luò)安全組織參與制定。

具體而言，指引包含 4 個(gè)主要部分：安全設(shè)計(jì)、安全開(kāi)發(fā)、安全部署及安全運(yùn)營(yíng)（operation and maintenance），指引為每一個(gè)部分都提出可能的安全風(fēng)險(xiǎn)及避免方法，以協(xié)助開(kāi)發(fā)人員從源頭降低相關(guān)安全風(fēng)險(xiǎn)。

該指引主要提供 AI 系統(tǒng)開(kāi)發(fā)的必要建議，并表明開(kāi)發(fā) AI 系統(tǒng)應(yīng)遵循安全設(shè)計(jì)（Secure by Design）的原則。英國(guó) CISA 指出，這份指引強(qiáng)調(diào)把客戶安全、透明度及責(zé)任、以及建立“安全設(shè)計(jì)”的組織結(jié)構(gòu)列為優(yōu)先事項(xiàng)。

這份指引適用于所有類型的 AI 系統(tǒng)，除了涵蓋行業(yè)內(nèi)的“尖端模型”，也包含其他利用外部代管的模型或是 API 系統(tǒng)。