科技 85 分
OpenAI 前沿治理框架
OpenAI 發布了其「前沿治理框架」,旨在闡述公司的安全與安保措施如何符合新興的法律要求,包括加州的「前沿人工智慧透明法案」以及歐盟 AI 法案的「通用人工智慧實踐準則」。此框架建立在現有的「準備框架」基礎上,專注於管理先進 AI 系統的嚴重風險,並將其納入公開的治理文件,以滿足特定的監管義務。框架涵蓋了網路攻擊、CBRN 風險、有害操縱、失控等領域的風險評估與緩解,以及模型報告、安全風險管理、事件響應、外部專家意見和框架更新等內容。OpenAI 表示,隨著模型能力、評估方法和監管要求的發展,該框架將持續演進。
關注分數 85 此框架是 OpenAI 在 AI 監管領域的重要聲明,可能影響全球 AI 法規發展與產業標準。
OpenAI 5月28日 08:00 1 分鐘閱讀
來源署名
本文為 AI 輔助中文翻譯與整理,內容依據原文來源:
OpenAI
今日我們發布了 OpenAI 的前沿治理框架,該框架闡述了我們的安全與安保實踐如何符合新興的法律要求,包括加州的「前沿人工智慧透明法案」以及歐盟 AI 法案的「通用人工智慧實踐準則」。
準備框架仍然是我們定義和實施管理先進 AI 系統最嚴重風險的方法的基礎,包括我們超越現有法律要求的內部實踐。前沿治理框架將該方法的相關部分應用於一個專注於特定監管義務的公開治理文件。
該框架涵蓋了包括網路攻擊、CBRN 風險、有害操縱和失控等領域的風險評估與緩解,以及模型報告、安全風險管理、事件響應、外部專家意見和框架更新。
我們預計隨著模型能力、評估和監管要求的發展,我們的方法將持續演進,我們也將相應地更新前沿治理框架。
前沿治理框架可在此處取得 (在新視窗中開啟) 。

