美國國家標準暨技術研究院(National Institute of Standards and Technology,簡稱NIST)1月下旬發布第一版「人工智慧風險管理框架(Artificial Intelligence Risk Management Framework,簡稱AI RMF)」,期望藉由本文件提供設計、開發、部署及運用人工智慧(Artificial Intelligence,簡稱AI)系統的指引,以降低運用AI技術所衍伸之風險。
NIST說明,AI RMF框架係由NIST與公私領域部門共同合作制訂,其可適用於最新之AI技術,組織可依不同程度與能力導入,不僅可從AI技術獲益,亦可防範其潛在風險。
美國商務部副部長唐格雷夫斯(Don Graves)說明,未來AI RMF將協助美國、其他國家開發與部署AI技術,以強化AI可信度,並根據自身民主價值管理相關風險,並期盼加速AI創新運用與成長。
AI RMF主要區分為兩部分,第一部分探討AI之相關風險與建構可信賴AI系統(trustworthy AI systems)應具備之特徵,第二部分為本文件之核心,置重點於說明治理(Govern)、對照(Map)、評量(Measure) 及管理(Manage)等4大具體功能,協助組織具體實踐AI RMF框架。各功能目標說明如下:
1. 治理(Govern):
說明組織於設計、開發、部署、評估及獲得AI系統等不同階段,應建立與實施風險管理規範
2. 對照(Map):
識別組織導入AI運用,其相關主、從關係與所面臨風險
3. 評量(Measure):
採用定量、定性或混合式工具、技術及方法,來分析、評估、建立測試基準及監控AI風險及相關影響
4. 管理(Manage):
主要根據組織定義之治理規範,參考對照及評量所得結論,將組織可運用資源做妥善分配,以降低AI運用風險
https://www.nist.gov/news-events/news/2023/01/nist-risk-management-framework-aims-improve-trustworthiness-artificial
https://www.nist.gov/itl/ai-risk-management-framework
https://www.gibsondunn.com/nist-releases-first-version-of-ai-risk-management-framework/
國家資通安全研究院整理