亚洲日本免费-啊轻点灬太粗太长了三男一女-麻豆av电影在线观看-日韩一级片毛片|www.grbbt.com

麻省理工學院（MIT）研究人員近日發(fā)布了一個號稱迄今為止最全面的AI風險動態(tài)數(shù)據(jù)庫，涵蓋了43大AI風險類別共計777種AI風險。

這是業(yè)界首次嘗試全面整理、分析和提取人工智能風險，并整合成一個公開可訪問、全面、可擴展的分類風險數(shù)據(jù)庫。為業(yè)界統(tǒng)一定義、審計和管理人工智能風險奠定了基礎。

對于從事AI安全和治理的專業(yè)人士來說，這是一個不可或缺的知識庫，可用于創(chuàng)建自己（所在企業(yè)）的個性化風險數(shù)據(jù)庫。

AI風險數(shù)據(jù)庫 來源：MIT

MIT科技評論的一篇文章指出，AI技術(shù)應用面臨多種危險，系統(tǒng)可能存在偏見、傳播錯誤信息，甚至具有成癮性。這些風險只是冰山一角，AI還有可能被用于制造生物或化學武器，甚至在未來失控，造成難以挽回的災難性后果。

AI風險全景圖

為了滿足AI風險治理的迫切需求，MIT的計算機科學與人工智能實驗室（CSAIL）下屬的FutureTech團隊著手開發(fā)了“全覆蓋”AI風險數(shù)據(jù)庫。

據(jù)CSAIL網(wǎng)站發(fā)布的新聞，研究人員在現(xiàn)有的AI風險框架中發(fā)現(xiàn)了大量嚴重漏洞，現(xiàn)有的最詳盡的AI風險框架（例如NIST、谷歌和歐盟發(fā)布的框架）也僅涵蓋了所有風險的約70%。因此，項目負責人Peter Slattery博士擔心決策者可能會因為認知偏差而忽略重要問題，從而形成集體決策盲區(qū)。

MIT的AI風險數(shù)據(jù)庫旨在為學者、安全審計人員、政策制定者、AI公司和公眾提供關(guān)于AI風險“全景圖”，為研究、開發(fā)和治理AI系統(tǒng)提供了一個統(tǒng)一的參考框架。該數(shù)據(jù)庫由三部分組成：AI風險數(shù)據(jù)庫、AI風險因果分類法以及AI風險領(lǐng)域分類法，具體如下：

• AI風險數(shù)據(jù)庫：記錄了從43種現(xiàn)有框架中提取的700多種風險，并附有相關(guān)引用和頁碼。
• AI風險因果分類法：分類AI風險發(fā)生的方式、時間和原因。
• AI風險領(lǐng)域分類法：將風險分為七大領(lǐng)域和23個子領(lǐng)域，涵蓋歧視與有害內(nèi)容、隱私與安全、虛假信息、惡意行為者及誤用、人機交互、社會經(jīng)濟與環(huán)境危害、AI系統(tǒng)安全與故障等。

AI治理的利器

Info-Tech研究集團首席研究總監(jiān)Brian Jackson認為，AI風險數(shù)據(jù)庫對負責AI治理的企業(yè)領(lǐng)導者來說極具價值。它不僅幫助企業(yè)識別新的AI風險，還可以作為制定具體治理策略的基礎工具。此外，該數(shù)據(jù)庫以Google Sheets的形式提供，便于各組織根據(jù)自己的需求進行定制。

AI風險數(shù)據(jù)庫的功能和適用場景如下：

通用功能：

• 吸納新成員進入AI風險領(lǐng)域。
• 為復雜項目奠定基礎。
• 為開發(fā)更細化或特定的分類體系提供信息支持（例如，系統(tǒng)性風險或歐盟相關(guān)的虛假信息風險）。
• 利用分類體系進行優(yōu)先級排序（如通過專家評分）、綜合分析（如進行審查）或比較（如跨領(lǐng)域探討公眾關(guān)注點）。
• 識別被忽視的領(lǐng)域（如AI的福利和權(quán)利）。

適用人群和場景：

• 政策制定者：用于制定法規(guī)和共享標準的開發(fā)。
• 審計人員：開發(fā)AI系統(tǒng)的審計標準。
• 學術(shù)界：識別研究空白，開發(fā)教育和培訓。
• 行業(yè)：內(nèi)部評估和準備AI風險，制定相關(guān)戰(zhàn)略、教育和培訓。

盡管數(shù)據(jù)庫還存在一些限制，例如依賴現(xiàn)有的43種分類法，可能遺漏新興的特定領(lǐng)域風險，但MIT的研究人員表示，這項工作為未來的AI風險評估奠定了基礎，促進了更協(xié)調(diào)和全面的風險管理方法。

展望未來：AI治理的新篇章

面對AI技術(shù)的野蠻生長和潛在風險的快速累積，越來越多的企業(yè)和機構(gòu)在部署AI應用時更加謹慎，并渴望提高嚴重滯后的AI風險治理能力。

MIT發(fā)布的AI風險數(shù)據(jù)庫為AI的健康發(fā)展提供了全方位的風險地圖，標志著AI治理的新篇章已經(jīng)開啟。

Gartner副總裁分析師Bart Willemsen指出，這項研究是邁向更深入理解AI技術(shù)風險的重要一步。他期待未來的版本能夠不僅列出AI風險，還能提供相關(guān)的緩解措施，為行業(yè)應用提供最佳實踐指南。

參考鏈接：

https://cdn.prod.website-files.com/669550d38372f33552d2516e/66bc918b580467717e194940_The%20AI%20Risk%20Repository_13_8_2024.pdf

AI風險數(shù)據(jù)庫：

http://airisk.mit.edu/

聲明：本文來自GoUpSec，稿件和圖片版權(quán)均歸原作者所有。所涉觀點不代表東方安全立場，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請聯(lián)系rhliu@skdlabs.com，我們將及時按原作者或權(quán)利人的意愿予以更正。