在2023年生成式人工智能(AI)迅猛發(fā)展的背景下,AI正深刻改變各行各業(yè),并預(yù)示著一個由AI驅(qū)動的未來即將到來。伴隨這一變革而來的是AI治理框架構(gòu)建的緊迫性,以及確保技術(shù)發(fā)展遵循倫理規(guī)范的需求。審計行業(yè)正處于這一變革的核心位置,既面臨著挑戰(zhàn)也迎來了前所未有的機遇。審計師們被寄予厚望,需引導(dǎo)企業(yè)安全、負責(zé)任地采用AI技術(shù),在提升審計效率的同時,堅守誠信與責(zé)任的基本原則。
AI審計面臨的挑戰(zhàn)凸顯
審計師在跟蹤企業(yè)AI應(yīng)用時,主要面臨以下幾項挑戰(zhàn):
- 實戰(zhàn)型AI審計框架缺失:盡管NIST的AI風(fēng)險管理框架及ISACA的COBIT等提供了理論指導(dǎo),但具體操作層面的實戰(zhàn)指南尚不明確。
- 算法復(fù)雜性:AI與機器學(xué)習(xí)的復(fù)雜算法要求審計師具備深入的數(shù)學(xué)與技術(shù)理解。
- 數(shù)據(jù)依賴問題:AI項目對數(shù)據(jù)的高度依賴超出了傳統(tǒng)軟件范疇,覆蓋訓(xùn)練、驗證到推理全過程。
- 生命周期復(fù)雜:AI/ML有其獨特生命周期,涉及多元角色和責(zé)任分配。
- AI技術(shù)快速迭代:尤其是生成式AI的興起,以及對第三方基礎(chǔ)模型的依賴,加劇了透明度與可訪問性的挑戰(zhàn)。
忽視AI審計的潛在后果
根據(jù)經(jīng)合組織AI事故監(jiān)控,全球已記錄超過8,000起AI相關(guān)事故,涉及金融服務(wù)、法律和醫(yī)療等多個領(lǐng)域,年增長率高達1,200%。缺乏適當AI審計的組織將面臨以下風(fēng)險:
- 品牌損害
- 經(jīng)濟損失
- 業(yè)務(wù)中斷
- 法規(guī)違規(guī)
這也是全球監(jiān)管機構(gòu)介入,為負責(zé)任的AI應(yīng)用設(shè)定規(guī)則的原因所在。
為什么要掌握AI審計知識?
隨著AI的企業(yè)級應(yīng)用成為大勢所趨,近年來增長顯著,大型組織或?qū)⒃O(shè)立類似CISO(首席信息安全官)的董事會級別職位——“首席AI安全官”,專注于AI安全。AI審計知識可極大提升IT審計師的職業(yè)生涯:
- 特定領(lǐng)域?qū)iL:展示在快速發(fā)展、高需求AI應(yīng)用的專業(yè)能力。
- 加強風(fēng)險管理:具備識別與緩解AI相關(guān)風(fēng)險的技能,維護運營完整性。
- 戰(zhàn)略洞見:促進基于AI對業(yè)務(wù)影響的明智決策,推動負責(zé)任與高效技術(shù)應(yīng)用。
- 法規(guī)遵從:全球幾乎都在實施AI法規(guī),此知識對于遵循日益嚴格的法律和倫理標準至關(guān)重要。
- 創(chuàng)新推動:鼓勵最優(yōu)且道德的AI使用,激發(fā)組織內(nèi)部創(chuàng)新與效率。
- 領(lǐng)導(dǎo)力機遇:引領(lǐng)最佳AI實踐,塑造組織文化向倫理AI使用傾斜。
- 競爭優(yōu)勢:在就業(yè)市場中,作為前瞻性專業(yè)人士,擅長指導(dǎo)企業(yè)駕馭AI融合的復(fù)雜性。
ISACA近期推出一系列新課程,聚焦人工智能領(lǐng)域,其中特別設(shè)計了一門面向?qū)徲嫀煹腁I入門課程。在原有基礎(chǔ)上,增加了生成式AI及最新的AI監(jiān)管內(nèi)容,對學(xué)習(xí)者而言,尤其寶貴之處在于:
- 深入理解多種AI算法,包含生成式AI。
- 理解AI開發(fā)周期及關(guān)鍵角色定位。
- 掌握FANG審計原則,簡化審計流程。
- 全球AI法規(guī)框架概覽,如NIST、COBIT、歐盟AI法案等。
- 審計第三方AI依賴及最新技術(shù)的策略。
來源:安全牛