近日,谷歌研究人員關于人工智能的研究又取得新進展。他們開發出“單次學習”技術,即機器學習不再需要大量的例子學會一件事,僅通過一個例子就能認出圖像中的物體。研究人員稱,他們對深度學習算法進行了一些調整,從而達到了這樣的效果。
在人工智能研究高歌猛進的時候,國際安全極客大賽GeekPwn(極棒)以敏銳的科技洞察力,成為首個大范圍探索人工智能與專業安全領域的平臺,發問人工智能:它真的是那么強大且安全的嗎?如果我們做一些微小的調整,會不會得出與“單次學習”相反的結果?
?
對抗性攻擊使機器學習“指車為船”
當人們處處推崇機器學習的強大性能時,畢業于斯坦福大學,專業研究數據挖掘與人工智能,師從人工智能大師吳恩達的Clarence Chio則注意到深度學習的漏洞。Clarence Chio在10月24日GeekPwn2016嘉年華上,分享了他對于人工智能安全性的最新研究觀點,他表示,我們可以通過對抗性攻擊,觸發機器學習的模型,讓它做出錯誤的決策。
同樣,來自OpenAi的生成式對抗性網絡的發明者Ian Goodfellow、谷歌大腦軟件工程師團隊的核心成員Alexey Kurakin,在GeekPwn2016嘉年華硅谷站,也分享了他們關于對抗性圖像的研究。比如,通過在圖片中加入一些對抗性干擾,機器就有可能將一輛汽車看作一條船。
GeekPwn首創人工智能Pwn,用未來視角看安全
自圖靈提起“機器能否思考”的假說,如今已過去60多年。人們關于人工智能的研究也不斷取得突破,擊敗卡斯珀羅夫的IBM“深藍”被許多人視為人工智能研究的里程碑,谷歌AlphaGo大敗李世石,更是標志著人工智能由“弱人工智能”向“超級人工智能”的高速進化。
然而,人類似乎一直都是個矛盾體,一方面將人工智能應用于各種領域“解放”人類,另一方面又恐懼人類被人工智能所代替或毀滅。《黑客帝國》《她》《終結者》等人工智能題材的電影,或多或少都體現了這種恐懼和擔憂。
作為全球首個探索人工智能與專業安全的平臺——極棒開創人工智能Pwn,關注到機器學習、視覺識別等人工智能最炙手可熱的技術安全研究,重新思考人工智能的安全問題,思考黑客在未來技術發展創新中所扮演的角色及作用。
萬物互聯皆可Pwn,將物聯網安全做到極致
據媒體公開報道,今年10月美國遭受到大規模DDOS攻擊,整個網絡陷入“癱瘓”,攻擊源頭則是智能家居產品組成的“僵尸物聯網”,即成千上萬的物聯網設備在黑客的控制下,大量發送通信請求,導致域名服務器癱瘓。
在GeekPwn2016嘉年華上海站,鳳凰解碼團隊現場演示了操控智能插座發微博,形象的展示了物聯網設備被黑的后果。來自卡巴斯基的安全專家Denis Makrushin和Vladimir Dashchenko,也對“智能城市”公共設施安全隱患進行了全面剖析。他們演示了從城市街道的終端設備,如自動售票機、移動設備充電站、公共支付端,到大部分支付服務的電腦終端,從市政廳到機場,從出租車后座顯示器到高速公路攝像頭等一系列破解。
自2014年舉辦以來,GeekPwn始終關注物聯網設備安全,從第一屆的智能門鎖、路由器破解到第二屆的無人機、POS機、智能攝像頭、O2O移動支付項目破解,再到今年的仿人機器人、智能插座、“手機的最后一道防線”TrustZone被攻破,GeekPwn幾乎把能“黑”的智能設備都“黑”了,將物聯網安全做到了極致。
做物聯網時代安全生態的連接平臺
極棒經過三年發展,已經搭建起一個安全人才,安全廠商之間相互促進,用技術推動物聯網安全生態發展的多維連接平臺。白帽黑客與廠商通過GeekPwn可以平等溝通。白帽黑客來到極棒不僅可以展示才華,更能“負責任的披露”,將產品漏洞提交給廠商,解決實際問題。面對日益嚴峻的網絡安全形勢,來自外部安全社區的力量不可忽視,白帽黑客為智能安全帶來了新思路,在提高產品安全上更具啟發性。
極棒將繼續貼近生活,關注物聯網安全,同時也將極端面向未來。在首次嘗試人工智能Pwn后,王琦表達了極棒的未來目標:“極棒將繼續引領創新,引導有才華橫溢的極客發現一些更未來的問題,做一些更前沿的東西?!?/p>