2001年的9/11恐襲迅猛推高了全世界的安全意識,尤其是事發(fā)地紐約。紐約警局(NPYD)在遇襲后的10年里大幅增強了其監(jiān)視能力。
最近一份報告宣稱,IBM利用這些攝像頭的數(shù)據(jù),訓(xùn)練其視頻監(jiān)視軟件根據(jù)膚色來給人打標簽。
據(jù)泄密網(wǎng)站 The Intercept 的消息,9/11之后司法機構(gòu)對IBM視頻分析軟件的需求急劇上升。因為能夠運用對象識別技術(shù)標記人員,該軟件可集成進公共攝像頭以搜索恐怖分子嫌疑人。另外,無人看管的行李、非法侵入者等等也可以用這套軟件加以識別。
自動化該識別過程可以讓用戶迅速搜索時長數(shù)小時的錄像,找出匹配特定描述的個人。
The Intercept 已經(jīng)看過了揭示IBM開始接入NYPD攝像頭網(wǎng)絡(luò)開發(fā)其軟件的機密文檔。
警局在郵件中稱,我們不時提供視頻給IBM以確保他們正在開發(fā)的產(chǎn)品適用于紐約市人流密集的環(huán)境,幫助我們保衛(wèi)這座城市。NYPD與IBM簽訂的協(xié)議中沒有禁止出于系統(tǒng)開發(fā)目的的數(shù)據(jù)共享。
另外,與NYPD簽約的所有供應(yīng)商都被要求在協(xié)議存續(xù)期間、履約后和意外終止時,均保證NYPD提供的數(shù)據(jù)是保密的。
NYPD證實,一些反恐警官早在2012年夏天就可使用帶膚色識別功能的預(yù)發(fā)布版本。盡管發(fā)言人 Peter Donald 說警官們被指示不要用這個功能來做判斷。
警局一直沒用上這款分析軟件,并在2016年結(jié)束了與IBM的合作。Donald稱他沒發(fā)現(xiàn)有任何案例在逮捕或起訴中使用了IBM技術(shù)。
IBM在2016年底或2017年初開發(fā)了2.0版本,新增根據(jù)種族追蹤并提供諸如“亞洲”、“白種”或“黑種”等標簽的功能。據(jù)Donald所言,警局“因為該帶種族歧視的功能而明確拒絕了該產(chǎn)品。”
其他組織機構(gòu)并沒有這種愧疚感。加州大學(xué)北嶺分校的校警就表示,他們一直在用帶這項功能的IBM工具跟蹤罪犯,有時候甚至用于監(jiān)視學(xué)生抗議者。
與人臉識別技術(shù)不同,對象識別幾乎不在隱私維權(quán)人士的雷達范圍內(nèi)。但公民自由倡導(dǎo)者如今宣稱,已經(jīng)注意到了大規(guī)模種族形象定性的可能性。
技術(shù)無罪,但有可能被濫用。
無論作惡者是不是穆斯林,通常都會假設(shè)他/她是。不難想象,司法機構(gòu)會直接得出有關(guān)嫌疑人種族和宗教信仰身份的結(jié)論,匆忙查詢視頻數(shù)據(jù)庫并梳理出符合該外形描述的人,然后招人進來問詢。
對象識別系統(tǒng)可能僅僅因為符合了一些常見外形特征,就不公正地指認某人是疑犯。
比如說,給出一個籠統(tǒng)的描述,類似“穿兜帽衫的年輕黑人男性”這種,該軟件的內(nèi)部算法會標識出視頻中距離事發(fā)現(xiàn)場幾個街區(qū)的某行人。警察找個借口攔下他,說他符合之前某事件嫌疑人的特征描述什么的。
而且,NYPD幫助IBM的方式,已經(jīng)設(shè)立了一個危險的先例:
沒什么事是真正意義上的“別人家的事”。公共空間里也不用期待會有什么隱私。于是,如何打造工具來實現(xiàn)監(jiān)視就值得商榷了。這也正是為什么此類知識應(yīng)更為廣而告之的原因所在——為方便找出真正的解決方案。
揭示IBM開始接入NYPD攝像頭網(wǎng)絡(luò)開發(fā)其軟件的機密文檔原文:
www.documentcloud.org/documents/4452844-IBM-SVS-Analytics-4-0-Plan-Update-for-NYPD-6.html