IBM與紐約警察局合作開發(fā)了一個人工智能系統(tǒng)

????????警用裝備網(wǎng)訊：?美國公民自由聯(lián)盟透露亞馬遜向當(dāng)?shù)貓?zhí)法部門提供面部識別技術(shù)三個月后，一份新報告顯示，IBM與紐約市警察局合作開發(fā)了一個系統(tǒng)，允許官員通過膚色，頭發(fā)搜索人員顏色，性別，年齡和各種面部特征。

　　Intercept和國家研究所的非營利性調(diào)查基金，引用“機(jī)密公司文件”以及與參與該項目的工程師的訪談，寫道IBM大約10年前開始與紐約曼哈頓下城安全倡議反恐中心合作開發(fā)分析平臺，早些時候在芝加哥市進(jìn)行的實驗。當(dāng)時，IBM是微軟補(bǔ)貼Vexcel的分包商。

　　使用紐約警察局提供的大約50臺攝像機(jī)拍攝的“數(shù)千張”照片，其計算機(jī)視覺系統(tǒng)從16,000個點開始學(xué)習(xí)識別服裝顏色和其他身體特征，此外還有潛在的威脅，如無人值守的包裹，進(jìn)入禁區(qū)的人和汽車加快交通流量。

　　據(jù)報道，NYPD官員早在2012年就對該軟件進(jìn)行了測試，但發(fā)言人Peter Donald告訴Intercept，其過濾工具僅用于“評估目的”，并指示官員排除搜索中的膚色。唐納德表示，各種“當(dāng)選領(lǐng)導(dǎo)人和利益相關(guān)者”都被告知該部門的努力，但細(xì)節(jié)并未公開披露。

　　唐納德還證實，該部門最終選擇不部署該計劃，并且明確拒絕了可以根據(jù)種族搜索人員的改進(jìn)版本。(Intercept指出，IBM的智能視頻分析2.0于2017年發(fā)布，它提供了一種人體攝像頭監(jiān)控功能，可以通過“亞洲”，“黑色”和“白色”等標(biāo)簽自動標(biāo)記人物。

　　“不時向IBM提供視頻，以確保他們開發(fā)的產(chǎn)品能夠在擁擠的紐約市區(qū)環(huán)境中工作，并幫助我們保護(hù)城市。NYPD與IBM達(dá)成的協(xié)議中沒有任何內(nèi)容禁止與IBM共享數(shù)據(jù)以進(jìn)行系統(tǒng)開發(fā)。此外，與NYPD簽訂合同協(xié)議的所有供應(yīng)商都絕對要求在協(xié)議期限內(nèi)，協(xié)議完成后以及協(xié)議終止時保持NYPD提供的所有數(shù)據(jù)的機(jī)密性。

　　“IBM致力于負(fù)責(zé)任地推進(jìn)和使用新技術(shù)，并因其促進(jìn)多樣性和包容性的政策而受到認(rèn)可，”IBM在向VentureBeat提供的一份聲明中寫道?！斑@些價值就是為什么我們向其他公司公開提供超過一百萬張圖片的注釋數(shù)據(jù)集，以幫助解決面部分析中最大的問題之一 - 缺乏訓(xùn)練AI系統(tǒng)的各種數(shù)據(jù)?！?/p>

　　爭議

　　面部識別系統(tǒng)最近受到越來越嚴(yán)格的審查，并且有充分的理由。

　　在7月份，美國公民自由聯(lián)盟(ACLU)證明亞馬遜的認(rèn)可可以在某種程度上進(jìn)行校準(zhǔn)時，將28名國會議員誤認(rèn)為是罪犯。 同時，2012年的一項 研究表明，供應(yīng)商Cognitec的面部算法 對非洲裔美國人的表現(xiàn)比白種人高5%至10%。最近，據(jù)透露，倫敦大都會警察部署的系統(tǒng)每次擊中都會產(chǎn)生多達(dá) 49個假匹配。

　　美國最大的車身攝像頭供應(yīng)商之一Axon的首席執(zhí)行官里克史密斯今年早些時候曾 引述說 面部識別對于執(zhí)法應(yīng)用來說還不夠準(zhǔn)確。

　　他說：“[他們不是]他們需要在面部識別中做出運營決定?！?“在我們認(rèn)為您不希望過早出現(xiàn)并且最終導(dǎo)致技術(shù)故障并帶來災(zāi)難性后果的情況下......或者......有一些無意識的使用案例，在長期使用該條款時，這種情況最終無法公開。技術(shù)?！?/p>

　　在8月的一篇博客文章中，AWS總經(jīng)理馬特·伍德寫道，“新技術(shù)能力始終存在并將永遠(yuǎn)存在風(fēng)險”，組織要“負(fù)責(zé)任地行事”。在今天的聲明中，IBM指出它是“最先采用一系列信任和透明度的新公司之一的公司之一，包括人工智能系統(tǒng)。”

　　然而，批評者 - 包括 微軟總裁布拉德史密斯，他在7月呼吁立法者調(diào)查面部檢測算法并制定指導(dǎo)其使用的政策 - 認(rèn)為他們的努力還遠(yuǎn)遠(yuǎn)不夠。

　　“想象一下，政府會在未經(jīng)您許可或不知情的情況下跟蹤您過去一個月所走過的所有地方。想象一下，每個參加政治集會的人都有一個數(shù)據(jù)庫，這個集會構(gòu)成了言論自由的本質(zhì)。想象一下，使用面部識別的購物中心商店可以相互分享您瀏覽的每個貨架和您購買的產(chǎn)品的信息，而無需先詢問您。長期以來，這一直是科幻小說和流行電影的內(nèi)容 - 如“ 少數(shù)派報告”， “國家的敵人”，甚至是 1984年 - 但現(xiàn)在它已經(jīng)瀕臨變?yōu)榭赡?，“史密斯寫道?/p>

  新聞稿件歡迎直接聯(lián)系：QQ 34004818 微信公眾號：cpsjyzb

相關(guān)閱讀

• 想做電車之狼？即日起鐵路警方嚴(yán)打
• 全國治安管理工作視頻會召開
• 【倒計時10天】警用裝備、無人機(jī)
• 警用多功能腰帶：從工具理性到生命
• 突破！全球首款急救（轉(zhuǎn)運）無人機(jī)
• 第五屆福州國際數(shù)字產(chǎn)品博覽會低空

1 條評論

• 游客  2018-12-30 15:46:32

  美國落后了，受礙于人權(quán)自由。