科客點(diǎn)評(píng)：老板，你悠著點(diǎn)！

　　6月22日，《大西洋月刊》(The Atlantic)近日刊登了一篇題為《當(dāng)心聆聽(tīng)機(jī)器》(Beware the Listening Machines)的文章。

　　作者伊桑·朱克曼(Ethan Zuckerman)認(rèn)為，聆聽(tīng)機(jī)器可能成為人們的一種監(jiān)聽(tīng)系統(tǒng)，人們應(yīng)該對(duì)此類(lèi)問(wèn)題具有更多的意識(shí)和討論。

　　當(dāng)智能玩具和親切的機(jī)器人可以聆聽(tīng)人們說(shuō)話(huà)并作出反應(yīng)，它們和監(jiān)聽(tīng)系統(tǒng)之間的界限在哪里?

　　在我的生活中，一個(gè)很大的樂(lè)趣是參加我感到好奇但一無(wú)所知的領(lǐng)域的會(huì)議。所以，當(dāng)我的朋友凱特·克勞福德邀請(qǐng)我參加一個(gè)為期一天的“聆聽(tīng)機(jī)器峰會(huì)”，我簡(jiǎn)直無(wú)法拒絕。

　　什么是聆聽(tīng)機(jī)器?一個(gè)很好的例子是芭比娃娃，這種玩具能夠聆聽(tīng)孩子說(shuō)的話(huà)并作出相應(yīng)反應(yīng)。

　　《華盛頓郵報(bào)》在今年3月的一篇文章里這樣描述這種玩具：“在最近的一個(gè)紐約玩具展上，美泰公司的一個(gè)代表在介紹芭比娃娃的最新版本時(shí)說(shuō)：“如果你說(shuō)‘歡迎來(lái)到紐約，芭比娃娃。’芭比娃娃會(huì)回應(yīng)道：‘我愛(ài)紐約!你呢?告訴我你最喜歡這個(gè)城市的哪個(gè)部分?食品、服裝還是景點(diǎn)?”

　　通過(guò)記錄你孩子的問(wèn)題，將它們上傳到一個(gè)語(yǔ)音識(shí)別服務(wù)器，并識(shí)別一個(gè)關(guān)鍵字(“紐約”)，芭比娃娃完成了這個(gè)魔術(shù)。芭比娃娃的制造商ToyTalk利用你孩子的話(huà)語(yǔ)來(lái)幫助他們調(diào)整語(yǔ)音識(shí)別系統(tǒng)，并可能將這些聲音文件存儲(chǔ)下來(lái)以備將來(lái)使用。

　　這就是聆聽(tīng)機(jī)器的伎倆。你可能不希望美泰公司記錄你孩子所說(shuō)的話(huà)，如果你能想象你產(chǎn)生這種心理的原因，那么你應(yīng)該能夠想象到美泰公司使用這些記錄文件時(shí)可能帶來(lái)的危害——聆聽(tīng)系統(tǒng)的濫用或者審訊。(例如：“Siri，我是警察。告訴我們朱克曼先生最近的一百條谷歌搜索記錄。他搜索過(guò)炸彈制造說(shuō)明嗎?”)

　　正如一位發(fā)言人(由于查塔姆宮規(guī)則，我不能告訴你這位發(fā)言人是誰(shuí))，聆聽(tīng)機(jī)器具備監(jiān)聽(tīng)系統(tǒng)所有三個(gè)方面的特征：

　　1.它們無(wú)孔不入，開(kāi)始出現(xiàn)在我們生活的方方面面。

　　2.它們能持續(xù)而無(wú)限期地存儲(chǔ)我們的通話(huà)記錄。

　　3.它們能夠處理收集到的數(shù)據(jù)，試圖理解人們的說(shuō)話(huà)內(nèi)容，并按照它們的理解作出行動(dòng)。

　　為了減少這種監(jiān)聽(tīng)行為令人毛骨悚然的性質(zhì)，聆聽(tīng)系統(tǒng)通常被嵌入迷人、可愛(ài)而令人愉快的設(shè)備：玩具、機(jī)器人和語(yǔ)音助手等。

　　聆聽(tīng)系統(tǒng)的支持者認(rèn)為，它們是技術(shù)更深入地融入我們生活的方式，它們將一步步使計(jì)算機(jī)成為我們的幫手、玩伴和密友。最近有一個(gè)展示共享家庭伴侶機(jī)器人的視頻引發(fā)了很大的爭(zhēng)論，爭(zhēng)論焦點(diǎn)包括我們是否會(huì)想以該產(chǎn)品設(shè)計(jì)的方式與機(jī)器人互動(dòng)，以及一個(gè)足夠強(qiáng)大的機(jī)器人伴侶應(yīng)該如何表現(xiàn)。

　　如果機(jī)器人觀察到人們虐待配偶的行為，它是否應(yīng)該呼叫警察?如果機(jī)器人被設(shè)計(jì)成一個(gè)家庭中所有成員的朋友和知己，但為之付費(fèi)的是母親，我們能夠希望它會(huì)告發(fā)吸食大麻的孩子嗎?(這些問(wèn)題的前提是機(jī)器人足夠聰明，能夠理解和解釋復(fù)雜現(xiàn)象。我們的一個(gè)最好的發(fā)言者認(rèn)為機(jī)器人距離這個(gè)水平的理解力還很遙遠(yuǎn)，但被精心設(shè)計(jì)的機(jī)器人旨在欺騙我們，它讓我們相信它們已經(jīng)具備這種深層理解力。)

　　最重要的問(wèn)題在于，我們是在不知不覺(jué)、不情愿的情況下受到聆聽(tīng)機(jī)器的監(jiān)聽(tīng)。ShotSpotter是一種城市槍聲監(jiān)聽(tīng)系統(tǒng)，如果它將其他事件——如一個(gè)吵鬧的泳池派對(duì)——弄出的響聲當(dāng)作槍聲并招來(lái)警察，你感覺(jué)如何?呼叫中心工作人員已經(jīng)習(xí)慣將他們的通話(huà)記錄下來(lái)，以備上司檢查。如果Uber司機(jī)被要求將他們與顧客的通話(huà)記錄下來(lái)以備檢查，那將會(huì)怎樣?邀請(qǐng)聆聽(tīng)機(jī)器進(jìn)入你的生活，信任Siri或可愛(ài)的機(jī)器人伴侶是一回事情，而接受雇主或當(dāng)?shù)貓?zhí)法機(jī)關(guān)安裝的機(jī)器的監(jiān)聽(tīng)是完全不同的另一件事。

　　美國(guó)消費(fèi)者監(jiān)管機(jī)構(gòu)的一個(gè)代表對(duì)此作了很好的發(fā)言，她在發(fā)言中概述了一些有可能被用來(lái)監(jiān)管聆聽(tīng)機(jī)器的現(xiàn)行法律和法規(guī)。盡管美國(guó)并沒(méi)有許多歐洲國(guó)家那樣全面的隱私立法，但它也有一些特定部門(mén)的法律可以用來(lái)防止濫用監(jiān)聽(tīng)機(jī)器：兒童在線隱私保護(hù)法(Children's Online Privacy Protection Act)、公平信用報(bào)告法(Fair Credit Reporting Act)和HIPA等。

　　她指出，美國(guó)聯(lián)邦貿(mào)易委員會(huì)已經(jīng)針對(duì)電子監(jiān)視系統(tǒng)采取了兩項(xiàng)行動(dòng)，以防止“商務(wù)活動(dòng)中的不公平和欺騙行為”，如某些商家在出租的筆記本電腦中安裝侵犯隱私的拍照軟件。美國(guó)聯(lián)邦貿(mào)易委員會(huì)認(rèn)為，這是對(duì)消費(fèi)者真實(shí)而具體的危害。

　　我發(fā)現(xiàn)，現(xiàn)有的法規(guī)和公平理念可以為監(jiān)管聆聽(tīng)機(jī)器提供一個(gè)框架，但我還是不會(huì)聆聽(tīng)機(jī)器。拋開(kāi)執(zhí)法方面方面的問(wèn)題不論，我懷疑這些理念是否能夠?yàn)樗伎捡雎?tīng)機(jī)器的未來(lái)監(jiān)管提供一個(gè)強(qiáng)有力的框架，因?yàn)槲也幌嘈潘腥硕济靼走@些聆聽(tīng)系統(tǒng)的影響，并預(yù)計(jì)它們未來(lái)可能的發(fā)展。

　　公司發(fā)明新技術(shù)，并將它們推向市場(chǎng)。消費(fèi)者偶爾做出反應(yīng)，如果他們的反應(yīng)足夠大聲，政府監(jiān)管部門(mén)會(huì)介入調(diào)查并敦促公司作出改變。人們有一種感覺(jué)，似乎這是恰當(dāng)一種的過(guò)程，如果采取更強(qiáng)有力的監(jiān)管，也許會(huì)在技術(shù)發(fā)明者展示新技術(shù)的好處之前壓制創(chuàng)新。

　　但這是一個(gè)弱勢(shì)的監(jiān)管模式，監(jiān)管力量在與市場(chǎng)力量的對(duì)比中處于弱勢(shì)。只要產(chǎn)品走上市場(chǎng)，企業(yè)就是盡一切努力說(shuō)服人們：一種新的行為方式將成為新常態(tài)。當(dāng)蘋(píng)果 推出Siri時(shí)，它努力說(shuō)服人們應(yīng)該定期與計(jì)算機(jī)對(duì)話(huà)，以便預(yù)訂晚餐、檢查交通狀況和征求意見(jiàn)。蘋(píng)果可以通過(guò)將Siri預(yù)裝在手機(jī)中并提供免費(fèi)服務(wù)的方式使它變得普及，并為它大力宣傳。

　　也許在未來(lái)某個(gè)時(shí)候，我們會(huì)看到有人起訴蘋(píng)果不當(dāng)使用Siri收集的數(shù)據(jù)。但在近幾年中，蘋(píng)果已經(jīng)贏了:我們正在與電話(huà)交談，分享我們的生活，并在這個(gè)過(guò)程中產(chǎn)生大量數(shù)據(jù)。這里有一個(gè)技術(shù)監(jiān)管有關(guān)的問(wèn)題，我們很少，——如果有的話(huà)，談?wù)撌裁词且粋€(gè)我們想要的技術(shù)世界。

　　我們想要一個(gè)這樣的世界嗎：我們要向我們的電話(huà)吐露自己的秘密?而且，怎么確保企業(yè)恰當(dāng)處理這種新型交互產(chǎn)生的數(shù)據(jù)?(在聆聽(tīng)機(jī)器峰會(huì)上，有明智的政策制定人提出了這樣的建議：機(jī)器人特權(quán)(robot privilege)。這種保護(hù)類(lèi)似于律師與客戶(hù)間的秘密特權(quán)(attorney/client privilege)——簡(jiǎn)單來(lái)說(shuō)，就是律師與客戶(hù)之間的溝通，包括案情分析、訴訟策略、談判方法、事實(shí)陳述等一切通信和言論都是保密的，任何人不得披露。

　　就像一位朋友指出的那樣，這些問(wèn)題不是監(jiān)管的問(wèn)題，而是政策的問(wèn)題。監(jiān)管機(jī)構(gòu)所面臨的挑戰(zhàn)是，在現(xiàn)有的管理框架內(nèi)，我們?nèi)绾未_定哪些技術(shù)產(chǎn)品在進(jìn)入市場(chǎng)之前應(yīng)該受到特殊審查。

　　如果Sir的例子看來(lái)不切實(shí)際或瑣碎，那么我們?cè)傧胂胨怪Z登披露的美國(guó)國(guó)家安全局的數(shù)據(jù)收集計(jì)劃。在這個(gè)事件中，我們?cè)俅慰吹侥欠N推推拉拉(pushmi-pullyu)的監(jiān)管模式，在這種模式的監(jiān)管下，情報(bào)機(jī)構(gòu)拋開(kāi)了公眾意見(jiàn)和國(guó)會(huì)監(jiān)督，現(xiàn)在也僅僅是有所收斂。

　　讓我們看看生物學(xué)界傳來(lái)的消息：一種叫做CRISPR的強(qiáng)大的基因操縱新技術(shù)正在產(chǎn)生革命性的影響。CRISPR使有機(jī)體內(nèi)的基因刪除變得比從前容易得多，生物學(xué)家可以在生物體內(nèi)任意刪除或者添加基因。就其本身而言，CRISPR 正在引發(fā)關(guān)于什么樣的遺傳干預(yù)是適當(dāng)?shù)倪@一問(wèn)題的許多思考。

　　但進(jìn)一步的想法——基因驅(qū)動(dòng)——正在科學(xué)界引起激烈的辯論。使CRISPR具有可遺傳性是可能的，這意味著你不僅可以改變一個(gè)生物體中的基因組，而且可以使它的后代繼承基因組的這種變化。但是，應(yīng)該由誰(shuí)來(lái)做這樣決定。

　　好消息是，已經(jīng)有監(jiān)管機(jī)構(gòu)禁止此類(lèi)研究的先例，而且科學(xué)家一直有激烈討論問(wèn)題以影響決策者的強(qiáng)大傳統(tǒng)。聰明的人們正在爭(zhēng)論基因驅(qū)動(dòng)，我也有幸與該領(lǐng)域的科學(xué)家交談，他們很樂(lè)意與公眾就這項(xiàng)新技術(shù)是否、何時(shí)及以何種方式起作用展開(kāi)對(duì)話(huà)。

　　我們需要IT領(lǐng)域產(chǎn)生一種更好決策文化。我們需要一個(gè)更好的對(duì)話(huà)傳統(tǒng)。我們需要討論的不僅僅是什么是可能的，我們更需要討論的是：什么是值得要的。(騰訊科技，原標(biāo)題：當(dāng)心!蘋(píng)果Siri可能會(huì)成為監(jiān)聽(tīng)機(jī)器)