Google Now “為善主義”的界限 The Folly of Technological Solutionism

谷歌“為善主義”的界限
學者葉夫根尼•莫羅佐夫為英國《金融時報》撰稿



奧斯卡•王爾德(Oscar Wilde)曾寫道：“世界未來係於機械奴隸制、奴隸制的機器”。如果放在今天，這名愛爾蘭作家可能會成為Google Now的擁躉。這是網絡公司谷歌(Google)推出的產品，旨在與蘋果(Apple)犀利的聲控虛擬個人助理Siri競爭。

Google Now不像Siri那麼誇誇其談。它能通過分析谷歌手中關於你的現有信息，為你的問題預先準備好答案。然後它會選取你目前所需要的信息的片段，以優美的索引卡的形式呈現出來。目前谷歌在安卓(Android)手機上推出了Google Now，可能不久也會推出瀏覽器版。

這是典型的減少繁瑣事務的機器。稍後要趕飛機？由於你的訂票信息保留在谷歌郵箱或者谷歌日曆中，Google Now將顯示提醒，告訴你抵達目的地時天氣如何，指出前往機場的最佳路線，提前檢查路況。

這一切之所以成為可能，是因為谷歌能夠預測你的信息需求。其預測基於某些關於你的身份、需求、想去什麼目的地的理論。對於很多活動而言，這一理論無需很深奧就能產生精確的預測。谷歌不必猜測你的政治立場就能注意到，你經常在周一開車去機場。

但最新版Google Now也生成了完全不同的提示。每個月末，谷歌都會愉快地報告（你甚至從未問過！）你步行了或者騎車了多少英里。這種干預可就不是天氣狀況之類的小事了。在這裡，谷歌假設，與開車之類的方式相比，走路更加重要，或許更加道德。它明確無誤地在其應用上“烙上了”道德標籤，這種做法可被稱為“算法說服”(algorithmic nudging)。

如果政府提倡這種監視式的干預，很多人會感覺受到了侵擾，不僅因為其條款必須接受公共辯論。我們是在衡量正確的事情嗎？我們是否把機構失敗不公平地歸咎於個人？毫無疑問，在曼哈頓走路比在洛杉磯郊區走路容易多了。

然而，在谷歌“掌舵”的情況下，此舉遭遇到的抵制很小。我們並不介意自己的手機在始終“監視”著我們——至少在谷歌需要使用這些數據告訴我們航班延誤時如此。同樣，我們也採信這樣的觀點，即谷歌重塑其收集到的信息的努力是客觀的，這些信息本來就“存在於自然”，不受記錄設備或測量系統的影響。

谷歌為善的威力和誘惑只會與日俱增。隨著谷歌的各項服務整合為一體——地圖、郵箱、日曆、視頻、圖書，谷歌越來越了解我們在道德上的失敗之處。隨著谷歌開始通過其無人駕駛汽車、智能眼鏡、智能手機等產品介入我們與建成環境之間的互動，“算法說服”的空間也在擴大。

谷歌並不隱瞞其目標。正如穀歌執行董事長埃里克•施密特(Eric Sc​​hmidt)所言：“科技不再僅僅涵蓋硬件和軟件。它其實已經可以挖掘、利用龐雜的數據，把世界變得更加美好。”

政策制定者可能也感興趣，因為谷歌能夠進一步發揮“說服”的作用——把行為經濟學應用到政策中。 （“說服”的一個例子是變更退休金存款的默認選項。）在最近一篇論文中，曾供職於奧巴馬政府的官員凱斯•桑斯坦(Cass Sunstein)歡呼這種更加個性化的新默認選項在信息量龐大的世界中成為可能。谷歌有望成為他的天然盟友。

設想一下，你戴著谷歌的最新發明——智能眼鏡——外出就餐。你一踏入餐廳，谷歌就已經知道你是否達到了當天的卡路里目標。它還知道高脂肪食物對你身體不好。谷歌應該扮演發善心的大哥、告訴你要避免吃哪道菜嗎？它應該隱藏掉這些菜名嗎？你為什麼在抵制誘惑？
在一個谷歌主宰的世界裡，也沒有必要禁止超大杯蘇打飲料，因為智能眼鏡可以讓你認為，手裡拿的蘇打飲料杯子比實際體積大。這不是科幻小說：日本的研究人員最近推出了一種頭戴式光學系統，真的能對食物份量產生這種效果。

此類技術給人類主人帶來一種相當悲哀的形象。人類不再被視為能夠思考的公民，而是在一個痴迷於自我優化的系統中被當作螺絲釘，彷彿該系統本身的構成是沒有爭議的。

但是，高唱賦權於個人的谷歌，能比政府主導的改革更好地抗擊肥胖或者氣候變化嗎？企業主導的“算法說服”宣傳這樣的錯覺：單靠個人行動就能解決問題。這是奧普拉•溫弗瑞(Oprah Winfrey)式的社會變革——一場矽谷(Silicon Valley)幻想。

就像企業會做的那樣，谷歌把我們當作效用最大化的消費者，而不是會關心社區其他成員的公民。但我們作為公民，是不是也應該考慮那些吃不起健康食品、或者無法生活在步行就能去農產品市場的地方的人們？或者我們只給他們一部安卓手機就夠了嗎？


我們必須給企業的為善主義設定清晰的界限，保護我們的政治進程不受善意的谷歌工程師的干擾。或許，這些工程師可以構建一張卡片，提醒政客時刻記住我們投票選擇他們的原因。




本文作者著有《拯救一切，點擊此處：技術解決方案主義的愚蠢》(To Save Everything, Click Here: The Folly of Technological Solutionism)一書

To Save Everything, Click Here: The Folly of Technological Solutionism [Hardcover]

Evgeny Morozov (Author)

• Hardcover: 432 pages
• Publisher: PublicAffairs (March 5, 2013)

 

 Our society is at a crossroads. Smart technology is transforming our world, making many aspects of our lives more convenient, efficient and—in some cases—fun. Better and cheaper sensors can now be embedded in almost everything, and technologies can log the products we buy and the way we use them. But, argues Evgeny Morozov, technology is having a more profound effect on us: it is changing the way we understand human society.

In the very near future, technological systems will allow us to make large-scale and sophisticated interventions into many more areas of public life. These are the discourses by which we have always defined our civilization: politics, culture, public debate, morality, humanism. But how will these disciplines be affected when we delegate much of the responsibility for them to technology? The temptation of the digital age is to fix everything—from crime to corruption to pollution to obesity—by digitally quantifying, tracking, or gamifiying behavior. But when we change the motivations for our moral, ethical and civic behavior, do we also change the very nature of that behavior? Technology, Morozov proposes, can be a force for improvement—but only if we abandon the idea that it is necessarily revolutionary and instead genuinely interrogate why and how we are using it.

From urging us to drop outdated ideas of the Internet to showing how to design more humane and democratic technological solutions, To Save Everything, Click Here is about why we will always need to consider the consequences of the way we use technology.

 

譯者/倪衛國