書名：人工智慧最後的祕密：權力、政治、人類的代價，科技產業和國家機器如何聯手打造AI神話？

作者簡介

姓名：凱特•克勞馥Kate Crawford
微軟研究院（Microsoft Research）資深首席研究員、巴黎高等師範學院（École Normale Supérieure）「人工智慧與正義」課程首任主席、墨爾本大學明古尼雅特聘訪問學者（Miengunyah Distinguished Visiting Fellowship）。紐約大學AI Now研究院（AI Now Institute）共同創辦人，領導機器學習基金會（Foundations of Machine Learning）國際工作小組。

譯者簡介

姓名：呂奕欣

師大翻譯所筆譯組畢業，曾任職於出版公司與金融業，現專事翻譯。

書籍目錄

【序言】
世界上最聰明的馬
什麼是人工智慧？既非人工的，也不是智慧的
把人工智慧視為一部地圖集
運算地形學
採掘、權力與政治

【第一章 地球】
為人工智慧採礦
運算的地景
礦物層次
黑色湖泊與白色乳膠
潔淨科技的迷思
物流層次
人工智慧即巨機器

【第二章 勞工】
人工智慧出現之前的工作場所
波坦金人工智慧與「土耳其機器人」
肢解線與工作場所自動化的願景：巴貝奇、福特和泰勒
肉品市場
管理時間，私有化時間
私有時間
設定速度

【第三章 資料】
訓練機器觀看
資料需求簡史
擷取臉部
從Internet到ImageNet
不必再取得同意
資料的迷思與隱喻
與倫理保持距離
擷取共有財

【第四章 分類】
循環邏輯系統
去偏誤系統的侷限
關於偏誤的多種定義
訓練集作為分類引擎：以ImageNet為例
對「人」下定義的權力
建構種族和性別
測量的侷限性

【第五章 情感】
情緒先知：當感覺化為利益
「世界上最著名的臉部解讀者」
情感：從面相學到攝影
捕捉感覺：表現情緒的詭計
關於艾克曼理論的多項批評
臉部的政治

【第六章 國家】
進行第三次抵銷
行家計畫的實行
委外的國家
從恐怖分子信用評分到社會信用評分
纏結的乾草堆

【結語 權力】
沒有邊界的遊戲
人工智慧的管線
地圖不是領土
邁向正義的連結運動

【尾聲 太空】

致謝
參考書目

文章試閱

波音七五七飛機在聖荷西上空往右傾斜，準備降落在舊金山國際機場。飛機對齊跑道時，左機翼往下，於是我能鳥瞰整個科技業最具象徵意義的地點：下方是矽谷的大帝國。Apple總部是巨大的黑色圓圈，像個未加蓋的相機鏡頭在陽光下閃耀發光。然後是Google總部，緊鄰著美國航太總署（NASA）莫菲特聯邦機場（Moffett Federal Airfield）。這裡曾是美國海軍在二戰和韓戰期間的重要基地，後來Google租用六十年，高階主管將私人飛機停在這裡。排列在Google附近的是洛克希德・馬丁（Lockheed Martin）的大型生產棚，這家航太暨軍火製造公司在那裡建造了數百枚軌道衛星，用於俯視地球上的活動。接下來在鄧巴頓大橋（Dumbarton Bridge）旁有幾棟矮墩墩的建物，那是臉書所在地，周圍有廣大的停車場，附近就是雷文斯伍沼澤（Ravenswood Slough）飄著硫磺味的鹽湖。從這個制高點觀看帕拉奧圖（Palo Alto），只會看到平凡無奇的郊區死巷和不太高的工業建築天際線，看不出這裡真正掌握的財富、權力和影響。只有些許線索透露出這裡在全球經濟和運算基礎設施中的中心地位。
我來到這裡了解關於人工智慧的知識，以及人工智慧是由什麼製造而成。為了明白這一點，我也得離開矽谷。
我從機場跳上廂型車，往東行駛，穿越聖馬提歐―海沃大橋（San Mateo–Hayward Bridge），經過勞倫斯利佛摩國家實驗室（Lawrence Livermore National Laboratory），愛德華・泰勒（Edward Teller）在二戰後的幾年裡就在這裡指導氫彈研究。沒多久，就看見內華達山脈的山麓在中央谷地（Central Valley）的史塔克頓市（Stockton）和曼提加市（Manteca）後方聳立。道路由此開始蜿蜒而上，穿過索諾拉隘口（Sonora Pass）高聳的花崗岩懸崖，沿著山岳東側往下，朝著山谷前進，綠油油的草地上有金英花點綴。松林消失，眼前成了莫諾湖（Mono Lake）的鹼性水域，以及盆地與山脈區（Basin and Range）乾枯的沙漠地形。為了加油，我開車到內華達州霍索恩市（Hawthorne），這裡是世界上最大的軍火庫，美軍把軍火存放在數十個灰塵覆蓋、於谷中整齊排列的金字塔形建築中。沿著內華達二六五號州際公路，我看見遠處有一座孤零零的全（多）向導航太康台（VORTAC），這座看似巨大保齡球瓶的無線電塔是GPS年代之前的設計，它只有一項功能：朝著所有經過的飛機廣播「我在這裡」，偏僻地形中的一處固定參考點。
我的目的地是內華達州克雷頓谷（Clayton Valley）的非建制社區（unincorporated community）銀峰（Silver Peak），這裡約有一百二十五人居住，取決於你如何計算。這是內華達州最古老的採礦小鎮之一。由於金礦和銀礦幾乎開採耗盡，一九一七年後已近乎荒廢。幾棟淘金熱時期的建築依然屹立著，在沙漠驕陽下飽受摧殘。這座城鎮或許很小，廢棄車輛比人還多，卻蘊藏著高度稀有之物。銀峰位於巨大的地下鋰湖邊緣，地表下珍貴的鋰鹵水會打出來，抽到開放的燦綠池子蒸發。如果池塘能捕捉到光線而發出微光，就能從好幾公里外看見這些池塘。靠近之後，又是另一番景象：模樣怪異的黑管子從地面伸出，在鹽結殼的地表上蜿蜒曲折，於淺溝鑽進鑽出，運送含鹽的混合液到乾燥區。
在這裡，內華達州一個偏遠的礦囊，就是製造人工智慧材料的地方。

◎運算的地景

一個夏日午後，我開車穿越沙漠谷地，看看最新的採礦榮景的運作。我讓手機引導我前往鋰鹽湖周邊，手機從儀表板上以白色USB纜線綁好、勉強湊合的固定處回答我。銀峰廣大乾涸的湖床形成於數百萬年前的晚第三紀，湖泊周圍環繞著的結殼層狀結構往上推，深入包含深色石灰岩、綠色石英岩、灰色和紅色板岩的山脊線。這個地區在二戰期間曾開採鉀鹽等戰略礦物，之後發現了鋰。這種柔軟的銀色金屬在接下來五十年裡僅少量開採，直到成為科技業使用的高價值材料，開採量才增加。
二○一四年，化工業者雅保公司（Albemarle Corporation）以六十二億美元收購鋰礦開採公司洛克伍德控股（Rockwood Holdings, Inc.）。這裡是美國唯一一處在開採的鋰礦，引來馬斯克（Elon Musk）和其他許多科技大亨對銀峰的高度興趣，原因在於：可充電電池。鋰是生產充電式電池的關鍵元素。舉例來說，智慧型手機的電池通常含有約八點五公克的鋰，而每一輛特斯拉Model S電動車則需要大約六十二點六公斤的鋰供電池組使用。這類電池從來不是打算給像汽車一樣耗電的機械使用，但鋰電池是目前大眾市場上唯一的選擇。所有這些電池的壽命都有限，一旦衰退，只能當成垃圾丟棄。
特斯拉內華達超級工廠（Tesla Gigafactory）位於銀峰以北約三百二十公里處，是世界上最大的鋰電池工廠。特斯拉是全球最大的鋰電池消費者，每年從Panasonic和三星（Samsung）採購大量鋰電池，重新包裝於汽車和家用充電器中。根據估計，特斯拉每年使用超過兩萬八千噸氫氧化鋰，占全球總消費量的一半。事實上，更準確地說，特斯拉與其說是汽車公司，不如說是電池公司。鎳、銅、鋰等重要礦物面臨短缺會對公司帶來風險，使得銀峰的鋰鹽湖更令人覬覦。若能掌控這處礦場，就表示能掌控美國的國內需求。
正如許多人所指出的，電動車遠非解決二氧化碳排放量的完美方案。電池供應鏈的採礦、冶煉、出口、組裝和運輸對環境造成重大的負面影響，接下來又因為電池衰退而影響社群。少數家庭利用太陽能系統自行發電，但從絕大部分情況來看，為電動車充電需要從電網取得電力，而美國目前來自再生能源的電力占比不到五分之一。截至目前為止，這一切都阻擋不了眾多車廠與特斯拉競爭的決心，造成電池市場越來越大的壓力，並且導致原本已稀少的必需礦物存量加速消耗。
全球運算和商業很仰賴電池。「人工智慧」一詞會讓人想起演算法、數據、雲端架構的概念，但如果少了建構運算核心元件的礦物和資源，上述概念都無法發揮功能。充電式鋰離子電池是行動裝置、筆電、家庭數位助理和資料中心備援電力不可或缺的，也支撐著網際網路和所有在網路上運作的商業平台，從銀行、零售到股市交易。現代生活許多層面已轉到「雲端」，卻鮮少考量這些材料的成本。我們的工作和個人生活、病史、休閒時間、娛樂、政治利益，所有這一切都在網路化運算架構的世界裡發生，我們從在一隻手上拿著的裝置善用它，而鋰就是這些裝置的核心。
在人工智慧領域，採礦既可依字面意義理解，也是比喻性的修辭。資料探勘的新採掘主義（new extractivism）也包含並推動了傳統採礦的舊採掘主義。為人工智慧系統提供動力所需的堆疊（stack），遠遠超出了資料建模、硬體、伺服器和網路構成的多層技術堆疊。人工智慧供應鏈的完整堆疊涉及資本、勞工和地球資源，而且對每一種的需求量都很巨大。雲端是人工智慧產業的骨幹，而那是由岩石、鋰鹵水和原油構成。
在《媒體地質學》（A Geology of Media）這本著作中，理論家帕瑞卡（Jussi Parikka）表示，我們不應該從麥克魯漢（Marshall McLuhan）的觀點來思考媒體——在他的眼中，媒體是人類感官的延伸——而是該從地球的延伸來思考。運算媒體如今參與地質（和氣候學）的過程，從地球的材料轉變到基礎設施和裝置，並以石油和天然氣儲備為這些新系統提供動力。若以地質過程的觀點來思考媒體和科技，我們就會發現驅動目前科技的不可再生資源正快速枯竭。在一套人工智慧系統所延伸的網路中，從網路路由器、電池到資料中心，每一項物件都是使用需要數十億年才能在地球內部形成的元素建構。
從深時觀點來看，我們正榨取地球漫長的地質歷程，服務當代科技時間的一瞬間，做出亞馬遜Echo和iPhone這類通常只能使用幾年的裝置。美國消費者技術協會（Consumer Technology Association）指出，智慧型手機的平均使用年限只有四點七年。這個汰舊週期讓人購買更多裝置，提高企業利潤，增加運用非永續性採掘作法的誘因。經過緩慢的開發過程之後，這些礦物、元素和材料經歷非常快速的開採、加工、混合、冶煉和物流運輸的時期，在轉變過程中跨越了數千英里。原始礦物從土地上移除，丟棄廢渣和尾礦之後，被製成可以使用和丟棄的裝置，最後埋到迦納或巴基斯坦等地的電子垃圾掩埋場。人工智慧系統從誕生到死亡的生命週期有許多碎形供應鏈：人工和自然資源的剝削林林總總，還有企業和地緣政治權力的大規模集中。而在整條供應鏈上，持續且大規模的能源消耗讓這個週期得以不斷運行。
舊金山科技業的作法，呼應著當年這座城市賴以建立的採掘主義。人工智慧龐大的生態系統仰賴多種採掘方式：從收集我們日常活動和表情所產生的資料到耗盡自然資源，乃至剝削全球各地的勞工，以建立和維護這個龐大的行星網路。人工智慧從我們和地球上採掘的東西，遠比眾所周知的更多。舊金山灣區是人工智慧神話的中心節點，但我們必須到與美國距離遙遠之處，才能看到提供動力讓科技業運行的人類和環境破壞的層層遺害。

◎黑色湖泊與白色乳膠

包頭是內蒙古最大的城市，這裡有一座人工湖，裡面充滿有毒的黑泥。它散發出硫磺惡臭，一望無際，直徑超過八點八公里。這座烏黑的湖泊含有超過一億八千萬噸選礦（ore processing）產生的廢粉，來自附近白雲鄂博礦區的廢物徑流。根據估計，這座礦區含有全球近七成的稀土礦產儲量，是地球上最大的稀土元素礦床。
世界上百分之九十五的稀土礦產由中國供應。如作家莫恩（Tim Maughan）所言，中國能成為市場龍頭與其說是地質因素，不如說是中國願意承擔採掘對環境造成的傷害。雖然釹和鈰等稀土礦物相對常見，但要讓這些礦物能使用，必須運用會造成危害的過程，將它們溶解在大量的硫酸和硝酸中。這些酸液造成有毒廢水蓄積，填滿包頭的死水湖。環境研究學者赫德（Myra Hird）稱這種地方充滿「我們想遺忘的廢棄物」，包頭只是其中一地。
迄今為止，稀土元素在電子、光學和磁性方面有獨一無二的用途，任何其他金屬都無法匹敵，但可用礦物與有毒廢棄物的比例卻很極端。自然資源策略專家大衛・亞伯拉罕（David Abraham）談到在中國江西開採鏑和鋱的情況，它們用於各種高科技裝置。他寫道：「開採出來的黏土中僅百分之零點二含有珍貴的稀土元素。這表示，開採稀土元素時，百分之九十九點八去除的泥土被當成廢棄物丟棄，這些稱為『尾礦』的土被傾倒回山丘和溪流」，產生銨等新汙染物。為了提煉一噸稀土元素，「中國稀土學會估計，這過程會產生七萬五千公升酸性水，以及一噸的放射性殘留物」。
在包頭以南約四千八百公里處，是印尼蘇門答臘海岸附近的小島邦加島（Bangka）和勿里洞島（Belitung）。邦加島和勿里洞島生產的錫占印尼的百分之九十，用於半導體。印尼是僅次於中國的世界第二大產錫國，印尼國有錫業集團公司（PT Timah）直接供應三星等公司，也供應晟楠、昇貿等焊錫材料廠，這些廠商之後再供應產品給索尼（Sony）、LG、富士康——這些都是Apple、特斯拉和亞馬遜的供應商。
在這些小島上，未得到正式雇用的灰市礦工坐在臨時湊合成的浮式碼頭上，用竹篙刮海床，然後潛入水下，用類似真空管的巨型管子深吸氣，吸取海底的錫。礦工把找到的錫賣給仲介者，而這些仲介者也從在經授權的礦場工作的礦工那裡收集礦石，把兩種來源的錫混合起來，出售給錫業集團公司之類的企業。由於完全不受監管，這過程在沒有任何正式工人或環境保護的情況下展開。正如調查記者何黛爾（Kate Hodal）的報導，「錫礦採掘是有利可圖卻具毀滅性的交易，破壞了這座島的景觀、夷平農場和森林，殺死了魚群和珊瑚礁，對觀光業棕櫚樹成蔭的美麗海灘帶來不利的影響。從空中鳥瞰最能看出損害程度，蓊鬱的森林被大片光禿禿的橘色土地包圍。在沒有礦場聳立的地方，布滿坑坑巴巴的墳墓，許多是葬著幾世紀以來挖掘錫礦時死去的礦工遺體。」這樣的礦場隨處可見：在後院、在森林、在路邊、在海灘。這是一片廢墟的地景。
我們通常的生活習慣是把焦點放在眼前的世界，也就是每天所見、所聞、所觸摸到的世界。我們穩定立足於此，在這裡有自己的社群、知悉的角落，也有關注的重點。但如果要探查完整的人工智慧供應鏈，需要在全球範圍內尋找模式，敏銳地看出歷史和具體的危害是因地而異，同時又因多種採掘力量而深刻地聯繫在一起。

◎物流層次

當我進入亞馬遜位於紐澤西州羅賓斯維爾鎮（Robbinsville）廣闊的履行中心（fulfillment center），最先映入眼簾的是個斗大的標誌，上面寫著「打卡機」（Time Clock）。這個標誌從占地三千三百七十多坪的混凝土空間中，諸多鮮黃色支架突出。這是亞馬遜小型物件的主要配送倉庫，也是美國東北部的中央配送節點。它呈現出當代物流和標準化令人目眩的奇景，其設計是為了加速包裹遞送。入口通道有幾十個打卡機標誌，每隔固定距離就會出現。每一秒的工作都被監控和記錄。工人——稱為「夥伴」（associate）——一進到倉庫就要掃描自己。日光燈照亮的茶水間裡沒什麼人，但也設有打卡機——更多標誌凸顯出進出各個空間的所有掃描都是被追蹤的。正如倉庫裡的包裹會經過掃描，工人也受到監控，以求盡可能提高效率：每次輪班只能休息十五分鐘，另有三十分鐘無薪的用餐休息時間。每次輪班長達十小時。
這是較新的履行中心之一，特點在於有機器人來移動托盤上裝滿產品的沉重擱架單元。這些亮橘色的機器人叫「奇娃」（Kiva），會在混凝土地板上平穩滑行，宛如活生生的水蟲，依循程式設定好的邏輯懶洋洋旋轉，然後鎖定一條路線，到下一個等待托盤的工人那裡。接著，機器人往前移動，背著堆積如塔、重達一千三百六十公斤的購買物品。這支貼地機器人大軍移來移去，展現出一種毫不費力的高效率：它們搬運、旋轉、前進、重複。它們發出低沉的呼呼嗡嗡聲，但幾乎完全被作為工廠動脈、快速移動的傳送帶震耳欲聾的聲音淹沒。在這個空間裡，約二十三公里長的輸送帶運轉不歇。這讓轟鳴時時存在。
當機器人在無遮蔽的菱形格網後方表演著動作協調的運算芭蕾，工廠裡的工人可沒那麼心平氣和。要達到「揀貨速率」所造成的焦慮，也就是工人必須在分配的時間內選擇和包裝的物品數量，顯然帶來不良影響。我造訪時遇到的許多工人都戴著某種支撐繃帶，有護膝、肘部繃帶、護腕。我觀察到許多人似乎有傷，而帶我穿行過工廠的亞馬遜員工指著每隔固定距離設置的自動販賣機，裡頭「備有非處方止痛藥，供任何需要的人使用」。
機器人技術已成為亞馬遜物流寶庫的關鍵部分，雖然機器似乎保養得很好，相對應的人體卻好像成了次要考量。他們來到那裡完成機器人無法做到的特定、高精度的任務：在最短的時間內揀起並目視確認人們想送到家中的所有物件，那些東西奇形怪狀，從手機殼到洗碗精都有。人類是不可或缺的結締組織，把訂購的物品裝入貨櫃和卡車，送到消費者手上。然而，他們並不是亞馬遜機器中最有價值或最受信賴的組成部分。一天結束時，所有夥伴都必須通過一排金屬探測器才能離開。他們告訴我，這是有效的防盜措施。
在網際網路的各個層次裡，最常見的衡量單位之一是網路封包——從一個目的地發送並傳送到另一個目的地的基本資料單位。在亞馬遜，用來衡量的基本單位是棕色紙箱，那是眾所熟悉的該公司貨物容器，上面印有一個模擬人類微笑的彎曲箭頭。每個網路封包都有一個時間戳，稱為「存活時間」（time to live），資料必須在存活時間到期之前抵達目的地。在亞馬遜，紙箱也有顧客出貨需求所驅動的「存活時間」。如果箱子遲到了，會影響亞馬遜的品牌，最後也會損及獲利。因此，機器學習演算法受到極大的關注，演算法針對瓦楞紙箱和寄件袋的最佳尺寸、重量和強度的資料進行調整。這個演算法稱為「矩陣」（matrix），顯然沒有任何諷刺意味。每當有人報告物品損壞，這份報告就會成為數據點，說明未來該使用哪種箱子。下次寄送這種產品時，矩陣會自動指派新的箱子種類，不用人工輸入。這樣可以防止破損，以節省時間，增加獲利。然而，工人被迫不斷適應，使他們更難將知識付諸行動或習慣工作。
時間控制向來是亞馬遜物流帝國一貫的主題，工人的身體依照運算邏輯的節奏來行動。亞馬遜是美國第二大民營雇主，許多公司奮力效尤。很多大企業砸下重金投資自動化系統，想從人數更少的員工身上榨取更多勞力。效率、監控和自動化的邏輯，當今都一致轉向以運算的方法來管理勞工。亞馬遜倉庫混合著人機配送，是了解致力於自動化效能所做出的權衡取捨的重要地點。我們可以從這個地方開始思考勞工、資本和時間如何在人工智慧系統中交織在一起的問題。