首 頁 科普工作站 科學大觀園 科普100問 科普大講堂 科普游楚天 健康咨詢吧 科學競技場 科普微直播 科學辨真偽 天天科普
當前位置:科普湖北云 > 科普100問

思維的極限:科學的進步將取決于人類還是AI ?

發布時間:2021-05-18 09:27 來源:集智俱樂部

  導語

  今天的科學處于十字路口:科學的進步會被人類的思維還是被人類創造的機器驅動?

  DavidCKrakauer|作者

  集智俱樂部| 來源

  潘佳棟|譯者

  趙雨亭 | 審校

  鄧一雪 | 編輯

  科學事業中正出現分歧。一方面是人類的思維,這是我們物種所珍視的每一個故事、理論和解釋的源頭。另一方面是機器,這些機器的算法具有驚人的預測能力,但其內部工作方式對于觀察者來說卻完全不透明。當我們人類努力理解世界的本質時,我們的機器就產生了可測量的、切實可行的預測,這些預測似乎超出了人類思維的范圍。盡管通過了解因果關系的敘述來理解世界可以滿足我們的好奇心,但是預測則滿足了我們的希望,將預測出機制映射到了現實中。我們現在面臨著哪種知識更重要的選擇,以及是否人力正在阻礙科學進步的問題。

  直到近代,理解和預測還是反對無知的盟友。弗朗西斯·培根(Francis Bacon)是科學革命初期將它們整合在一起的第一批參與者,當時他認為科學家應該在世界范圍內進行交流,改進他們使用的儀器。他說,這種方法可以避免因試圖掌握現實而造成的痛苦停滯和循環性。在他的《新工具論》Novum Organum,1620)中,他寫道:

  我們發現科學的新方法幾乎沒有提高智力的敏銳度,也沒有將人的智力提高到新的等級。如在用手畫一條直線或精確的圓一樣,直線和圓的精確度很大程度上取決于手的穩定性和實踐性;但是如果使用尺子或指南針,則直線和圓的精確度與手幾乎無關,科學界現有的方法也是如此。

  培根合理地建議應該使用工具來增強人類的感知和理性,而且通過這些手段人類可以逃避沉思的迷宮。

  艾薩克·牛頓(Isaac Newton)熱情地采納了培根的經驗哲學。他在他的職業生涯中都致力于開發工具:物理鏡頭和望遠鏡,以及心理幫助和數學描述(形式化),所有這些都加快了科學發現的步伐。但是,對工具日益增長的依賴隱藏了令人不安的分歧的種子:哪些是人類的思維可以辨別出的世界的潛在機制,哪些是我們的工具能夠進行測量和建模的。

  如今,這種分歧可能會威脅到整個科學項目的進步。我們似乎已經達到了極限,在這種極限下,理解和預測、機制和模型失去了一致性。在培根和牛頓時代,易于理解的世界敘述以及可檢驗的預測形成了一個良性循環。引人入勝的理論以現實世界的觀察為后盾,使人類對從天體力學到電磁學和孟德爾遺傳學的一切事物都有了深刻的理解?茖W家已經習慣了使用動態規則和規律表達的直觀理解——例如查爾斯·達爾文(Charles Darwin)的自然選擇理論和格雷戈爾·孟德爾(Gregor Mendel)的獨立分類原理——來描述生物體的基因物質如何通過其父母染色體的分離和重組而傳遞下去。

  但是在“大數據”時代,理解和預測之間的聯系不再成立,F代科學在解釋原子、光和力等相對簡單的問題上相對取得了驚人的進步,F在,我們試圖理解更復雜的世界,從細胞到組織、從大腦到認知偏見、從市場到氣候。新穎的算法使研究人員能夠預測這些學習和進化的自適應系統的行為的某些特征,同時儀器可以收集有關它們的大量信息。盡管這些統計模型和預測通?梢允故虑樽兊谜_,但科學家們幾乎不可能重建它們的工作方式。儀器智能(通常是機器智能)不僅具有抵抗性,而且有時會積極地反對理性。例如,對基因組數據的研究可以捕獲數百個參數——如患者、細胞類型、病情、基因、基因位置等——并將疾病的起源與成千上萬的潛在重要因素聯系起來。但是,這些“高維”數據集及其提供的預測讓研究人員無法進行解釋。

  如果科學界可以用牛頓模型和量子模型預測人類行為,那學者們可進行解釋,但是仍不能預測?茖W與復雜現實之間的坦率沖突產生了分歧。一些批評家聲稱,這是人類自己的頑固的人類中心主義(堅持認為我們的工具比不上我們的智力),它阻礙了科學的發展。他們說,如果不再擔心機器取代人類的思維,研究人員可以使用機器來加速對事物的掌握。計算機智能的模擬不需要具有神經系統的結構,就像望遠鏡不需要具有眼睛的解剖結構一樣。的確,射電望遠鏡提供了一個令人信服的例子,證明了一種新穎的非光學機制可以超越純粹的光學功能,射電望遠鏡能夠探測到銀河系視線以外的其他星系。

  理解與預測之間的巨大分歧呼應了巴魯克·斯賓諾莎(Baruch Spinoza)對歷史的見解:“分歧不是源于對真理的熱愛,而是源于對控制權的過分渴望。”未來的戰斗是大腦和算法誰會成為科學王國的主人。

  悖論及其感性的表親——幻覺,提供了兩個有趣的例子,說明了預測和理解之間的混亂關系。兩者都描述了這樣的情況:我們以為我們理解了某些東西,但其實只是遇到了特殊情況。理解的過程似乎不那么容易理解。

  某些最著名的視覺錯覺會在同一物體的兩種不同解釋之間“翻轉”,例如面花瓶、鴨子兔子[1]和內克爾立方體(Necker cube)(線框立方體,可以在兩個方向之一感知,而任一面都最接近觀看者)。所有人都知道現實生活中的物體并不會真正像這樣打開一角,但這正是我們的感官在告訴我們的。癡迷于鴨兔錯覺的路德維格·維特根斯坦(Ludwig Wittgenstein)提出,人們首先按照一種主要的解釋來觀察一個物體,而不是僅僅在看到一個物體之后才去理解它。我們所看到的就是我們希望看到的。

  認知科學家理查德·格里高里(Richard Gregory)在他的精彩著作《看穿錯覺》Seeing Through Illusions,2009)中稱錯覺為“挑戰我們現實感的奇怪感知現象”。他解釋了它們是如何發生的,這是因為我們的理解是基于多個具有不同規則的系統的預測而得出的。在內克爾立方體中,每個感知都與三維空間中的感知數據一致。但是缺乏深度線索意味著我們無法確定哪種解釋是正確的。因此,由于缺乏對空間足夠的理解,我們在兩個預測之間切換。

  像幻覺一樣,悖論使得直覺與關于世界的基本事實相沖突。悖論是自相矛盾或邏輯上站不住腳的論點或觀察的結論。它們在自然科學中經常出現,尤其是在物理學上:無論是其哲學還是科學具象中。雙生子佯謬[2]、愛因斯坦-波多爾斯基-羅森佯謬[3]和薛定諤的貓[4],都是由相對論或量子力學的基本結構而來的悖論。這些與觀測佯謬(例如在雙縫[5]實驗[6]中觀測到的波粒二象性)完全不同。然而,在這兩種悖論中,人類基于平時因果推理的理解與實驗的預期結果不一致。

  1。 當規則被應用于結構不同的輸入時,

  我們可以預期會出現奇怪的現象

  甚至機器也可能遭受悖論的困擾!靶疗丈U摗盵7]描述了一種情況,即對于單個數據集中獨立出現的趨勢,當數據集組合在一起時趨勢可能消失甚至逆轉,這意味著一個數據集可用于支持相互競爭的結論。此類情況在體育運動中經常發生。在任何給定的賽季中,單身選手的表現都優于其他選手。但是,如果將多個賽季組合在一起,則由于絕對差異(例如總比賽次數、擊球次數等),這些球員將不再領先。還有一種稱為“準確性悖論”的事物,其出于循環論證的原因表現優異。也就是說,他們的解決方案實際上已經應用于到他們的事例中。這背后有許多算法偏見[8]的例子,其中基于種族[9]和性別的少數群體經常被錯誤分類:這是因為用作準確性標準的訓練數據來自我們自己偏見且不完美的世界。

  關于悖論的最嚴格的工作也許是庫特·哥德爾(Kurt G?del)在《數學原理和相關系統形式上不確定的命題》Formally Undecidable Propositions of Principia Mathematica and Related Systems,1931)中進行的。哥德爾發現,在每個嚴格形式化的數學系統中,從系統本身的公理派生出來的陳述,無法得到確認或反駁。形式化系統的公理允許出現矛盾的可能性,而這些矛盾構成了悖論的基礎。哥德爾的基本見解是,任何規則系統都具有適用的自然領域。但是,如果將規則應用于被其他規則支配的結構中,那么我們可以預期會出現奇怪的現象。

  這正是對抗神經網絡可能發生的情況。在對抗神經網絡中,兩種算法相互競爭以贏得一場比賽。一個網絡可以被訓練用來識別一組對象,例如停車標志。同時,它的對手可能會對新的數據集進行一些惡意的小修改,例如移走一些像素的停止移動標志,這導致第一個網絡將這些圖像歸類為限速標志。從人類的角度來看,對抗性分類看起來極度愚蠢。但是,正如哥德爾所理解的那樣,從神經網絡中隱藏的編碼規則系統的角度來看,它們可能是自然出現的錯誤。

  悖論和錯覺向我們顯示的是,我們預測和理解的能力取決于思維的本質缺陷,并且對理解的限制可能與對預測的限制大不相同。就像預測從根本上被測量的敏感性和計算的缺點所限制一樣,理解同時被推理規則促進和阻礙。

  “局限”是什么的問題,闡明了為什么人類首先會被機器和形式化所吸引?茖W文化和廣泛意義下的技術的發展,是突破認知和語言局限性的手段的集合,這里的局限性指培根在《新工具論》Noum Organum中的bête noir。

  理解和預測之間的關系對應于本體論(對世界的真實本質的洞察)認識論(獲取有關世界的知識的過程)之間的聯系;趯嶒灥闹R可以突破我們現有理解的障礙,使我們欣賞新的基本特征。反過來,這些基本法則使科學家們可以得出新的預測,以便在世界范圍內進行檢驗。當被稱為“集合論”[10]的數學分支被證明引起悖論時,后來被稱為“范疇論”的分支獲得發展,以部分克服這些局限性。當使用太陽系的托勒密模型或牛頓力學模型獲得不正確的天文預測時,人們引入了相對論來捕捉大質量物體在快速運動中的異常行為。這樣,理論的本體基礎就成為了新的和更好的預測的基礎。本體論促進認識論的發展。

  但是,一旦科學進步達到一定的極限,本體論和認識論就會成為敵人。在量子力學中,不確定性原理指出,粒子的動量和位置不能同時被精確知道。它既描述了進行精確測量的一個限制(認識論),又似乎涉及一種機理,即在量子尺度上(本體論)造成了位置和動量的不可分離性。在實踐中,量子力學涉及有效地應用該理論以預測結果,而不是憑借直覺產生結果。換句話說,本體論被認識論所吸收。

  相比之下,量子力學基本機理的領域試圖突破這一極限,并解釋量子理論為何如此具有預測性。例如,“多世界”[11]的解釋廢除了量子幽靈(quantum spookiness),取而代之的是令人難以置信的命題,即每一個觀測都產生一個新的宇宙。在這個極限下工作的興奮之處是智力探究在預測和理解之間閃爍。區分認識論問題和本體論問題并不是一件容易的事。它們是緊密相關的,甚至是“耦合”或“糾纏”的。

  解決該問題的一種無情的方法就是簡單地聲明:在適當的限制下,本體論消失了。哥本哈根學派玩弄精確的手法,其消極的攻擊性格言是:“閉嘴并計算!”( ‘Shut up and calculate!’ )。換句話說,不要再談論量子幽靈的可能解釋了。尋找量子力學的基本機制是在浪費時間。然而現在是現代計算機,而不是量子理論學家,它沒有表達的傾向,除了進行安靜而艱難的計算之外,量子力學不能干其他事情。

  2。 理解發音不是目的,預測正確的翻譯才是

  很少有科學家愿意接受如此微不足道的知識交易。在科學中,一個好的理論表現優雅[12]的理論幾乎是不言而喻的,它編碼了一個可以直觀地理解和交流的簡單(或“簡約”)解釋。關于事物的觀點,一個好的理論可以使一個人在頭腦中持有一個整體的概念,以即興創作一個微型的內部宇宙。在某些領域,特別是在數學物理中,人類大腦的微型宇宙和現實的大型宇宙融合在一起。蘋果和行星都遵循由相同運動方程式描述的軌跡。這種快樂的巧合可以被形容為“諧和性”,“一致性”或“尺度不變性”。

  這些一致的理論中最引人注目的是某些力的強度與到源的距離的平方成反比,這對于大尺度的重力和小尺度的電磁力都成立。正如已故的物理學家默里·蓋爾曼(Murray Gell-Mann)所說[13]:

  當我們剝去洋蔥皮時,滲透到基本粒子系統的結構越來越深,由于它在一個層級上的效用而使我們熟悉的數學衍生出新的數學,其中一些可能應用在一個降低的層級或同一層級的另一種現象上。有時,即使是古老的數學也足夠了。

  但是有時我們自己的直覺會阻礙科學的進展。使用計算機對自然語言進行分類、翻譯和學習的案例說明了尋求科學現象的直觀描述的危險。HAL 和 Robby the Robot 的魅力來自電影2001:太空漫游(1968)和禁忌星球(1956),這是他們理解人類語言并以適當水平做出不祥諷刺回應的能力,這些回應對于他們的人類對話者來說是可理解的。但是機器翻譯和語音識別的發展最終看起來并不像這樣。1980年代和90年代最成功的早期語音識別方法采用基于人類語音結構的數學模型,重點是單詞類別以及句子的高階句法和語義關系。然后在1990年代后期,深度神經網絡迅速發展。這些算法忽略了許多先前的語言知識,而是通過在純聲學級別上的訓練,使單詞自發出現。理解發音不是目的,預測正確的翻譯才是。深度學習算法具有極高的效率。一旦研究者社區接受算法的不透明性,那么實用的解決方案將變得非常清晰。

  神經網絡刻畫了當代科學所面臨的困境。它們表明,基于數十年的研究和分析,僅包含很少或不包含關于系統結構化數據的復雜模型仍能勝過理論。在這方面,訓練計算機在語音識別的見解反映了其在國際象棋和圍棋中擊敗人類的見解:機器偏愛的表示和經驗法則不需要反映人腦偏愛的表示和經驗法則。對機器來說,解決國際象棋就是解決國際象棋,而不是思考。

  但是,我們克服國際象棋和語音識別中人類思維局限的方式是否說明克服人類對物理現實的預測的局限(即在科學上取得進步)也可能意味著什么?它能告訴我們人類對理解的需求是否正在阻礙科學的進步嗎?

  哲學史為擺脫當前的科學困境提供了一些途徑。柏拉圖是最早在《泰阿泰德篇》Theaetetus一書中提出解決理解混亂的人之一。文中專門討論認識論的問題,即一種感知、一種真實的判斷、一種真實的信念和附加的解釋。在對話中,蘇格拉底(Socrates)將幾何,算術和天文學歸為最后一類。

  依曼紐爾·康德(Immanuel Kant)在其《純粹理性批判》Critique of Pure Reason,1781)中進一步發展了理解的理論?档略谖镔|世界和心理世界之間進行了區分,即現實作為本體論,而心理知識則作為認識論。對于康德來說,心中只有世界的表象,只有通過這些表象才能認識物質世界。這意味著我們所謂的理解不過是對經驗現實的一種近似和不完美的表示,其柏拉圖式的存在(或可能不存在)是知識的最終極限。康德的論點并不能真正幫助我們將理解與知識區分開;而是將理解從可以辯護的信念轉變為無法驗證的內部表示。

  哲學家約翰·塞爾(John Searle)在他的有影響力的著作《思想,大腦和科學》Minds,Brains and Science,1984)中探索了知識和理解上的區別,在這本書中他挑戰對機器智能的盲目樂觀的人。塞爾要求我們想象一個房間里的某個人對漢語沒有一點地道的理解,但準備了一套字典和語法規則。當呈現出中文句子時,這些資源被用于將目標句子翻譯成英語。當人們考慮這一思想實驗時,很明顯一個人不需要理解一個人正在翻譯的語言,只需使翻譯達到保真即可。

  中文房間(Chinese room)是一種隱喻性的手段,可以分析算法的局限性,例如可以列出數字場景中的元素或翻譯網頁上句子的算法。在這兩種情況下,在沒有任何理解內容的情況下都能產生正確的解決方案。那么,塞爾正在尋找的缺乏理解的本質是什么?

  3。 理解本質是知識傳播與積累的基礎

  有許多培根工具可以代替塞爾的房間,例如用于解決大型乘法問題的計算規則,或使用羅盤和量角器證明定理,或在微積分中用于解決大或無窮大的積分規則。這些技術之所以有效是因為它們消除了對理解的需求。它只需準確地按照規定的步驟進行操作即可,以確保獲得預期的結果。在每種情況下,要理解的是要解釋對數的邏輯和適當用法,量角器或羅盤的運動幾何特性,或用矩形近似面積的基本數學基礎。因此,即使在日常數學運算中,我們也會經歷理解和預測之間的分歧。

  理解是我們通過打開知識的黑盒子進行修改來克服悖論和幻想世界的手段。理解是對合理錯誤的闡明。一旦我們理解了線框立方體被解釋為三維的立體圖形,那么我們很清楚為什么我們一次只能看到一個立方體。

  無需解釋和理解也可以獲取數據。不良教育的確切定義是鉆研事實:就像在死記硬背的日期和事件中學習歷史一樣。但是,真正的理解是期望其他人類或更廣泛的代理人可以向我們解釋他們的方法如何以及為什么起作用。我們需要一些方法來復制一個想法并驗證其準確性。該要求擴展到了聲稱能夠智能地解決問題的非人類設備。機器需要能夠說明其能夠完成的工作以及為什么可以工作。

解釋的要求是解釋什么將理解與教學聯系起來!敖虒W”是我們對因果機制進行有效溝通的稱呼(“如果你遵循這些規則,你將學會長除法),而“學習”則是對原因及其結果之間關系的直覺的獲得 (“這就是長除法規則有效的原因”)。理解本質是知識的文化積累與可靠傳播的基礎。此外,它也是所有長期預測的基礎。

  有性格的作家豪爾赫·路易斯·博爾赫斯(Jorge Luis Borges)在論文《名字回響的歷史》History of the Echoes of a Name,1955)中寫道[14]:

  在時間和空間上孤立,一個神、一個夢和一個精神異常并且意識到事實的人重復了一個晦澀難懂的陳述。這些單詞及其兩個回聲是這段歷史的主題。

  假設上帝是宇宙,是我們渴望理解的夢想,而機器是瘋狂的人,重復著他們晦澀難懂的陳述?傊,他們的言語和回聲是我們科學探索的系統。將復雜性科學與機器學習和人工智能相結合是21世紀的挑戰。未來知識最成功的形式將是使人類的理解夢想與機器越來越模糊的回聲協調一致。

編輯:徐菁
友情鏈接

鄂ICP備13005063號-4

忘忧草在线观看视频破解版