黑箱
整理版優先睇
認識世界嘅黑箱方法：控制論嘅認知姿態
呢篇文章係關於控制論入面嘅黑箱方法。作者想幫讀者理解一個核心問題：我哋點樣認識呢個世界？黑箱方法提出一種姿態——唔打開系統內部，透過研究輸入同輸出嘅關係，就可以認識系統嘅功能同行為規律。作者強調，呢種方法唔係因為工具唔夠好嘅臨時補救，而係認知本身嘅結構。
作者以心臟同大模型做例子，說明人類嘅科學認知就係一路喺外面摸黑箱。我哋永遠都只能喺所處時代嘅科技水平下「看見」黑箱，對佢使用黑箱方法。但唔緊要，一代人有一代人嘅工作，我哋做好自己可做嘅，將認識總結好，交接俾下一代。呢種姿態就係科學姿態：誠實面對限制，同時勇於研究未知。
黑箱方法仲提出一個持續深入嘅過程：先將事物整體當成黑盒，研究輸入輸出；隨科技進步，可以打開外層黑盒，見到裏面元件，再將元件當成新黑盒繼續研究。咁樣我哋對事物嘅認識就不斷深入。但永遠唔會到達終極真相，因為每次打開都會進入更深一層嘅黑箱。
- 黑箱方法係認知嘅本質結構，而唔係工具不足嘅權宜之計。
- 透過研究輸入-輸出關係，可以逐步打開黑箱，層層深入認識。
- 黑箱方法承認時代限制，唔需要完全打開內部都可以獲得有用認知。
- 面對大模型呢類黑箱，照樣可以用黑箱方法研究同使用，創造價值。
- 我哋應該做好當代嘅黑箱研究，總結知識，傳承俾下一代。
咩係黑箱方法？
控制論提出一種認識世界嘅姿態：黑箱方法。呢個方法唔打開系統內部，而係透過研究「輸入-輸出」關係，認識系統嘅功能同行為規律。
黑箱方法: 不打開系統內部的前提下，通過研究「輸入-輸出」關係，認識系統的功能特性和行為規律的方法。
面對任何事物，我哋先將佢整體當成一個黑盒，喺最外圍觀察、實驗，研究輸入輸出關係，總結行為規律。
認識點樣一步一步深入？
作者用三個問題解釋黑箱方法點樣深入認識。
- 1 咩係「認識」？你能預測佢喺某種輸入下做啲咩，操控佢做你想做嘅，就算認識佢。例如唔使知道微波爐原理都可以熱飯，唔使知道大模型訓練機制都可以對話。
- 2 能一直深入「認識」落去嗎？當前科技水平決定咗你停留喺咩層次嘅黑箱。顯微鏡發明之前，細菌唔係可研究嘅對象。
- 3 黑箱不斷打開，睇唔睇到「本質真相」？「看見」係相對某一套工具嘅看見。每有新工具打開上一層黑箱，同時進入更深一層黑箱。以心臟為例，以前靠脈象，有心電圖後可以睇到冠狀動脈鈣化，但內皮細胞機制又變成新黑箱。
你能預測佢喺某種輸入下做啲咩，就算認識佢
當前科技水平決定咗你停留喺咩層次嘅黑箱
每有新工具打開上一層黑箱，同時進入更深一層黑箱
再深一層嘅黑箱
科學姿態：誠實面對黑箱，勇敢研究未知
面對時代黑箱，我哋不斷「猜想」並透過實驗「反駁」，進行新一輪「猜想」。呢種認知姿態，唔單止誠實，仲俾人一種勇氣：就算暫時無法打開黑箱，照樣可以研究，獲得認知。呢種就係科學姿態。
人類嘅整個科學，就係喺外面摸黑箱
大模型對我哋而言係個黑箱
一代人有一代人嘅工作
佢哋會喺新時代科技水平下，打開我哋嘅黑箱，進入下一層級
我哋係點樣認識呢個世界㗎？控制論畀出一種認識姿態：黑箱方法。
黑箱方法：唔打開系統內部嘅前提下，透過研究「輸入-輸出」關係，認識系統嘅功能特性同行為規律嘅方法。
面對想研究嘅任何事物，我哋先將佢成個作為一個黑盒，喺最「外圍」觀察、實驗，研究「輸入-輸出」關係，總結佢嘅行為規律。
隨住科技水平進步，我哋可以「打開」最外圍嘅黑盒，將佢白盒化，睇到裏面嘅構成元件，將呢啲「元件」作為新一層次嘅「黑盒」，進一步做實驗，研究「輸入-輸出」關係，總結佢哋嘅行為規律。對上一層嘅「因為」有咗進一步解釋。
不斷持續呢個過程，我哋對該事物嘅認識就不斷咁深入。
黑箱認識方法，唔係工具唔夠好嘅臨時補救方法，而係認知本身嘅結構。
問：咩係「認識」？
你能夠預測佢喺某種輸入下做啲咩，你能夠操控佢去做你想做嘅，就算認識佢喇。
你唔知微波爐嘅原理，都可以叮飯。你唔知大模型訓練機制，都可以對話。
問：可以一路深入「認識」落去嗎？
當前科技水平決定咗你停留喺咩層次嘅黑箱水平。
顯微鏡發明之前，細菌就唔係可研究嘅對象。
問：黑箱不斷打開嘅過程，睇到「本質真相」嗎？
「見到」係相對某一套工具嘅見到。每有一個新嘅科技工具出現，打開咗上一層次嘅黑箱，但與此同時亦都入咗更深一層嘅黑箱。
以心臟為例，以前透過「脈象」去感知，有咗心電圖技術同埋各種影像技術工具，可以「見到」冠狀動脈鈣化，但再深一層嘅內皮細胞機制，變咗新嘅黑箱。
再睇 AI，大模型對我哋嚟講係個黑箱，但呢個唔妨礙我哋用佢、研究佢（可解釋性研究）。
人類嘅成個科學，就係喺外面摸黑箱。研究者們企喺世界外面，篤佢、觀察佢、記低，再篤。
面對時代黑箱，我哋不斷「猜想」並透過實驗「反駁」，進行新一輪嘅「猜想」…
呢種認知姿態，唔單止「誠實」（我哋當前確實冇辦法打開時代黑箱），而且仲畀人一種勇氣：面對一個暫時冇辦法打開嘅黑箱，照樣可以研究佢，得到認知。呢種姿態，就係科學姿態。
我哋永遠都只能夠喺所處時代嘅科技水平下，「見到」黑箱，對佢用「黑箱方法」進行認知。冇關係嘅，一代人有一代人嘅工作，我哋做好自己可以做嘅，將學到嘅認識總結好，交接畀下一代人。佢哋會喺新時代科技水平下，打開我哋嘅黑箱，入到下一層級，進行佢哋嘅黑箱認識工作。
我們是怎麼認識這個世界的？控制論給出一種認識姿態：黑箱方法。
黑箱方法: 不打開系統內部的前提下，通過研究「輸入-輸出」關係，認識系統的功能特性和行為規律的方法。
面對想要研究的任何事物，我們先將其整體作為一個黑盒，在最「外圍」觀察、實驗，研究「輸入-輸出」關係，總結其行為規律。
隨着科技水平進步，我們可以「打開」最外圍的黑盒，將其白盒化，看到裏面的構成元件，將這些「元件」作為新一層次的「黑盒」，進一步做實驗，研究「輸入-輸出」關係，總結他們的行為規律。對上一層的「因為」有了進一步解釋。
不斷持續這個過程，我們對該事物的認識就不斷地深入。
黑箱認識方法，不是工具不夠好的臨時補救方法，而是認知本身的結構。
Q: 什麼是「認識」？
你能預測它在某種輸入下做什麼，你能操控它去做你想做的，就算認識它了。
你不知道微波爐的原理，就可以熱飯。你不知道大模型訓練機制，就可以對話。
Q: 能一直深入「認識」下去嗎？
當前科技水平決定了你停留在什麼層次的黑箱水平。
顯微鏡發明之前，細菌就不是可研究的對象。
Q: 黑箱不斷打開的過程，能看到「本質真相」嗎？
「看見」是相對某一套工具的看見。每有一個新的科技工具出現，打開了上一層次的黑箱，但與此同時也進入了更深一層的黑箱。
以心臟為例，以前通過「脈象」來感知，有了心電圖技術以及各種影像技術工具，可以「看見」冠狀動脈鈣化，但再深一層的內皮細胞的機制，變成了新的黑箱。
再看 AI，大模型對我們而言是個黑箱，但這不妨礙我們使用它，研究它（可解釋性研究）。
人類的整個科學，就是在外面摸黑箱。研究者們站在世界外面，戳它，觀察它，記下來，再戳。
面對時代黑箱，我們不斷「猜想」並通過實驗「反駁」，進行新一輪的「猜想」…
這種認知姿態，不光「誠實」（我們當前確實無法打開時代黑箱），而且還給人以一種勇氣：面對一個暫時無法打開的黑箱，照樣可以研究它，獲得認知。這種姿態，就是科學姿態。
我們永遠都只能在所處時代的科技水平下，「看見」黑箱，對它使用「黑箱方法」進行認知。沒關係的，一代人有一代人的工作，我們做好自己可做的，把學到的認識總結好，交接給下一代人。他們會在新時代科技水平下，打開我們的黑箱，進入下一層級，進行他們的黑箱認識工作。