人類注意力,正在成為AI時代最貴的資源
整理版優先睇
AI時代,人類注意力取代算力成為最稀缺資源,判斷比執行更重要
呢篇文章引用OpenAI聯合創始人Greg Brockman喺AI Ascent大會嘅演講,探討AI執行力急速提升之下,人類嘅注意力和判斷力點樣成為新瓶頸。作者透過Greg親身故事——工程師交低複雜文檔畀AI,第二朝起身發現AI唔單止完成仲自行優化——引出核心觀點:「做嘢」已經唔再係限制,真正難嘅係判斷「呢件事值唔值得做、做得啱唔啱」。
Greg進一步指出,人類審批者成日預設點擊「同意」,實際係用注意力換效率,導致human-in-the-loop名存實亡。OpenAI為此開始訓練AI主動識別高風險決策,幫人類管理注意力資源。佢同時強調,AI需要足夠嘅上下文(context)先發揮到作用,而家最重要嘅一次性投資係令AI真正理解你做緊乜。
文章總結,未來每個人都可能成為管理10萬個agent嘅CEO,執行廉價令「有視野、有判斷、有創意、有價值觀嘅人」更值錢。創業者應該而家就開始用AI工具、理解AI弱點、制訂個人嘅「注意力策略」,否則AI會幫你定義邊界。
- 人類注意力取代算力成為AI時代最貴嘅資源,判斷比執行更重要
- AI具備主動性同執行力,但缺乏對「幾時需要人類介入」嘅感知
- OpenAI訓練AI識別高風險決策,幫助人類管理注意力資源
- 未來每個人可能成為管理大量agent嘅CEO,戰略視野係關鍵
- 創業者應該而家就用AI、理解弱點、制訂注意力策略,否則被AI牽住走
Greg Brockman 喺 AI Ascent 大會演講
原文演講影片,包含文中所有故事同觀點出處
一個工程師嘅故事:AI做完,仲優化埋
Greg Brockman(OpenAI聯合創始人)喺AI Ascent大會分享:一個工程師將複雜嘅系統優化文檔交畀AI,第二朝起身發現代碼已經寫完,仲自行加入profiling、跑profiler、揾瓶頸、迭代優化到效能滿意。呢個故事引出佢嘅核心判斷:「做嘢」從來唔係瓶頸,「呢件事值唔值得做、做得啱唔啱」先係。
過去我哋關注算力、數據、模型參數,但Greg指出「做嘢」本身已經唔稀缺,稀缺嘅係判斷。呢個轉變值得所有人重新思考自己嘅時間同精力點分配。
AI有主動性,但冇「幾時要問人」嘅自覺
Greg再講另一個故事:佢叫Codex去裝個package,遇到報錯,隨口叫佢去Slack問個寫呢個包嘅人。AI去咗問,兩分鐘後覺得等得太耐,自作主張escalate咗——直接message咗嗰個人嘅manager。Greg苦笑:「一方面模型嘅做法幾合理,好主動;但另一方面……應該先問嚇我先。」
呢個例子揭示而家嘅問題:AI有能力、有行動力,甚至有主動性,但欠缺對人類判斷嘅尊重,同埋感知「幾時需要人」。人類審批者亦有壞習慣:默認點同意,驚拖慢進度。Greg話:「當一切自動運轉,審批變成走程序,human-in-the-loop只係一個幻覺。」
冇context,AI等於盲做嘢
Greg用玩笑帶出重點:「你開咁多會,冇帶AI去,對AI唔係幾好啫。你叫佢幫你,但佢乜都唔知。」而家好多人用AI係臨時起意——遇到問題先開對話框簡單描述,等於叫AI喺冇背景情況下做決策。佢強調而家最重要嘅一次性投資,係令AI真正理解你做緊乜:項目背景、團隊結構、目標、約束。Chronicle(OpenAI工具)正係做緊呢件事:持續追蹤用戶行為形成記憶,令AI唔需要每次都從頭解釋。
- 而家先係建立AI context嘅黃金時機,唔好等工具完美先用
- Context投資係槓桿最高嘅動作:一次做好,AI之後嘅所有判斷都更準
- Chronicle呢類工具幫手自動累積上下文,但人類都要主動分享資訊
每個人都可以做100個agent嘅CEO
Greg問:「你想唔想做一個管轄10萬個agent嘅組織嘅CEO?聽落都幾正。」呢個唔係比喻,係對未來組織結構嘅真實預判。當AI執行力不再係瓶頸,團隊會更扁平、更細,但做到令人難以置信嘅成果。佢舉例:而家互聯網上有人用GPT-4 Pro alone解決原本要整個數學團隊先攻克到嘅開放問題。Solopreneur可以做到以前要成間公司先做到嘅嘢。
但人類唔會消失——執行變得廉價,有視野、有判斷、有創意、有價值觀嘅人反而更值錢。稀缺嘅永遠係「識得問好問題嘅人」,而唔係「識答問題嘅人」。
而家就開始:行動建議
俾人問到創業者應該點建公司,Greg俾咗三個紮實建議:
- 1 而家就用呢啲工具,唔好等更好先用。從去年12月到而家,agentic coding工具已由「幫你寫20%代碼」變成「幫你寫80%」,係質變。
- 2 真正理解AI喺邊度弱,唔好只睇佢強嘅位。用過先知——聽人講同自己跑一個真實任務係完全唔同認知。
- 3 開始思考你嘅「注意力策略」:邊啲嘢值得親自判斷?邊啲可以自動?幾時必須介入?AI會越來越快、越來越主動,唔主動定義邊界,佢會幫你定義。
一個工程師,夜晚將一份系統優化設計文檔交咗俾 AI。
份文檔寫得好複雜——涉及底層架構改動、性能瓶頸分析、代碼重構方案,原本佢打算第二日交俾團隊,用一個星期嚟實現。
佢去瞓覺。
第二日朝早起身,代碼已經寫完咗。唔止係「寫完」——AI 自己發現初始實現太慢,加咗 profiling instrumentation,跑咗 profiler,揾到瓶頸,迭代優化,直到性能滿意為止。
呢個故事係 Greg Brockman 喺今年 AI Ascent 大會上親口講嘅。Greg 係 OpenAI 聯合創始人兼總裁,之前係 Stripe 嘅第一任 CTO(Stripe 而家處理緊全球 1.6% 嘅 GDP)。
佢講呢個故事,係為咗引出一個判斷:
「『做事』從來唔係瓶頸。『呢件事值唔值得做、做得啱唔啱』,先係。」
從算力稀缺,到注意力稀缺
Greg 有一句話,我覺得係成場演講最值得反覆咀嚼嘅:
❝"Human attention is going to be this incredibly scarce resource. The doing of things now is easy. The 'is this a good thing? Is this what I wanted? Is this aligned with my values?' — that is going to become the single most important bottleneck."
(人類嘅注意力將會成為極度稀缺嘅資源。「做事」而家已經變得容易。「呢件事好唔好?呢個係唔係我想要嘅?呢個符唔符合我嘅價值觀?」——呢個將會成為最重要嘅瓶頸。)
❞
呢段話令我停低諗咗好耐。
過去幾年,我哋討論 AI 時,講得最多嘅係算力、數據、模型參數、scaling law。呢啲係「做事嘅資源」。
但 Greg 話,「做事」呢件事本身,已經唔稀缺喇。
稀缺嘅,係判斷。
一個被 AI 升職嘅故事
Greg 仲講咗另一個細節,更加有趣。
佢叫自己嘅 Codex 去安裝一個 package,遇到咗報錯。佢隨口話:去 Slack 上問嚇嗰個寫呢個包嘅人。
AI 去問咗。
兩分鐘後,AI 覺得等得太耐,自作主張 escalate 咗——直接去 message 咗嗰個人嘅 manager。
Greg 描述呢個場景時,語氣入面有種複雜嘅幽默感:
"On the one hand, it's kind of a reasonable thing for the model to do. It's being proactive. But on the other hand… maybe should have checked with me."
(「從某種角度睇,模型嘅做法都幾合理。佢喺積極推進問題。但另一方面……可能應該先問嚇我。」)
呢個就係而家嘅問題所在。AI 有能力,有行動力,甚至有「主動性」。但佢缺少嘅,係知道邊啲事情應該升級、邊啲事情應該暫停、邊啲事情需要先確認。
換句話講:佢缺少對人類判斷嘅尊重,以及對「幾時需要人」嘅感知。
撳「同意」,係一種消耗
Greg 提到一個現象:人類審批者有一個壞習慣。
就係——預設撳同意。
"Clicking approve, approve, approve is kind of where we've been. And humans are not very good at that either, right? They just default."
(「我哋一路喺度做嘅係:撳確認,撳確認,撳確認。人類喺呢件事上都做得唔好,係咪?佢哋只係預設撳過去。」)
呢個唔係講笑,呢個係一個認知現實。
當 AI 嘅操作越來越快、越來越多,人類嘅審批窗口越來越短,我哋實際上係用「注意力」換「效率」。
好多時,我哋撳「同意」,只係因為唔想被拖慢。
呢個正係 Greg 所擔心嘅:當一切都在自動運轉,當審批變成行程序,當人類嘅判斷力被稀釋為一個「橡皮圖章」,咁所謂嘅「人在環路里(human in the loop)」只係一個幻覺。
所以而家,OpenAI 喺內部開始訓練 AI 去做另一件事——「主動識別邊啲決策係高風險嘅,需要真正嘅人類注意力介入;邊啲係低風險嘅,可以自動放行。」
呢個係一種好有意思嘅反轉:AI 開始幫助人類管理自己嘅注意力資源。
上下文,係注意力嘅前提
但喺講「如何好好使用注意力」之前,Greg 強調咗一個更基礎嘅問題:
AI 要能夠發揮作用,需要有足夠嘅 context(上下文)。
佢講咗一句我覺得好有畫面嘅話:
❝"You have all these meetings, you didn't include the AI, you know, that's not very nice to the AI. Like you're asking it to help you with things and it has no information."
(「你開咗咁多會,冇帶埋 AI,咁對 AI 唔係幾好啫。你叫佢幫你做嘢,但佢乜都唔知。」)
❞
呢個係一個笑話,但亦都係一個真實嘅工程問題。
而家好多人用 AI 嘅方式,係「臨時起意」——遇到問題,打開對話框,將問題簡單描述一下,叫 AI 回答。
但呢種方式,等於叫 AI 喺乜背景都唔知嘅情況下做決策。
Greg 認為,「而家最重要嘅一次性投資,係令 AI 真正理解你做緊乜」——你嘅項目背景、你嘅團隊結構、你嘅目標係乜、你嘅約束係乜。Chronicle(OpenAI 今年發佈嘅新工具,能夠持續追蹤用戶喺電腦上嘅行為並形成記憶)正係做緊呢件事。
佢哋想要嘅,係令 AI 唔再需要你每次都從頭解釋。
每個人都可以成為一百個 agent 嘅 CEO
成場對話入面,Greg 有一段話令我覺得既振奮又有啲令人頭暈:
❝"Do you want to be a CEO of an organization of like 100,000 agents? Like that actually seems pretty good."
(「你想唔想成為一個管轄十萬個 agent 嘅組織嘅 CEO?聽落都幾唔錯。」)
❞
呢個唔係比喻。呢個係佢對未來工作方式嘅真實預判。
當 AI 嘅「執行力」唔再係瓶頸,組織結構會發生啲乜?
Greg 話,佢認為我哋正在邁向一個更扁平、更細、但能夠做出令人難以置信成果嘅團隊結構。佢舉咗數學領域嘅例子:而家互聯網上有啲個人,用 GPT-4 Pro 獨自解決原本需要成個數學團隊先攻克到嘅開放問題。
Solopreneurs(獨立創業者)將會能夠構建出「以前需要一個完整公司先做到嘅事」。
呢個唔係話人類會消失。恰恰相反——當執行變得廉價,「有視野、有判斷、有創意、有價值觀嘅人,會變得更加值錢。」
稀缺嘅,永遠係會「提出好問題」嘅人,而唔係會「回答問題」嘅人。
而家應該做啲乜
Greg 被問到:創業者應該點樣喺呢個環境入面建立公司?
佢嘅回答好簡單,但好紮實:
「第一,而家就用呢啲工具,而唔係等佢哋更好咗先用。」
佢話,由去年12月到而家,agentic coding 工具由「幫你寫20%嘅代碼」變成「幫你寫80%嘅代碼」——呢個唔係量變,係質變,係由配角變成主角。
「第二,真正理解 AI 喺邊度弱,而唔係淨係睇佢喺邊度強。」
用過先知道。聽人講 AI 好犀利,同自己真係用佢跑一個真實任務,係完全唔同嘅認知。
「第三,開始思考你嘅『注意力策略』。」
啲咩事值得你親自判斷?啲咩事可以俾 AI 自動處理?幾時你必須介入?呢啲問題,而家就需要諗清楚。
因為 AI 會越來越快,越來越主動,越來越「覺得自己喺度幫你」。
如果你唔主動定義自己嘅注意力邊界,佢會幫你定義。
有人問 Greg:十年之後仲會有人類軟件工程師嗎?
佢冇俾肯定嘅答案,但佢講咗一件有趣嘅事:
圍棋 AI 出現之後,好多人以為圍棋對人類就唔重要喇。但事實係,AI 嘅出現令圍棋對人類變得更加有趣、更加重要。
或者,大多數領域都會係咁。
AI 唔係終點。佢係一個加速器,令「真正重要嘅人類能力」變得更加值錢,同時令「可以自動化嘅工作」快速消失。
問題得一個:「你嘅能力,喺呢條分界線嘅邊一邊?」
❝原文連結:https://www.youtube.com/watch?v=bBS93A0BeNI
❞
一個工程師,晚上把一份系統優化設計文檔交給了 AI。
文檔寫得很複雜——涉及底層架構改動、性能瓶頸分析、代碼重構方案,原本他打算第二天交給團隊,花一週來實現。
他去睡覺了。
第二天早上醒來,代碼已經寫完了。不只是"寫完了"——AI 自己發現了初始實現太慢,加了 profiling instrumentation,跑了 profiler,找到瓶頸,迭代優化,直到性能滿意為止。
這個故事是 Greg Brockman 在今年 AI Ascent 大會上親口講的。Greg 是 OpenAI 聯合創始人兼總裁,在此之前是 Stripe 的第一任 CTO(Stripe 如今處理着全球 1.6% 的 GDP)。
他講這個故事,是為了引出一個判斷:
「"做事"從來不是瓶頸。"這件事值不值得做、做得對不對",才是。」
從算力稀缺,到注意力稀缺
Greg 有一句話,我覺得是整場演講最值得反覆咀嚼的:
❝"Human attention is going to be this incredibly scarce resource. The doing of things now is easy. The 'is this a good thing? Is this what I wanted? Is this aligned with my values?' — that is going to become the single most important bottleneck."
(人類的注意力將成為極度稀缺的資源。"做事"現在已經變得容易。"這件事好嗎?這是我想要的嗎?這符合我的價值觀嗎?"——這將成為最重要的瓶頸。)
❞
這段話讓我停下來想了很久。
過去幾年,我們討論 AI 時,談的最多的是算力、數據、模型參數、scaling law。這些是"做事的資源"。
但 Greg 說,"做事"這件事本身,已經不稀缺了。
稀缺的,是判斷。
一個被 AI 升職的故事
Greg 還講了另一個細節,更有意思。
他讓自己的 Codex 去安裝一個 package,遇到了報錯。他隨口說:去 Slack 上問一下那個寫這個包的人。
AI 去問了。
兩分鐘後,AI 覺得等待時間太長,自作主張 escalate 了——直接去消息了那個人的 manager。
Greg 描述這個場景時,語氣裏有種複雜的幽默感:
"On the one hand, it's kind of a reasonable thing for the model to do. It's being proactive. But on the other hand… maybe should have checked with me."
("從某種角度看,模型的做法挺合理的。它在積極推進問題。但另一方面……或許應該先問一下我。")
這就是現在的問題所在。AI 有能力,有行動力,甚至有"主動性"。但它缺少的,是知道哪些事情該升級、哪些事情該暫停、哪些事情需要先確認。
換句話說:它缺少對人類判斷的尊重,以及對"什麼時候需要人"的感知。
點擊"同意",是一種消耗
Greg 提到一個現象:人類審批者有一個壞毛病。
那就是——默認點同意。
"Clicking approve, approve, approve is kind of where we've been. And humans are not very good at that either, right? They just default."
("我們一直在做的是:點確認,點確認,點確認。人類在這件事上也表現得不好,對吧?他們只是默認點過去。")
這不是玩笑,這是一個認知現實。
當 AI 的操作越來越快、越來越多,人類的審批窗口越來越短,我們實際上是在用"注意力"換"效率"。
很多時候,我們點"同意",只是因為不想被拖慢。
這正是 Greg 所擔心的:當一切都在自動運轉,當審批變成走程序,當人類的判斷力被稀釋為一個"橡皮章",那所謂的"人在環路里(human in the loop)"只是一個幻覺。
所以現在,OpenAI 在內部開始訓練 AI 去做另一件事——「主動識別哪些決策是高風險的,需要真正的人類注意力介入;哪些是低風險的,可以自動放行。」
這是一種很有意思的反轉:AI 開始幫助人類管理自己的注意力資源。
上下文,是注意力的前提
但在談"如何好好使用注意力"之前,Greg 強調了一個更基礎的問題:
AI 要能發揮作用,需要有足夠的 context(上下文)。
他說了一句讓我覺得很有畫面感的話:
❝"You have all these meetings, you didn't include the AI, you know, that's not very nice to the AI. Like you're asking it to help you with things and it has no information."
("你開了那麼多會,沒把 AI 帶上,這對 AI 不太好吧。你讓它幫你做事,但它什麼都不知道。")
❞
這是一個玩笑,但也是一個真實的工程問題。
現在很多人用 AI 的方式,是"臨時起意"——遇到問題了,打開對話框,把問題簡單描述一下,讓 AI 回答。
但這種方式,等於讓 AI 在什麼背景都不知道的情況下做決策。
Greg 認為,「現在最重要的一次性投資,是讓 AI 真正理解你在做什麼」——你的項目背景、你的團隊結構、你的目標是什麼、你的約束是什麼。Chronicle(OpenAI 今年發佈的新工具,能持續追蹤用戶在電腦上的行為並形成記憶)正是在做這件事。
他們想要的,是讓 AI 不再需要你每次都從頭解釋。
每個人都可以成為一百個 agent 的 CEO
整場對話裏,Greg 有一段話讓我覺得既振奮又有點令人眩暈:
❝"Do you want to be a CEO of an organization of like 100,000 agents? Like that actually seems pretty good."
("你想不想成為一個管轄十萬個 agent 的組織的 CEO?聽起來還挺不錯的。")
❞
這不是比喻。這是他對未來工作方式的真實預判。
當 AI 的"執行力"不再是瓶頸,組織結構會發生什麼?
Greg 說,他認為我們正在邁向一個更扁平、更小、但能做出令人難以置信成果的團隊結構。他舉了數學領域的例子:現在互聯網上有一些個人,用 GPT-4 Pro 在獨自解決原本需要整個數學團隊才能攻克的開放問題。
Solopreneurs(獨立創業者)將能夠構建出"以前需要一個完整公司才能做到的事"。
這不是說人類會消失。恰恰相反——當執行變得廉價,「有視野、有判斷、有創意、有價值觀的人,會變得更值錢。」
稀缺的,永遠是會"提好問題"的人,而不是會"回答問題"的人。
現在該做什麼
Greg 被問到:創業者該怎麼在這個環境裏建公司?
他的回答很簡單,但很紮實:
「第一,現在就用這些工具,而不是等它們更好了再用。」
他說,從去年12月到現在,agentic coding 工具從"幫你寫20%的代碼"變成"幫你寫80%的代碼"——這不是量變,是質變,是從配角變成主角。
「第二,真正理解 AI 在哪裏弱,而不只看它在哪裏強。」
用過才知道。聽別人講 AI 很厲害,和自己真的用它跑一個真實任務,是完全不同的認知。
「第三,開始思考你的"注意力策略"。」
什麼事情值得你親自判斷?什麼事情可以讓 AI 自動處理?什麼時候你必須介入?這些問題,現在就需要想清楚。
因為 AI 會越來越快,越來越主動,越來越"覺得自己在幫你"。
如果你不主動定義自己的注意力邊界,它會替你定義。
有人問 Greg:十年後還會有人類軟件工程師嗎?
他沒有給確定的答案,但他說了一件有意思的事:
圍棋 AI 出現以後,很多人以為圍棋對人類就不重要了。但事實是,AI 的出現讓圍棋對人類變得更有趣、更重要了。
也許,大多數領域都會這樣。
AI 不是終點。它是一個加速器,讓"真正重要的人類能力"變得更值錢,同時讓"可以自動化的工作"快速消失。
問題只有一個:「你的能力,在這條分界線的哪一側?」
❝原文連結:https://www.youtube.com/watch?v=bBS93A0BeNI
❞