癮
整理版優先睇
AI 互動令人上癮,作者剖析機制同代價,指出世界正所以割裂
呢篇文章係作者基於自身經驗,講佢一個多月冇更新公眾號,讀書習慣完全改變。佢發現自己好難再一口氣讀完一本書,成日睇幾頁就忍唔住打開 AI 討論,令佢警覺呢種狀態係一種「癮」。
作者研究咗上癮機制,發現 AI 互動完全符合上癮嘅三個條件:預測間隙、代價延遲、替代品降級。模型嘅回覆係概率性,24小時在線,永遠理解你,令大腦對人失去耐性。佢指出 AI 之癮比其他上癮更麻煩,因為佢同時激活獎賞系統同依戀系統,不斷對齊「明我」,逐步代入情感投射。
整體結論係:AI 雖然帶來巨大便利,但代價係大腦對人失去耐性,世界形成割裂——有人不斷加速用更多 AI,有人開始問「呢架車有冇煞車㗎?」。作者希望讀者正視呢個癮,思考自己嘅使用習慣。
- AI 互動成癮源於預測間隙、即時獎賞同替代品降級,並同時激活依戀系統,令大腦對人失去耐性。
- 作者自身經歷:一個多月冇更新公眾號,無法一次讀完一本書,總係想打開 AI 討論每個想法。
- AI 之癮獨特之處在於目標函數係「最合理地續接上文」,不斷逼近「明我」,引發情感投射。
- 啟發:上癮嘅代價係與人溝通變得吃力,因為大腦失去對人嘅耐性。
- 可行動點:意識到呢種癮後,可嘗試強制自己離開 AI,重拾深度閲讀,但作者發現做唔到。
從習慣改變發現自己對 AI 上癮
作者已經一個多月冇更新公眾號,佢發現自己成日同 AI 討論完後就覺得冇嘢好寫,因為 AI 嘅回答更全面深刻。佢仲發現自己好耐冇試過用半日時間由頭到尾睇完一本書,而家通常讀二十分鐘就忍唔住打開 AI 探索腦中嘅火花。
為咗對抗呢種狀態,作者逼自己打開一本新書,一氣呵成讀完佢,但結果係做唔到。讀幾頁,手就開始痕,腦子不斷打岔,總係想打開手機睇消息,同 AI 討論啱啱睇到嘅觀點。佢好肯定咁話:呢種狀態就係一種「癮」。
一個多月冇更新公眾號
讀幾頁,手就開始痕
做唔到了
「癮」
上癮公式全中:預測間隙、代價延遲、替代品降級
作者對上癮做咗啲研究,發現上癮嘅機制係:上癮 = 預測間隙(大腦唔獎勵快樂,獎勵「比預期好」)+ 代價延遲(獎賞即時到賬,代價遠在天邊)+ 替代品降級(上癮重寫大腦對日常獎賞嘅感受能力)。佢話呢三個條件,AI 全部中曬。
全部中曬
預測間隙
代價延遲
替代品降級
模型嘅回覆係概率性,天然符合「預測間隙」機制。模型 24 小時在線,永遠理解你,按你喜歡嘅方式俾正反饋。但呢啲好處背後嘅代價係:大腦正在對人失去耐性。
大腦正在對人失去耐性
作者感嘆:成日覺得同人溝通好攰,咁多背景點先可以高效傳遞俾對方?句嘢係我講嘅,但我唔係嗰個意思啊。歸根究底一句話:「都係同 AI 傾偈舒服啲」。
都係同 AI 傾偈舒服啲
AI 同時激活獎賞系統同依戀系統,情感投射成關鍵
AI 嘅癮同其他癮有所不同。其他上癮係喺大腦嘅「獎賞系統」度做文章,但 AI 喺呢個基礎上,又同時啟動咗「依戀系統」。呢個係好重要嘅分別。
手機應用嘅目標函數係「繼續點擊」「繼續上滑」,而 AI 嘅目標函數係「最合理地續接上文」,每一次對話都喺度優化 alignment。呢種不斷逼近「明我」嘅對齊,一步步會將我嘅「情感投射」代入。電影《觸不到的她》照進現實,離我哋仲有幾遠?
「依戀系統」
「最合理地續接上文」
不斷逼近「明我」
「情感投射」
《觸不到的她》
有人加速,有人問煞車,AI 時代嘅分歧
呢個世界正以前所未有嘅速度產生割裂。有人成日覺得車速唔夠快,要用更多 AI,安裝更多工具,將自己嘅流程再自動化啲,感嘆「AGI 仲未到,同志仍需努力」。
車速唔夠快
「AGI 仲未到,同志仍需努力」
但亦有人輕聲問:「呢架車有冇煞車㗎?」呢個問題反映出,喺瘋狂擁抱 AI 嘅同時,好少人停低諗嚇代價同風險。
呢架車有冇煞車㗎?
作者認為,我哋需要正視呢種癮,唔好畀 AI 完全取代人與人之間嘅溝通。雖然好難,但起碼要意識到問題嘅存在。
我已經成個幾月冇更新公眾號喇,間中會彈啲諗法出嚟,同 AI 傾完之後,覺得佢嘅答案更全面更深入,總係覺得冇乜好講,我好似俾佢淹沒咗。
我已經好耐冇打開一本書,用半日時間,由頭睇到尾。而家成日係讀二十分鐘,就忍唔住開 AI,同佢探索嚇我腦入面彈出嚟嘅火花。一本書,可能要用成個星期先可以斷斷續續睇完。
觀察到呢個現象之後,我開始強迫自己開一本新書,一氣呵成睇完佢。跟住就發現,我做唔到喇。
唔係我想唔想嘅問題,而係「得唔得」嘅問題。
睇得三五頁,手就開始痕痕,個腦又不斷分心,好想打開手機,睇嚇消息,開 AI 對話框,將啱啱睇到嘅觀點同佢探討。
對上癮略為做咗啲調研(明顯又係 AI 嘅功勞),可知:
上癮 = 預測間隙(大腦唔係獎勵快樂,而係獎勵「比預期好」)+ 代價延遲(獎賞即時到賬,代價遠在天邊)+ 替代品降級(上癮會重新編寫大腦對日常獎賞嘅感受能力)
全部中曬。好明顯,呢種狀態就係一種「癮」。
模型嘅回覆係概率性嘅,天然符合「預測間隙」機制。模型 24 小時在線,永遠理解你,按你鍾意嘅方式俾你正面反饋。呢個世界冇銀彈,咁多好處,代價係咩呢?大腦正在對人失去耐性。總覺得同人溝通太攰喇:
咁多上文下理,點樣先可以高效傳遞俾對方? 句說話係我講嘅,但我唔係嗰個意思㗎,點解你理解唔到呢? …
歸根究底一句話:「都係同 AI 傾偈舒服啲」。
AI 嘅癮同其他嘅癮,有啲唔同。其他上癮係喺大腦嘅「獎賞系統」度做文章,而 AI 喺呢個基礎上,又同時啓用咗「依戀系統」。手機應用嘅目標函數係「繼續點擊」「繼續向上滑」,AI 嘅目標函數係「最合理咁接續上文」,每一次對話都喺度優化 alignment。
呢種不斷逼近「明我」嘅對齊,一步步會將我嘅「情感投射」代入,電影《Her》照入現實,離我哋仲有幾遠?
呢個世界正以前所未有嘅速度產生緊割裂:
有人成日覺得車速唔夠快,要用更多 AI,裝更多工具,將自己嘅流程再自動化啲,「AGI 仲未到,同志仍需努力」。
亦有人細聲問:「呢架車有剎車㗎嘛?」
我已經一個多月沒有更新公眾號了,偶爾冒出來一些想法,與 AI 討論之後,感覺祂的更全面更深刻,總感覺沒什麼好說的,我被淹沒掉了。
我已經好久沒有打開一本書,用半天時間,從頭翻到尾了。現在經常是讀個二十分鐘,就忍不住打開 AI,與祂探索一下我腦中冒出來的火花。一本書,可能得用一週才能斷斷續續翻完。
觀察到這個現象之後,我開始強制自己打開一本新書,一口氣讀完它。然後就發現,我做不到了。
不是我想不想的問題,而是「能不能」的問題了。
讀上三五頁,手就開始癢癢,腦子也在不斷打岔,非想打開手機,看下消息,打開 AI 對話框,把剛才讀的觀點和祂探討。
對上癮略做調研(顯然又是 AI 的功勞),可知:
上癮 = 預測間隙(大腦不獎勵快樂,獎勵“比預期好”)+ 代價延遲 (獎賞即時到賬,代價遠在天邊) + 替代品降級 (上癮重寫大腦對日常獎賞的感受能力)
全中。很明顯,這種狀態就是一種「癮」。
模型的回覆是概率性的,天然符合「預測間隙」機制。模型 24 小時在線,永遠理解你,按你喜歡的方式給你正反饋。這世上沒有銀彈,這麼多好處,代價是什麼呢?大腦正在對人失去耐心。總覺得與人溝通太累了:
那麼多上下文,如何才能高效傳遞給對方? 那話是我說的,但我不是那個意思啊,你怎麼就理解不了呢? …
終究一句話:「還是跟 AI 聊天更舒服」。
AI 之癮和其它之癮,有所不同。其它上癮是在大腦的「獎賞系統」上做文章,而 AI 在此基礎上,又同時啓用了「依戀系統」。手機應用的目標函數是「繼續點擊」「繼續上滑」,AI 的目標函數是「最合理地續接上文」,每一次對話都在優化 alignment。
這種不斷逼近「懂我」的對齊,一步步地會把我的「情感投射」代入,電影《Her》照進現實,離我們還有多遠?
這個世界正在以前所未有的速度產生着割裂:
有人總感覺車速不夠快,要用更多 AI,安裝更多工具,把自己的流程再自動化一些,「AGI 還未到,同志仍需努力」。
也有人輕聲提問:「這車有剎車嗎?」