午夜视频在线网站,日韩视频精品在线,中文字幕精品一区二区三区在线,在线播放精品,1024你懂我懂的旧版人,欧美日韩一级黄色片,一区二区三区在线观看视频

分享

真正的高手,都是貝葉斯主義者

 碧海藍(lán)天kx32di 2023-06-20 發(fā)布于山東

“我孤獨地生活著,

年輕時感到痛苦,

成熟之年卻甘之如飴。”

愛因斯坦


“你生命中最大的挑戰(zhàn)是什么?”
在某個論壇上,埃隆·馬斯克面對這個問題,足足想了30秒,給出了一個非常精彩的回答:
確保你有一個可糾錯的反饋閉環(huán)。
可糾錯的反饋閉環(huán),幾乎是“創(chuàng)業(yè)、投資、成長”等問題的核心答案。
然而,如果不能將其與貝葉斯公式的計算結(jié)合起來,這個提法就和所有解釋性概念一樣,只能作為一篇熱銷文章或圖書的標(biāo)題而已。
反之亦然。貝葉斯公式伴隨著AI的再次火熱,又頻繁出現(xiàn)在人們面前。
本文將從“可糾錯的反饋閉環(huán)”和“貝葉斯公式”兩頭出發(fā),給出一個不確定年代尤顯重要的思考和行動框架:
1、接受不確定性,用概率思維來預(yù)測和決策;
2、快速行動和迭代,打造“知行一體”的反饋飛輪;
3、用貝葉斯公式實現(xiàn)“有系統(tǒng)”的復(fù)利效應(yīng);
4、重視基礎(chǔ)概率基于整體資產(chǎn)滾雪球;
5、對新信息保持“敏感,又有獨立判斷的“鈍感”;
6、別太完美,降低自己被證偽的概率
7、成為學(xué)習(xí)機(jī)器在適應(yīng)中快速進(jìn)化;
8、探索未知 & 利用已知,在攻和守之間進(jìn)行權(quán)衡;
9、理解貝葉斯的局限,小心應(yīng)對黑天鵝事件。
基于以上9個要點,我們就能更完整地理解“可糾錯的反饋閉環(huán)”。?????
這是貝葉斯主義的現(xiàn)實模型,也是“真正的高手”的秘密。
貝葉斯主義是一種關(guān)于概率和統(tǒng)計的哲學(xué)觀點,它強(qiáng)調(diào)信念的主觀性和更新。在該觀點中,貝葉斯公式是一個核心的工具,用于處理不確定性,更新信念,并指導(dǎo)決策。
總的來說,貝葉斯公式與很多關(guān)于知識、學(xué)習(xí)、不確定性和決策的哲學(xué)思想有關(guān)。它提供了一種強(qiáng)大的框架,用于理解和處理這些復(fù)雜的問題。
以下,是一位貝葉斯主義者的九個策略。

策略一
接受不確定性
用概率思維來預(yù)測和決策

大約是在三年前,一位年輕的老師有很好的內(nèi)容,想在抖音和視頻號上做自己的IP,但是她又擔(dān)心:萬一自己辛苦一番,抖音和視頻號又不火了呢?
“確保成功”,似乎是很多人做決定的前提。但這個世界上并沒有什么事情是確定的。
殘酷的一面是,越是追求”確保成功“的人,反而越脆弱,越容易掉入決策的陷阱。例如,市面上的種種騙術(shù)都是以”確保成功“為吸引點的。
不光騙子如此,流行文化,甚至主流文化也因為實用主義的偏好,而形成了“要么成功要么失敗”的黑白分明價值觀。
一個朋友對我說,短視頻的流行密碼,就是兩個:
1、承諾只要做以下三點,你就可以實現(xiàn)某某目標(biāo);
2、只要實現(xiàn)第一點,你就能發(fā)財。
于是,面對不確定性,黑白分明的世界觀容易產(chǎn)生兩種極端的行為:
  • 要么“不見兔子不撒鷹”,追求不存在的“確保成功”;
  • 要么“人生就是賭一把”,見一個熱點就“All in”一個。
對于貝葉斯主義者,世界是灰度的。原因如下:
1、沒有人能否給這個復(fù)雜的世界算命;
2、隨著時間的變化,一切都在變化;
3、即使存在如上不確定性,世界也很難精確預(yù)測,但我們?nèi)匀豢梢杂酶怕蕘砻枋鍪澜纾?/span>
4、從世俗成敗的角度看,贏家只需要在局部獲得相對優(yōu)勢,就能夠領(lǐng)先于對手。所以,很多贏家只要獲勝的概率比贏家多幾個百分點,就能夠成功;
5、基于概率的認(rèn)知和判斷,是一個不斷逼近、不斷進(jìn)化的過程。
對不確定性的接受和理解,是貝葉斯思維的核心。我們需要接受事物的不確定性,并利用概率來描述和理解它。
面對不確定性,貝葉斯思想鼓勵我們不怕犯錯誤,嘗試新的事物,從失敗中學(xué)習(xí),調(diào)整策略,這與實現(xiàn)個人成長的過程非常匹配。
概率不僅用于量化現(xiàn)實世界的不確定性,也用于評估我們自己的質(zhì)量。
在面臨選擇時,貝葉斯思維鼓勵我們基于概率來做決策,而非絕對肯定或否定。這能夠幫助年輕人更好地處理復(fù)雜的決策問題。
橋水基金使用了一種稱為'貝葉斯加權(quán)'的決策過程,這個過程明確地將貝葉斯推理納入了決策過程中。
該公司使用算法來分配決策權(quán)重,這是一種基于貝葉斯推理的決策過程,對于每一個決策,該公司都會將決策者的可靠性、專業(yè)知識等因素考慮進(jìn)來,然后根據(jù)這些因素分配權(quán)重,最終做出決策。
對比起頻率派,貝葉斯主義者對概率的理解有所不同。
貝葉斯主義認(rèn)為,概率是一個假設(shè)的信念。例如:某只股票明天上漲的概率是多大?你可以說:我認(rèn)為上漲的概率是30%。這是一種主觀的信念,并且你會根據(jù)更多的信息隨時更新自己的信念。
所以,面對不確定性,對于某件你感興趣的事情,你可以大概有一個評估,然后先干起來再說。
舉例說明如下:哪種策略更有效?
假設(shè)一個公司在其網(wǎng)站上運行了兩種廣告:廣告A和廣告B,目標(biāo)是找出哪種廣告的點擊率更高。
初始時,公司并不知道哪種廣告的效果更好,因此,他們假設(shè)兩種廣告的點擊率都是50%。
公司開始在網(wǎng)站上隨機(jī)展示這兩種廣告。每次有用戶點擊了廣告,公司就會收到一個反饋。根據(jù)這個反饋,公司就可以更新他們對廣告點擊率的估計。具體的更新也是通過貝葉斯公式來完成。
例如,如果一個用戶點擊了廣告A,那么公司就會提高他們對廣告A點擊率的估計;如果用戶沒有點擊,那么公司就會降低他們對廣告A點擊率的估計。
通過不斷的實驗和更新,公司最終會找出哪種廣告的效果更好。
從上述被簡化了的例子,我們大約可以將公司或者個人分為兩種:
a、遇到不同策略選擇時,一群人討論來分析去;
b、遇到不同策略選擇時,把幾種看起來可行的都試一下。
人們總說騰訊喜歡用賽馬機(jī)制,最經(jīng)典的例子是微信的誕生--幾個團(tuán)隊一起開發(fā),看最后誰跑出來。
用“賽馬”來描述該策略,并不精確。因為贏家并非是最快的,而是最適應(yīng)的。而這種適應(yīng)性無法預(yù)測,只能先將幾種策略一起跑跑看。
貝葉斯更新是一種方法,它使用貝葉斯公式來更新我們對某個假設(shè)的信念。具體來說,貝葉斯更新包括以下步驟:
1、我們首先有一個對某個假設(shè)(例如,某封郵件是垃圾郵件)的先驗信念。這個信念通常表示為一個概率。
2、然后,我們收集新的數(shù)據(jù),這些數(shù)據(jù)可能會影響我們對假設(shè)的信念。在貝葉斯統(tǒng)計中,我們使用貝葉斯公式將這些新的數(shù)據(jù)與我們的先驗信念結(jié)合起來,得到一個更新的信念,這個更新的信念被稱為后驗信念。
貝葉斯更新的關(guān)鍵思想是:
我們的信念不是固定不變的,而是可以根據(jù)新的數(shù)據(jù)進(jìn)行更新的。
而貝葉斯公式提供了一個理論框架,指導(dǎo)我們?nèi)绾胃鶕?jù)新的數(shù)據(jù)更新我們的信念。
概括而言,就是:
1、保持開放;
2、灰度思考;
3、先干為敬。

策略二
快速行動和迭代
打造“知行一體”的反饋飛輪

貝葉斯思想強(qiáng)調(diào)快速迭代、快速行動。只有通過實踐,我們才能得到反饋,從而不斷學(xué)習(xí)和進(jìn)步。
我們總是說“知行合一”,但這個詞到底啥意思呢?
知行合一,簡稱知行,是明朝政治家、哲學(xué)家王守仁闡述的一種哲學(xué)與世界觀的方法。
在知與行的關(guān)系上,王守仁從“天地萬物本吾一體”出發(fā),強(qiáng)調(diào)要知,更要行,知中有行,行中有知,所謂“知行合一”,二者互為表里,不可分離。知必然要表現(xiàn)為行,不行則不能算真知。
如上哲學(xué)當(dāng)然很好,但缺乏一個物理意義上的結(jié)構(gòu)。
貝葉斯公式給出了“知行”動力學(xué)模型。
先來看一下公式:
數(shù)學(xué)的角度來看,貝葉斯公式是這樣的:
P(H|E) = [P(E|H) * P(H)] / P(E)
其中:
  • P(H|E) 是后驗概率,即在觀察到新的數(shù)據(jù)E后,假設(shè)H成立的概率;
  • P(E|H) 是似然度,即在假設(shè)H成立的情況下,觀察到數(shù)據(jù)E的概率;
  • P(H) 是先驗概率,即在沒有觀察到新的數(shù)據(jù)前,假設(shè)H成立的概率;
  • P(E) 是證據(jù)或邊緣概率,即無論假設(shè)是否成立,觀察到數(shù)據(jù)E的總概率。
在這個公式中,決策者,又或者是智能體,通過計算后驗概率,將新的觀察數(shù)據(jù)(E)和原有的信念(H)整合在一起。這個后驗概率可以用于指導(dǎo)智能體的后續(xù)行動,例如在強(qiáng)化學(xué)習(xí)中選擇哪一個動作。
貝葉斯公式極其簡單,卻也非常繞人。
讓我們用一個簡單的貝葉斯計算,來看看人(或是“智能體”)如何學(xué)習(xí)經(jīng)驗。
題目:黑盒子里有兩個骰子,一個是正常骰子,扔出數(shù)字6的概率是1/6;一個是作弊骰子,扔出數(shù)字6的概率是1/2。
這時,你從中摸出一個骰子,扔了一次,得到一個6。
請問:你再扔一次得到6的概率是多大?
在沒有觀察到新的數(shù)據(jù)前,這個骰子可能是正常骰子,也可能是作弊骰子,概率各為1/2,這是先驗概率
現(xiàn)在,根據(jù)信息“扔出數(shù)字6”,來計算這個骰子是正常骰子和作弊骰子的概率分別是多大。
請允許我跳過貝葉斯公式快速計算如下。
是正常骰子的概率為:1/6 ÷(1/6+1/2)=1/4
是作弊骰子的概率為:1/2 ÷(1/6+1/2)=3/4
通過貝葉斯更新,更新這個骰子的信息。原來的先驗概率是各1/2,但現(xiàn)在后驗概率分別是1/4(正常骰子)和3/4(作弊骰子)。
那么,再扔一次,得到6的概率是多大呢?
這里的關(guān)鍵是:將上面的到的后驗概率變成新的一輪計算的先驗概率
再得到一個6的概率計算,相當(dāng)于在更新之后的先驗概率基礎(chǔ)之上做預(yù)測,計算如下:
1/4×1/6+3/4×1/2=5/12。
從本質(zhì)層面理解如上這個簡單的計算并不是容易的事情:
兩次扔骰子都是獨立事件,為什么第一次扔骰子得到6的概率和第二次的概率不一樣?
貝葉斯概率的解釋是,第一次扔骰子得到6的這一結(jié)果,作為信息,更新了我們對第二次扔骰子得到6的概率的判斷。
疑惑的人會繼續(xù)問:骰子沒有記憶,為什么第一次的結(jié)果會“改變”第二次結(jié)果呢?
答案是:沒有改變結(jié)果,只是改變了“信念”。
即使扔了兩次骰子,我們依然不知道這個骰子是正常的還是作弊的,但我們可以帶著這種不確定性向前走,為此需要“猜”這個骰子是正常還是作弊的概率。這個概率,就是信念。
根據(jù)信息的變化,快速更新,體現(xiàn)了某種達(dá)爾文式的進(jìn)化。
從這個角度看,貝葉斯推理起初或許弱小含混,卻有主動適應(yīng)性,從經(jīng)驗中不斷學(xué)習(xí),并快速演化。
以本題為例:第二次扔骰子,從第一次骰子的結(jié)果中學(xué)習(xí)了經(jīng)驗,從而令預(yù)測更加精確。
這個過程還可以不斷重復(fù),如同發(fā)動機(jī)般,從而產(chǎn)生了決策和智能的杠桿效應(yīng)。--這一點,我將在下一節(jié)詳細(xì)闡釋。
在人工智能中,智能體通常通過從經(jīng)驗中學(xué)習(xí)來變得更加“聰明”。這種學(xué)習(xí)通常涉及到對環(huán)境的觀察,通過這些觀察來改變智能體的行為。這種改變可能是通過改變智能體對世界的理解(即它的模型),或者是通過改變智能體決定采取什么樣的行動(即它的策略)。
貝葉斯公式在這個過程中起到了關(guān)鍵的作用。這是因為貝葉斯公式提供了一種方法,可以將新的數(shù)據(jù)(或觀察)與我們現(xiàn)有的信念結(jié)合起來,從而得到更新的信念。
這種更新的過程,也就是貝葉斯更新,是學(xué)習(xí)的一個關(guān)鍵部分。
通過貝葉斯更新,智能體可以從每一次的觀察和交互中學(xué)習(xí),不斷地更新它對世界的理解。這樣,智能體就可以不斷地改進(jìn)它的模型和策略,從而變得更加“聰明”。
對高手而言,貝葉斯公式描述的是一個觀念更新的過程:
初始信念(先驗概率)-大膽行動(獲得新信息)-更新信念(后驗概率)。
然后,再重復(fù)如上過程。
圖片
如上圖,可以這樣理解:
人(智能體)通過貝葉斯公式,把知識(經(jīng)驗)和行動(決策)整合在一起了。
哲學(xué)的角度來看,貝葉斯公式反映了一種'學(xué)習(xí)的哲學(xué)':我們的信念應(yīng)該是靈活的,能夠在新的證據(jù)面前進(jìn)行調(diào)整。
在這種觀念下,智能體不是單純地根據(jù)新的觀察來行動,也不是固執(zhí)地依據(jù)舊的信念行動,而是通過貝葉斯公式,將新的觀察和舊的信念結(jié)合起來,形成一種更新、更有信息的信念,以此來指導(dǎo)行動。
這種觀念反映了一個核心的理念:
我們的知識、理解和決策都是在不斷變化和發(fā)展的,它們是通過反復(fù)的學(xué)習(xí)、試驗和調(diào)整,逐漸逼近真實世界的復(fù)雜性的。
由此,我們可以覺察到:“知行合一”這個詞可能被誤用了。
例如,我有個做地產(chǎn)的朋友,好幾年前就判斷大勢下行,準(zhǔn)備盡快變現(xiàn),但直到這兩年才大力行動,但似乎已經(jīng)錯過最佳時機(jī)了。
他是個認(rèn)知和行動能力都極高的人,但仍然謙虛地反省自己不夠“知行合一”。
事實上,按照貝葉斯主義的哲學(xué),“知行合一”絕非是“知”與“行”的一致性,知和行是彼此為踏腳石,互相推動更新。
我們的“知”,包括舊知(經(jīng)驗)和新知(根據(jù)新信息更新后的經(jīng)驗)。但從時候看,我們經(jīng)常會混淆“新信息”和“新知”。
例如,人們經(jīng)常會懊惱地說,我早就知道股票A會大漲100%,一月份的時候我就觀察到一些新信息來證明這一點了。
人們喜歡將此解釋為“我行動力不夠強(qiáng)”,又或是“我太懶了”,但事實也許并非如此。
人對自己是誠實的,你有一個“證明該股票能漲100%的新信息”,但這個新信息并沒有戰(zhàn)勝你的舊知(經(jīng)驗),即使是在該信息的更新下,你的后驗概率依然沒有給你足夠的信心去買入該股票。
所以,沒什么可后悔的。
概括而言,貝葉斯公式通過提供一種系統(tǒng)化的方法來更新信念,使得智能體能夠從經(jīng)驗中學(xué)習(xí),并不斷地改進(jìn)自己的模型和策略,從而變得更加“聰明”。
這里面有幾個關(guān)鍵詞:
系統(tǒng)化,模型,策略。
沒錯,假如沒有自己的模型,不是基于一個系統(tǒng),貝葉斯公式并不能幫助一個人成為真正的高手。

策略三
用貝葉斯公式
實現(xiàn)“有系統(tǒng)”的復(fù)利效應(yīng)
貝葉斯主義者,需要有自己的模型,基于一個系統(tǒng),通過不斷重復(fù)的連續(xù)性策略,產(chǎn)生復(fù)利效應(yīng)。
如下圖:

圖片

貝葉斯更新就像復(fù)利一樣,將之前的學(xué)習(xí)結(jié)果積累起來,作為新一輪學(xué)習(xí)的基礎(chǔ)。這就是所謂的'站在巨人的肩膀上'。
貝葉斯思維鼓勵我們積累經(jīng)驗,形成長期的復(fù)利效應(yīng)。
我在《人生算法》里提及的,基于某個內(nèi)核,然后大規(guī)模重復(fù),也是這個意思。
真正的高手,有自己的內(nèi)核,自己的系統(tǒng),過的是一種“有算法的人生”。
關(guān)于貝葉斯主義的復(fù)利,最好的辦法是用一個可計算的例子來示范。
密歇根大學(xué)曾經(jīng)設(shè)計過一個有趣的概率實驗:
滿滿兩口袋籌碼放在被試面前,每只口袋里都有紅白兩種顏色的籌碼。其中一只口袋里,75%的籌碼是白色,25%的籌碼是紅色。另一只口袋里正好相反,75%是紅色,25%是白色。被試隨機(jī)挑選一只口袋,然后把籌碼一個接一個往外拿,其間不得向袋子里面看。每拿出一個籌碼,他都需向研究人員匯報他的猜測:他手中的袋子究竟是白色籌碼居多,還是紅色籌碼居多?
假如你拿出紅色的籌碼,根據(jù)貝葉斯公式計算,你肯定會猜,來自紅色籌碼多的袋子的可能性更大。
請注意,問題來了:假如連續(xù)三次都拿出了紅色的籌碼,你認(rèn)為來自紅色籌碼居多的袋子的概率是另一種的多少倍?
在實驗中,被試者認(rèn)為來自紅色籌碼居多袋子的概率變成3倍
實際上呢?根據(jù)貝葉斯公式計算,其實概率變成了27倍。
(以上案例來自《思維的發(fā)現(xiàn)》,原文敘述有含糊之處,我略作調(diào)整。該過程我在此前的文章里做過計算。)
如上計算,生動而直觀地呈現(xiàn)出了貝葉斯計算的指數(shù)式增長的復(fù)利效應(yīng)。
這里的關(guān)鍵詞,除了“系統(tǒng)、內(nèi)核、大規(guī)模重復(fù)、復(fù)利”,還有一個詞:
自動化。
計算機(jī)和人工智能的出現(xiàn)對貝葉斯公式的應(yīng)用產(chǎn)生了重大影響。雖然貝葉斯公式在18世紀(jì)就被提出了,但在很長一段時間里,由于計算需求,它在實踐中的應(yīng)用受到了限制。然而,計算機(jī)的出現(xiàn)改變了這一點。
1、計算能力的提升: 貝葉斯公式的應(yīng)用,特別是在復(fù)雜的情況下,需要大量的計算。計算機(jī)的出現(xiàn)使得這些計算成為可能,使得我們可以更有效地應(yīng)用貝葉斯公式。
2、數(shù)據(jù)的增長: 貝葉斯公式的應(yīng)用需要數(shù)據(jù),而在數(shù)字化時代,我們擁有了前所未有的大量數(shù)據(jù)。這些數(shù)據(jù)提供了更多的證據(jù),使我們能夠更好地應(yīng)用貝葉斯公式來更新我們的信念。
3、算法的進(jìn)步: 計算機(jī)和人工智能的發(fā)展不僅提供了計算能力,還提供了更先進(jìn)的算法。例如,馬爾可夫鏈蒙特卡洛(MCMC)算法就是一種用于進(jìn)行復(fù)雜貝葉斯計算的方法,它的發(fā)展和應(yīng)用在很大程度上得益于計算機(jī)和人工智能的進(jìn)步。
4、實現(xiàn)自動化: 計算機(jī)和AI的出現(xiàn),使得貝葉斯公式的使用可以自動化,不需要人工進(jìn)行復(fù)雜的計算。這使得貝葉斯公式在各種情況下,如機(jī)器學(xué)習(xí)、自動駕駛等,都得以廣泛應(yīng)用。
可以說,技術(shù)的發(fā)展使得貝葉斯公式更強(qiáng)大,提供了我們理解和處理不確定性、做出決策的新工具。
做一個小結(jié):
1、貝葉斯公式需要基于一個系統(tǒng);
2、數(shù)字化和AI可以令其自動化,并以更大規(guī)模自我復(fù)制和進(jìn)化。

策略四
重視基礎(chǔ)概率
基于整體資產(chǎn)滾雪球

基礎(chǔ)概率是老生常談的話題。
例如:去魚多的地方捕魚。
這里面的基礎(chǔ)概率,大約包含“空間、時間、可能性”這三種。
例如,中國的首富一直是農(nóng)夫山泉的老板,一個重要的原因是:2022年中國飲料市場約為12478億,其中包裝飲用水占比約為62.7%。
基數(shù)夠大。水深魚大。這是關(guān)于空間的基礎(chǔ)概率
時間的基礎(chǔ)概率,可以舉一個反面例子:
投資者經(jīng)常基于過去的走勢來預(yù)測股票的未來表現(xiàn),但忽視了基礎(chǔ)概率。過去的走勢并不能保證未來的表現(xiàn),每一次的市場表現(xiàn)都是獨立的。人們經(jīng)常因為局部時間的漲跌概率,而忽視了更長時間的基礎(chǔ)概率(漲或跌)。
有句話說:近處很難預(yù)測,遠(yuǎn)處反而容易預(yù)測。這里所說的遠(yuǎn)期預(yù)測,更像是相對穩(wěn)定的基礎(chǔ)概率。
至于可能性的基礎(chǔ)概率,更是常常被人們忽視。
例如,賭場的游戲中,每種游戲的勝率都對賭場有利,這是基礎(chǔ)概率。但是許多賭博者可能因為贏了幾次而過度自信,認(rèn)為自己有戰(zhàn)勝賭場的策略或者運氣。他們忽視了賭博的基礎(chǔ)概率。
這一節(jié)的話題,倒像是關(guān)于復(fù)利本質(zhì)的探討。
好的基礎(chǔ)概率,像是說“很長的坡和很厚很濕的雪”。
對于滾雪球者,要有自己的內(nèi)核(先驗概率),才能滾起雪球。
并且,每一次新滾一圈,都是以整體雪球作為基數(shù)。
在這里,稍微區(qū)分一下基礎(chǔ)概率先驗概率
基礎(chǔ)概率(Base Rate)基礎(chǔ)概率是關(guān)于一個類別、事件或條件的總體頻率。例如,假設(shè)你想知道一個隨機(jī)選中的人是否有某種罕見疾病,那么這種疾病在總體中的發(fā)病率就是基礎(chǔ)概率?;A(chǔ)概率是沒有任何額外信息的情況下的默認(rèn)概率。
先驗概率(Prior Probability)在貝葉斯統(tǒng)計中,先驗概率是在觀察到新證據(jù)之前,我們對某一假設(shè)成立的信念。例如,你可能已經(jīng)知道在一個特定的地方,人們患某種疾病的概率比總體的基礎(chǔ)概率要高。這就形成了你對這個人是否患有這種疾病的先驗概率。
一般來說,當(dāng)我們獲得新的證據(jù)時,我們會利用貝葉斯定理更新我們的先驗概率,得到后驗概率。基礎(chǔ)概率可以被看作是一種特殊的先驗概率,即沒有任何特定證據(jù)的先驗概率。
做個小結(jié),本節(jié)講述了某種全局觀:
我們做決策的時候,要眼觀全局,基于整體資產(chǎn)來選擇,并以整體資產(chǎn)的增長率來評判決策與行動的質(zhì)量。

策略五
對新信息保持“敏感”
又有獨立判斷的“鈍感”

好的思想都是基于某種看似對抗的張力。
仿佛是一把弓箭。
貝葉斯公式告訴我們,對新信息保持“敏感”,又要考慮基礎(chǔ)概率和先驗概率,保持獨立判斷的“鈍感”。
1、對新信息保持“敏感”:貝葉斯公式告訴我們,當(dāng)新信息(證據(jù))到來時,我們應(yīng)該更新我們的信念(概率)。這種對新信息的'敏感'表現(xiàn)在我們?nèi)绾胃鶕?jù)新的證據(jù)來修正我們的看法。
例如,如果你是一個產(chǎn)品經(jīng)理,當(dāng)你得到用戶反饋說你的產(chǎn)品有某些問題時,你應(yīng)該更新你對產(chǎn)品質(zhì)量的評估。
2、考慮基礎(chǔ)概率和先驗概率,保持獨立判斷的“鈍感”:然而,我們不能盲目地只考慮新信息,還需要考慮基礎(chǔ)概率和先驗概率。這意味著我們需要結(jié)合我們的初始信念和新的證據(jù)來更新我們的看法。
例如,如果我們的產(chǎn)品在測試階段已經(jīng)表現(xiàn)得非常好(這就是先驗概率),那么,即使我們收到了一些負(fù)面的用戶反饋,我們也不能立即得出產(chǎn)品質(zhì)量差的結(jié)論。我們需要權(quán)衡我們的初步信念(產(chǎn)品質(zhì)量好)和新的證據(jù)(負(fù)面反饋)。
這樣的平衡使我們既對新信息保持敏感,又能保持對我們初步信念的忠實,避免被一些可能的偶然事件或者噪音所誤導(dǎo)。這是一種“鈍感”,因為它需要我們不被單一的證據(jù)所左右,而是要有獨立的判斷能力。
在實踐中,這意味著我們不能僅僅根據(jù)一次或幾次的失敗就對自己的能力或者一個項目的可能性產(chǎn)生懷疑。我們需要考慮我們的長期經(jīng)驗(先驗概率),同時也要對新的反饋保持開放。
用句俗話說,就是:聽人勸、吃飽飯,但又不能聽風(fēng)就是雨。
這大概是“控制情緒”之重要性的本質(zhì)吧,假如你很容易因為某個鮮活的信息過于興奮或者過于惱怒,過于重視一些短期的或者偶發(fā)的事件,忽視了長期的趨勢或者基礎(chǔ)的概率,就很難成為一名貝葉斯主義的高手。
我們在接收新信息時需要進(jìn)行權(quán)衡的重要性,避免被某一次的信息或者事件左右,而是要看看更大的數(shù)據(jù)和更長的時間線。
貝葉斯理論強(qiáng)調(diào)對不確定性的認(rèn)識,鼓勵對新信息、新知識、新觀念保持開放,這有助于我們認(rèn)識到自己的知識或能力可能存在的局限,防止過度自信。
更進(jìn)一步,貝葉斯主義者有自己的內(nèi)核,有自己的系統(tǒng),也就有更多的數(shù)據(jù)。所以,當(dāng)遇到新信息時,應(yīng)該讓數(shù)據(jù)說話。
高手需要學(xué)會如何使用數(shù)據(jù)來支持他們的決策系統(tǒng),而不僅僅依賴于直覺。

策略六
別太完美
降低自己被證偽的概率

貝葉斯推理和波普爾的證偽主義可能看似截然不同,但是它們其實在某種程度上是相似的。
首先,讓我們簡單地回顧一下這兩種思想:
1、貝葉斯推理: 在這個框架中,我們根據(jù)新的證據(jù)不斷地更新我們的信念。我們不斷地在我們的模型或者理論中添加新的信息,并基于這些信息調(diào)整我們的預(yù)測。最關(guān)鍵的是,我們不會徹底拋棄舊的信念,但是我們會根據(jù)新的證據(jù)進(jìn)行調(diào)整。
2、波普爾的證偽主義: 在這個框架中,我們設(shè)立假設(shè),并試圖找到證據(jù)來反駁這個假設(shè)。如果我們找到了這樣的證據(jù),我們就會徹底放棄這個假設(shè)。如果我們沒有找到這樣的證據(jù),我們會繼續(xù)保持這個假設(shè),但是我們?nèi)匀灰掷m(xù)尋找可能反駁這個假設(shè)的證據(jù)。
這兩種思想的一個共同點是,它們都強(qiáng)調(diào)了試錯過程和持續(xù)學(xué)習(xí)的重要性:
在貝葉斯推理中,我們通過觀察和學(xué)習(xí)來改進(jìn)我們的預(yù)測;
在波普爾的證偽主義中,我們通過試圖證偽我們的假設(shè)來改進(jìn)我們的理論。
然而,這兩種思想的一個關(guān)鍵區(qū)別是,貝葉斯推理允許我們結(jié)合新舊信息,而證偽主義則更傾向于拋棄被證偽的理論。
換句話說,貝葉斯推理傾向于逐步改進(jìn)我們的模型,而證偽主義傾向于尋找突破性的改變。
這兩種方法在實際應(yīng)用中往往會結(jié)合使用。
比如在機(jī)器學(xué)習(xí)中,我們會使用貝葉斯方法來更新我們對模型參數(shù)的信念,但同時,我們也會嘗試找到那些能夠證偽我們當(dāng)前最優(yōu)模型的數(shù)據(jù),這樣可以幫助我們發(fā)現(xiàn)更好的模型。
下面用一個簡化版的垃圾郵件過濾貝葉斯模型示范
事實上,識別郵件是垃圾郵件,就是證偽“該郵件是正常郵件”。
為了簡單起見,我們假設(shè)有兩個單詞'賺錢'和'優(yōu)惠',我們想知道一封包含這兩個詞的郵件是否是垃圾郵件。
我們的訓(xùn)練數(shù)據(jù)如下:
1、有100封郵件是垃圾郵件,其中'賺錢'這個詞出現(xiàn)在90封郵件中,'優(yōu)惠'這個詞出現(xiàn)在60封郵件中。
2、有100封郵件是正常郵件,其中'賺錢'這個詞出現(xiàn)在10封郵件中,'優(yōu)惠'這個詞出現(xiàn)在30封郵件中。
我們首先計算單詞'賺錢'和'優(yōu)惠'在垃圾郵件和正常郵件中的概率:
1、P(賺錢|垃圾郵件) = 90/100 = 0.9
2、P(優(yōu)惠|垃圾郵件) = 60/100 = 0.6
3、P(賺錢|正常郵件) = 10/100 = 0.1
4、P(優(yōu)惠|正常郵件) = 30/100 = 0.3
另外,我們假設(shè)垃圾郵件和正常郵件的先驗概率是相同的,都是0.5,因此:
P(垃圾郵件) = P(正常郵件) = 0.5
現(xiàn)在,我們使用貝葉斯公式來計算一封包含'賺錢'和'優(yōu)惠'兩個詞的郵件是垃圾郵件的概率:
P(垃圾郵件|賺錢, 優(yōu)惠) = P(賺錢, 優(yōu)惠|垃圾郵件) * P(垃圾郵件) / P(賺錢, 優(yōu)惠)
我們簡單地假設(shè)'賺錢'和'優(yōu)惠'是獨立的,因此:
P(賺錢, 優(yōu)惠|垃圾郵件) = P(賺錢|垃圾郵件) * P(優(yōu)惠|垃圾郵件) = 0.9 * 0.6 = 0.54
P(賺錢, 優(yōu)惠|正常郵件) = P(賺錢|正常郵件) * P(優(yōu)惠|正常郵件) = 0.1 * 0.3 = 0.03
P(賺錢, 優(yōu)惠) = P(賺錢, 優(yōu)惠|垃圾郵件) * P(垃圾郵件) + P(賺錢, 優(yōu)惠|正常郵件) * P(正常郵件) = 0.54 * 0.5 + 0.03 * 0.5 = 0.285
代入貝葉斯公式,我們得到:
P(垃圾郵件|賺錢, 優(yōu)惠) = P(賺錢, 優(yōu)惠|垃圾郵件) * P(垃圾郵件) / P(賺錢, 優(yōu)惠) = 0.54 * 0.5 / 0.285 = 0.95
這個結(jié)果表明,一封包含'賺錢'和'優(yōu)惠'兩個詞的郵件有95%的概率是垃圾郵件。
“賺錢”和“優(yōu)惠”證偽了“該郵件是一封正常郵件”。
但是,根據(jù)上面的計算,還是有5%的概率不是垃圾郵件。如果非常重要的郵件因此被歸為垃圾郵件,后果是否很嚴(yán)重?
這正是貝葉斯垃圾郵件過濾器面臨的一個常見問題:誤報。
解決這個問題的一種方法是調(diào)整過濾器的閾值。在上面的例子中,我們可以設(shè)定一個規(guī)則,例如只有當(dāng)一封郵件被判定為垃圾郵件的概率超過99%時,我們才將其歸為垃圾郵件。
這樣可以顯著降低誤報的概率,但代價是可能會有更多的垃圾郵件漏過過濾器。
另一種方法是使用更復(fù)雜的模型,例如包含更多特征的模型,或者使用深度學(xué)習(xí)等方法。這些模型可能會提供更好的性能,但同時也會更復(fù)雜,需要更多的計算資源。
在如上貝葉斯公式的計算中,使用了一些證偽的策略。
更大的一個挑戰(zhàn),我將在第九節(jié)探討。
一個貝葉斯主義者非常要注意的一個“坑”是:
當(dāng)你有一個先驗概率的時候,你繼續(xù)獲取信息,極可能會主動選擇那些對你的觀念(先驗概率)有利的,自動屏蔽不利的。
如此一來,貝葉斯公式就完全失效了。??
通過貝葉斯公式,我們可以看到證偽或否定證據(jù)的重要性。批判性思維和證偽思維是科學(xué)研究的核心,也是保持思維開放、防止陷入偏見和過度確定的重要工具。
對于高手而言,證實和證偽同樣重要。
只有如此,才能形成“可糾錯的反饋閉環(huán)”。
如上討論給我們的啟發(fā)是:
1、降低自己被證偽的風(fēng)險,不要追求完美;
2、少點兒人設(shè),少點兒標(biāo)簽,否則更易被證偽,裝逼被雷劈;
3、陰謀論絕大多數(shù)都是假的,因為有太多假設(shè),太容易被證偽。

策略七
成為學(xué)習(xí)機(jī)器
在適應(yīng)中快速進(jìn)化

貝葉斯公式的原理和哲學(xué)與適應(yīng)性和進(jìn)化理性有深度的關(guān)聯(lián)。我們可以從以下幾個方面來進(jìn)行理解:
1、學(xué)習(xí)和適應(yīng)性:貝葉斯公式是基于新的數(shù)據(jù)更新我們的觀念和信念,這種動態(tài)調(diào)整和學(xué)習(xí)的過程與生物的適應(yīng)性有很強(qiáng)的相似性。
生物在環(huán)境中通過進(jìn)化來適應(yīng)環(huán)境,而貝葉斯公式則提供了一種在不斷變化的數(shù)據(jù)環(huán)境中更新理解和決策的方式。
2、不確定性和進(jìn)化理性:貝葉斯方法是一種處理不確定性的方法,它接受并積極地使用不確定性,而不是嘗試消除它。這種對不確定性的認(rèn)識與進(jìn)化理性的概念相吻合。
進(jìn)化理性是一種認(rèn)識到我們的決策可能并不總是理性的,但是在進(jìn)化的過程中,它們?yōu)槲覀兊淖嫦忍峁┝松娴膬?yōu)勢。
在這個意義上,即使面臨不確定性,貝葉斯方法也能夠提供最優(yōu)或至少是足夠好的決策。
3、動態(tài)更新和適應(yīng)環(huán)境:生物在自然界中要生存,需要根據(jù)環(huán)境變化做出適應(yīng)性變化,而貝葉斯公式則提供了一種思維模式,讓我們能夠根據(jù)新的信息動態(tài)更新我們的觀點和決策,以最好的方式適應(yīng)我們所在的環(huán)境。
4、淘汰錯誤的假設(shè):貝葉斯公式中,一種假設(shè)(或模型)的概率會根據(jù)觀察到的數(shù)據(jù)進(jìn)行更新。如果一個假設(shè)持續(xù)得到的數(shù)據(jù)支持較少,它的概率就會變小,這就像自然選擇過程中適應(yīng)度較低的物種被淘汰一樣。這種思想與進(jìn)化論中的'適者生存'原則相一致。
綜上所述,貝葉斯公式的原理和哲學(xué)與適應(yīng)性和進(jìn)化理性之間存在緊密的聯(lián)系,它們都強(qiáng)調(diào)了對新信息的接收、動態(tài)更新和在不確定性中做出最優(yōu)決策的重要性。
一個高手,是貝葉斯主義的學(xué)習(xí)機(jī)器。
這里的原理,與“策略三”有類似之處。
概括而言,作為學(xué)習(xí)機(jī)器的高手有如下特征:
1、你要有自己的機(jī)器。
我經(jīng)常批評“知識集郵者”,他們只是收集知識。高手有自己的知識花園,有自己的實踐系統(tǒng),有某個細(xì)分領(lǐng)域之內(nèi)的基于數(shù)據(jù)、經(jīng)驗和專業(yè)的滾雪球人生,而非掰苞米人生。
2、你的機(jī)器必須可證偽、可糾錯。
3、你的機(jī)器每天都比之前聰明一點點。

策略八
探索未知 & 利用已知
在攻和守之間進(jìn)行權(quán)衡

在貝葉斯決策過程中,需要在探索未知利用已知之間進(jìn)行權(quán)衡。
多臂賭博機(jī)問題是一個典型的決策理論問題。這個名字來自于賭場里的老虎機(jī),也叫做'一臂賭博機(jī)',因為它有一個'手臂',你拉下這個手臂就可以開始游戲。
在這個問題中,你面前有n臺賭博機(jī),每臺賭博機(jī)的贏錢概率都不同,但你不知道每臺機(jī)器的具體贏錢概率。
你的目標(biāo)是:
通過一定次數(shù)的嘗試,找出贏錢概率最高的那臺機(jī)器,然后將剩下的押注全部放在這臺機(jī)器上,以此最大化收益。
這個問題中的挑戰(zhàn)在于找到一個合適的策略,這個策略要在探索(嘗試新的機(jī)器以了解它們的贏錢概率)和利用(利用已知的信息,押注贏錢概率高的機(jī)器)之間找到平衡。
貝葉斯思維在這個問題中特別有用。因為每次你嘗試一個機(jī)器,你就獲取了一些新的信息,這個信息可以用來更新你對這臺機(jī)器贏錢概率的信念。
通過不斷地更新你的信念,并使用這個信念來指導(dǎo)你的決策,你就能找到一個較好的探索和利用的平衡,從而最大化你的收益。
舉個簡單的例子:
假設(shè)你面前有兩臺賭博機(jī),你先試了第一臺幾次,發(fā)現(xiàn)贏錢的幾率不高,然后你就轉(zhuǎn)向第二臺機(jī)器。
第二臺機(jī)器的前幾次試玩,你都贏了,于是你就開始對這臺機(jī)器有了信心,決定將更多的押注放在這臺機(jī)器上。
但同時,你還會保留一些押注嘗試第一臺機(jī)器,以防萬一它的贏錢概率有所改變。
這就是在多臂賭博機(jī)問題中利用貝葉斯思維的一個簡單例子。
多臂賭博機(jī)問題其實是生活中“探索與開發(fā)(exploitation)”權(quán)衡的一個模型。這在我們的決策制定,選擇策略以及資源分配上都有重要的啟示。
1、持續(xù)學(xué)習(xí): 貝葉斯思維鼓勵我們積累經(jīng)驗,并根據(jù)新信息更新我們的認(rèn)知。這意味著我們應(yīng)該不斷嘗試新的方法,技能和機(jī)會,以便獲取更多的信息,提高我們做出正確決策的概率。
2、決策平衡: 在生活、工作或者投資等多個領(lǐng)域,我們常常需要在已知的有限資源和未知的可能性之間做出權(quán)衡。
例如,你是否應(yīng)該留在現(xiàn)在的工作,還是去嘗試一份看起來有更多機(jī)會的新工作?是否應(yīng)該投資已經(jīng)穩(wěn)定盈利的公司,還是冒險投資一個有巨大增長潛力的創(chuàng)業(yè)公司?這都是需要權(quán)衡探索與開發(fā)的問題。
3、風(fēng)險管理: 多臂賭博機(jī)模型還提示我們不能完全忽視任何一個可能的選擇,即使它們現(xiàn)在看起來不如其他的選擇。這種思維方式有助于我們管理風(fēng)險,因為我們始終保留了一些資源來對可能性進(jìn)行探索。
4、靈活適應(yīng): 貝葉斯思維也教導(dǎo)我們,當(dāng)環(huán)境變化時,我們需要更新我們的預(yù)期和決策。這是一種靈活的思維方式,有助于我們在不斷變化的世界中保持適應(yīng)性。
所以說,多臂賭博機(jī)問題并不僅僅關(guān)于賭博,更是一種生活哲學(xué)和決策制定策略。
概括而言,我們需要一個攻守兼?zhèn)涞撵`活人生。
我們應(yīng)有一些自由探索,一些隨機(jī)漫步,一些閑暇時光。

策略九
理解貝葉斯的局限
小心應(yīng)對黑天鵝事件

當(dāng)“貝葉斯”遇見“黑天鵝”,會發(fā)生什么?
貝葉斯推理是根據(jù)新的證據(jù)更新信念,而不是推翻舊有的信念。
但是,如果舊有的信念是全世界的天鵝都是白的,這時候觀察到一只天鵝是黑色的,那么我們難道不應(yīng)該徹底推翻所有的天鵝都是白的這一信念嗎?
你也許可以說,貝葉斯主義告訴我們:
你看到一只黑天鵝后,貝葉斯推理將你原先的信念'所有的天鵝都是白的'調(diào)整為'天鵝可以是白的也可以是黑的'或'大多數(shù)天鵝是白色的,但也有一些天鵝是黑色的'。
因此,從這個角度來看,你是在用新的證據(jù)來調(diào)整,而不是完全放棄你的舊信念。
然而,特定的信念(如'所有的天鵝都是白的')可以在遇到反例時被徹底推翻。
如果我們的決策,我們的下注,建立在類似于'所有的天鵝都是白的'這類信念之上,那么新信息可能就不只是“更新原有信念”,而是徹底摧毀原有信念了。
這就是為什么在科學(xué)實踐中,證偽主義的觀點(即,我們應(yīng)該嘗試證偽我們的理論)是非常重要的。
所以芒格說,假如你不能比反對者更高明地證偽你的某個觀點,你就不配擁有那個觀點。
由此,我們可以看到,貝葉斯理論雖然強(qiáng)大且實用,但也有其局限性和缺點:
1、依賴于先驗知識:貝葉斯理論的一個主要缺點是它依賴于先驗知識。在許多情況下,這些先驗信息可能不準(zhǔn)確或者難以獲得。
例如,一位投資者可能基于錯誤的信息,或者對市場的錯誤理解,形成了一個錯誤的先驗信念,這可能導(dǎo)致他們的投資決策出錯。
2、過于理想化的假設(shè):貝葉斯方法往往假設(shè)各個特征是獨立的,這在現(xiàn)實中往往不成立。
例如,當(dāng)我們在評估一家公司的股票時,我們可能會考慮這家公司的許多特征,如財務(wù)健康狀況、市場定位、管理團(tuán)隊等。這些特征之間可能存在著復(fù)雜的相互影響關(guān)系,而不能簡單地視為獨立的。
3、計算復(fù)雜性高:對于復(fù)雜的問題,貝葉斯更新可能涉及到大量的計算。如果參數(shù)很多或者模型很復(fù)雜,那么計算后驗概率可能會非常復(fù)雜和計算密集。
例如,在機(jī)器學(xué)習(xí)中,訓(xùn)練一個貝葉斯網(wǎng)絡(luò)可能需要大量的計算資源和時間。
4、結(jié)果可能過于保守:因為貝葉斯更新融合了先驗信念和新的觀察,所以如果先驗信念過于強(qiáng)烈,那么新的觀察可能不足以顯著改變結(jié)果,這可能導(dǎo)致決策過于保守。
例如,一個堅定的理想主義者,即使面對了新的證據(jù),也可能堅持他的信念,這可能導(dǎo)致他錯過新的機(jī)會或者持續(xù)在錯誤的道路上。
如本文開篇所言,我探討的是“可糾錯的反饋閉環(huán)”和“貝葉斯公式”之間的關(guān)系。
一個“可糾錯的反饋閉環(huán)”再強(qiáng)大,也可能掉入局部最優(yōu)陷阱,或是遭遇“黑天鵝事件”。
結(jié)局可能就是:一路優(yōu)秀,99%的時候成功,但卻只能是平庸的優(yōu)秀。
又或者,一直很好,但遭遇了極小概率的黑天鵝事件,一擊即到,無法翻身。
確實,貝葉斯公式和任何概率模型一樣,有其局限性,特別是在預(yù)測罕見的“黑天鵝”事件時。以下是一些可以嘗試的方法,以緩解或避免這些局限性:
1、合理選擇和更新先驗概率:先驗概率是貝葉斯推理的關(guān)鍵組成部分,一定要盡可能準(zhǔn)確和有信息量。如果先驗概率選擇不當(dāng),可能會導(dǎo)致結(jié)果偏離實際。此外,我們必須時刻準(zhǔn)備根據(jù)新的數(shù)據(jù)來更新我們的先驗概率。
2、采用蒙特卡洛模擬法:蒙特卡洛模擬能夠幫助我們更好地理解概率分布的全貌,包括那些罕見的事件。通過模擬大量可能的情況,我們可以獲得更全面的視角,以期望在遇到“黑天鵝”時,能做出更有準(zhǔn)備的響應(yīng)。
3、壓力測試和情景分析:盡管貝葉斯推理能夠給出一個可能的結(jié)果,但我們還需要進(jìn)行壓力測試和情景分析,以確定我們的系統(tǒng)或決策是否能夠抵御極端事件的影響。
4、注意模型的假設(shè)和局限性:任何模型都是基于某些假設(shè)的,貝葉斯模型也不例外。我們必須清楚這些假設(shè),并了解在什么情況下,這些假設(shè)可能不再適用。當(dāng)我們注意到模型可能不再適用時,我們就需要尋找其他的方法。
5、維持謙遜和開放的心態(tài):面對不確定性,尤其是在面對可能會改變我們的知識或觀念的新信息時,保持謙遜和開放的態(tài)度是至關(guān)重要的。我們需要理解我們的知識和理解都是有限的,永遠(yuǎn)有學(xué)習(xí)和改進(jìn)的空間。
這些方法都需要我們理解和接受,無論我們使用什么模型或方法,都不能完全消除不確定性。我們的目標(biāo)應(yīng)該是:
管理和減輕不確定性,而不是試圖消除它。
這個世界上不存在一個萬能的公式,給你以所謂100%的確定性。

最后
可糾錯的反饋閉環(huán)
串起人生的項鏈

可糾錯的反饋閉環(huán),對個人而言是非常重要的關(guān)鍵思想。
我認(rèn)為,其底層是一種貝葉斯更新的哲學(xué)。
反饋閉環(huán)基本上是一種連續(xù)的過程,包括以下步驟:
執(zhí)行一個動作、觀察結(jié)果、理解反饋、更新策略、再執(zhí)行新的動作。
在這個過程中,'理解反饋'和'更新策略'的步驟,就是在進(jìn)行貝葉斯更新。
由于時間的推進(jìn),在我們的人生當(dāng)中,每個反饋閉環(huán)并不是原地打轉(zhuǎn),而是猶如鏈條般串起來。
所謂有算法的人生,就是以“可糾錯的反饋閉環(huán)”為珍珠,串起不斷更新、有復(fù)利效應(yīng)的一生。
我們要小心別斷鏈子,也要避免一條鏈走到黑。
請允許我借用一段生動的話語來收尾:
圖片
圖片
圖片
圖片
如何成為一位貝葉斯主義的高手?
如上圖所言:
笨蛋,行動起來,不管你有多害怕。


    本站是提供個人知識管理的網(wǎng)絡(luò)存儲空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點擊一鍵舉報。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多