威爾遜得分:樣本量過少,如何科學(xué)衡量喜好程度?一個(gè)數(shù)據(jù)分析的常見難題
編輯導(dǎo)語:有效的用戶體驗(yàn)感調(diào)研有利于提升產(chǎn)品架構(gòu),更好的去完善產(chǎn)品。但是當(dāng)市場樣本量過少,如何科學(xué)衡量喜好程度?本文將分享一個(gè)數(shù)據(jù)分析的常見case——威爾遜得分。相信通過本文,可以學(xué)到一個(gè)更加科學(xué)的分析方法,一起來學(xué)習(xí)下吧。
“分享一個(gè)常見的場景,也是經(jīng)常困擾大家的問題。”
先來一個(gè)場景:假設(shè)平臺(tái)售賣兩款手機(jī)A和B。A手機(jī)有800人喜歡,200人不喜歡;B手機(jī)有9人喜歡,2人不喜歡。那么,用戶更喜歡哪款手機(jī)?
相信這個(gè)場景,各位朋友在日常生活中、在工作中都遇到過。你們平時(shí)是如何做判斷呢?希望通過今天的文章,能給大家一個(gè)新的視角、也更加科學(xué)的方案。
一、常見的衡量方法
我想,大家的第一反應(yīng)應(yīng)該是按照比率進(jìn)行衡量吧?因此,
A手機(jī)喜好率=800÷(800+200)=80%
B手機(jī)喜好率=9÷(9+2)=82%80%<82%
因此用戶更喜歡B手機(jī)。
這樣對嗎?
看起來沒毛病。畢竟喜歡率越高,代表用戶更喜歡嘛!但是,相信朋友也看出了這個(gè)例子的端倪:B手機(jī)的總共的樣本量才11個(gè),雖然喜歡率高,但是樣本量這么低,隨便一個(gè)數(shù)據(jù)變化都會(huì)對結(jié)果產(chǎn)生巨大的影響。
因此,按照這種比率的方法,算出的喜歡率,“靠譜”嗎?用統(tǒng)計(jì)學(xué)的語言,置信嗎?
二、威爾遜得分
上面我們覺得按照簡單的喜歡率來計(jì)算,有點(diǎn)難衡量。但是,如果不按照喜歡率來比較,還能如何計(jì)算呢?這就是我們今天的主題了:威爾遜得分。
1. 公式定義
先看看具體的威爾遜得分計(jì)算公式:
u表示正例數(shù)(喜歡),v表示負(fù)例數(shù)(不喜歡),n表示實(shí)例總數(shù)(總樣本數(shù)),p表示喜歡率,z是正態(tài)分布的分位數(shù)(參數(shù)),S表示最終的威爾遜得分。得分越高,代表越喜歡的程度、喜歡的概率越大。
通常,當(dāng)置信度95%的情況下,z取1.96(近似2)即可。其他常見置信水平與z取值的對應(yīng)關(guān)系如下:
關(guān)于置信區(qū)間的概念,可以參考文章《區(qū)間估計(jì)的置信區(qū)間概念及方法》。
2. 案例驗(yàn)證
下面,我們根據(jù)上面的公式,計(jì)算一下我們開頭案例的A手機(jī)和B手機(jī)的威爾遜得分情況。
對于A手機(jī),n=1000,p=0.8,按照95%的置信度,取z≈2,代入威爾遜得分公式中,求得S(A)=0.77
對于B手機(jī),n=11,p=0.82,按照95%的置信度,取z≈2,代入威爾遜得分公式中,求得S(B)=0.52
因此,0.77>0.52,A手機(jī)的威爾遜得分高于B手機(jī),按照該算法,我們有結(jié)論:在置信度95%的情況下,雖然A手機(jī)的喜歡率不如B手機(jī),但是有理由相信用戶對A手機(jī)其實(shí)是更加喜歡的。
3. 相關(guān)應(yīng)用
其實(shí)該得分算法的應(yīng)用還是比較多的。
除了上文中提出的例子外,該得分算法經(jīng)常應(yīng)用于各個(gè)網(wǎng)站的排序上。比如知乎的搜索排序(我看網(wǎng)上有說知乎是用的威爾遜得分進(jìn)行的。這里我也沒法驗(yàn)證,如果有知乎的朋友可以留言驗(yàn)證一下。關(guān)于搜索算法可以參考文章《搜索系統(tǒng)的基礎(chǔ)知識(shí)以及應(yīng)用》):
可以看出,知乎的搜索結(jié)果排序中,并不是完全基于贊同數(shù)量進(jìn)行的倒敘排列。如果完全贊同數(shù)多的回答置頂,那么新的高質(zhì)量回答,就永遠(yuǎn)沒有出頭之日了,對于內(nèi)容生態(tài)的維護(hù)一定是有很大問題的。
當(dāng)然,哪怕是用了威爾遜得分,真實(shí)實(shí)踐中,也會(huì)在這個(gè)基礎(chǔ)上增加更多維度的打分,咱們這里就是以此舉例,說明威爾遜得分的應(yīng)用場景,大家清楚就好。
如果只是想把威爾遜得分作為工具,那么掌握到這里、知道了公式該如何使用、如何計(jì)算、應(yīng)用場景是啥,就足夠了。但如果想深入理解一下公式的統(tǒng)計(jì)學(xué)含義以及推導(dǎo)邏輯,可以參考下面一節(jié)。
三、統(tǒng)計(jì)原理與邏輯
下面,我們一起看看這個(gè)威爾遜公式是怎么得到的,以及背后的統(tǒng)計(jì)學(xué)原理是啥。
1. 原理概述
首先,威爾遜得分只是威爾遜區(qū)間的一個(gè)變形,取了威爾遜區(qū)間的下限值作為威爾遜得分。
那什么是威爾遜區(qū)間呢?
本質(zhì)上,威爾遜區(qū)間其實(shí)就是用戶喜歡率的一個(gè)區(qū)間估計(jì)(關(guān)于區(qū)間估計(jì)可參考?xì)v史文章《區(qū)間估計(jì)的基礎(chǔ)介紹》)。但是該區(qū)間估計(jì)考慮了樣本過小時(shí)候的情況,根據(jù)樣本量對區(qū)間估計(jì)進(jìn)行了修正,使得該區(qū)間估計(jì)能夠較好的衡量不同樣本量情況。
說白了,我們用樣本計(jì)算的用戶喜歡率,本質(zhì)上只是對用戶真正的喜歡率的一個(gè)點(diǎn)估計(jì)而已,樣本越少,可信度越低;樣本數(shù)越多,根據(jù)中心極限定理,點(diǎn)估計(jì)越接近真實(shí)值。如果樣本數(shù)都很多,那么我們直接計(jì)算手機(jī)A和B的喜歡率,基本就能代表真實(shí)情況了,是可以比較的。但是當(dāng)樣本數(shù)不夠,就面臨了上文中的問題。威爾遜,就是1920年代提出了這個(gè)區(qū)間估計(jì)的公式,用以解決小樣本的準(zhǔn)確性問題。
由于提出的公式是區(qū)間估計(jì)公式,所以本來是一個(gè)一個(gè)的區(qū)間。比如假設(shè)A手機(jī)的喜歡率95%置信區(qū)間估計(jì)是[0.77,0.83],B手機(jī)喜歡率95%的置信區(qū)間估計(jì)是[0.52,1]。如何對比兩個(gè)區(qū)間呢?威爾遜得分就是取了不同區(qū)間的下限進(jìn)行比較,因此哪個(gè)下限高,代表概率更高。
2. 公式推導(dǎo)
這里的公式推導(dǎo)其實(shí)還是有點(diǎn)復(fù)雜的,我不一一展開了,放一下網(wǎng)上的推導(dǎo)步驟截圖,有興趣的朋友可以自行探索一下??!
3. 性質(zhì)特性
最后我們看看這個(gè)公式的一些性質(zhì)吧。
- 性質(zhì)1:得分S的范圍是[0,1),效果:已經(jīng)歸一化,適合排序
- 性質(zhì)2:當(dāng)正例數(shù)u為0時(shí),p為0,得分S為0;效果:沒有好評(píng),分?jǐn)?shù)最低;
- 性質(zhì)3:當(dāng)負(fù)例數(shù)v為0時(shí),p為1,退化為1/(1 + z^2 / n),得分S永遠(yuǎn)小于1;效果:分?jǐn)?shù)具有永久可比性;
- 性質(zhì)4:當(dāng)p不變時(shí),n越大,分子減少速度小于分母減少速度,得分S越多,反之亦然;效果:好評(píng)率p相同,實(shí)例總數(shù)n越多,得分S越多;
- 性質(zhì)5:當(dāng)n趨于無窮大時(shí),退化為p,得分S由p決定;效果:當(dāng)評(píng)論總數(shù)n越多時(shí),好評(píng)率p帶給得分S的提升越明顯;
- 性質(zhì)6:當(dāng)分位數(shù)z越大時(shí),總數(shù)n越重要,好評(píng)率p越不重要,反之亦然;效果:z越大,評(píng)論總數(shù)n越重要,區(qū)分度低;z越小,好評(píng)率p越重要;
4. 變形擴(kuò)展
另外,我們這里都是二項(xiàng)分布。如果是評(píng)分等級(jí)問題:如五星評(píng)價(jià)體系,或者百分評(píng)價(jià)體系,該怎么辦呢?
將威爾遜得分的公式由伯努利分布修改為正態(tài)分布,帶入相關(guān)參數(shù)即可。
注意:均值和方差均是歸一化之后的數(shù)值。
關(guān)于威爾遜得分,我們就分享這些,希望對大家今后的數(shù)據(jù)工作能有所幫助。以后再衡量哪個(gè)更好,可以有更專業(yè)的算法模型了!
#專欄作家#
NK冬至,公眾號(hào):首席數(shù)據(jù)科學(xué)家,人人都是產(chǎn)品經(jīng)理專欄作家。在金融領(lǐng)域、電商領(lǐng)域有豐富數(shù)據(jù)及產(chǎn)品經(jīng)驗(yàn)。擅長數(shù)據(jù)分析、數(shù)據(jù)產(chǎn)品等相關(guān)內(nèi)容。
本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于CC0協(xié)議。
新的分析方法
感謝作者分析,第一次了解到這個(gè)方法,看完還是很迷糊