前言:
測試學習是個理論簡單,但實作起來會遇到很多疑問的學習過程。曾經跟Sean Ellis 一起工作的曲卉寫的這本書不但實用,而且還訪問了一大票測試專家。
他們對於測試主題的選擇(大題目還是小題目)、AARRR漏斗的重點,還有測試團隊在組織內的發展也都有不同的見解。
我覺得很值得多看看,所以做了筆記跟大家分享。
這次分3 part,先來一串九個人我印象最深的測試心得,再來九個人的訪談摘要,最後是九個人對於組織與人的看法。enjoy~
..........
《硅谷增長黑客實戰筆記》曲卉
#Greylock Partner / Pinterest(圖片秀), Casey Winters
"不要只做優化,要做有高影響力的事情。不過,得先做優化累積影響力。"
#Mobile Growth Stack / Sound Cloud (Podcast), Andy Carvell
"不要把所有數字綁在一起看,用戶分群是有效優化的開始。"
# GloStation / Postmates(送餐), 陳思齊
"限制供給可以透過奇怪的方式,製造FOMO(害怕錯過fear of missing out) 社交地位(social status)等,讓產品流行"
# Growthstructures / Sofi Finance(學貸轉貸), Steven Dupree
"低垂果實摘完後,會陷入低潮與瓶頸。全公司(或跨團隊)的創新idea大匯集會讓大家一起幫忙,並且不要浪費對失敗案例的紀錄與策略學習。"
#Cerberus Interactive/Acorns (微型投資), Sami Khan
"醜陋、原始的廣告更像是朋友在對用戶說話,有更高機率穿透用戶的防衛心"
#Camera360(修圖), 陳思多
"漏斗的無限解構,原本以為是單純解決留存率問題,結果深究了四層(留存率—>推送更新覆蓋率—>推送更新展示率—>下載權限設定)才達到目的。"
#Square(支付), 羅揚 James Luo
"增長與嚕羊毛黨的鬥智鬥勇,對獎勵的設計要有吸引力,又要養成使用習慣,還要善用推薦者的資訊讓新用戶感受到個性化的感覺。"
#探探(校園招聘)/ 美圖(修圖), 韓知白
"要做增長先要備好基礎設施(行為數據後台,A/B測試框架),才能夠更快速迭代與勤能補拙。"
#專訪 Keep(運動)/豆瓣(社群), 張弦
"有些問題除了用數據作判斷外,直接問用戶可以達到更直接的效用,而且幫助增長團隊打開視野。"
---九篇專訪的摘要全文---
#9-1 Greylock Partner / Pinterest(圖片秀), Casey Winters
-北極星指標是會變動的
-產品(也就是核心地帶)通常是增長的投資報酬率最高的測試,但很難直接說服公司其他成員直接拿產品動刀。
-增長團隊一開始成立時候,選擇三不管地帶,以證明自己;之後才進展到核心地帶
-核心地帶的創造新價值、改善原有價值,通常是產品團隊負責。傳遞已有價值給更多人則是增長團隊負責。
-增長團隊必須是全職的,不能跟人共用成員,否則優先順序會被影響
-做測試時候,如何在容易衡量但效果慢跟全新設計但不知哪個因素產生作用之間做取捨?優化測驗要一個個做,改變方向測驗則直接直搗黃龍。而改變方向的測試才能反應高影響力。
-當低垂果實摘完後,要做高影響力需要高資源的測試需求,而不是低資源但也只需要低影響力的需求
#9-2 Mobile Growth Stack / Sound Cloud (Podcast), Andy Carvell
-對行動應用來說,留存是所有指標中最重要的,因為客人離開沒有成本,但留存會對你有無限好處。留存指標包含以日、週、月計算。
-增長團隊大約7-8人,包含產品經理、分析師、設計師、程序員,最多的是程序員。產品經理需要對分析、UI/UX設計、程序都略懂,才能跟他們溝通。
-以每週的循環討論測試設計、結果與去留。
-SC的做法不是所有用戶綁在一起看留存率,是用戶分群後看留存率,包含新用戶、流失後重新造訪用戶、重複使用用戶。
-當移動應用要藉由更版推送提升客戶體驗的時候,如何達到最好的整體效果?衡量指標是RRF 覆蓋率(reach), 相關性(Relevance), 頻率(Frequency) 三個都達到高水準則影響力最大。但覆蓋率是這當中最重要的
#9-3 GloStation / Postmates(送餐), 陳思齊
-我的前一間公司(Stolen),每個增長流程與工具都做得很好,但就是產品不夠好。當我到Postmaster之後發現他們什麼成長技巧都沒有,但產品很符合市場需求。
-增長最令人喜歡的是,能量化你的影響力,當你實驗做得好,結合了創造力與分析能力得出很好的想法,就像寫程式一樣,你做了某件事就有某個結果。這是令人上癮的。
-增長最令人不喜歡的是,會讓你偏向那些容易衡量並且很快衡量的東西。但有時候最重要的事情,例如產品與市場的契合度,反而不是容易衡量的。
-K因子(referral 用戶轉介人數)持續大於1是不可能的,尤其當你的產品越做越大,群體越來越多。即使是社交軟體,要讓k因子大於1 也需要一些違反自然規律的設計。
-稀缺性可以透過奇怪的方式,讓產品更加流行。從Stolen 得到的認知是,限制供給,造成稀缺性。心理因素是害怕錯過(FOMO) 社交地位(social status)等
-即使在矽谷,增長團隊也不多見。Google就沒有。但是FB就有一大批增長團隊並且擴散到其他地方。增長就是技術驅動,易於衡量的行銷。增長團隊更像升級版的行銷團隊,有了程序員的支持可以把推薦系統做得更精準,未來增長團隊會和市場團隊在一起而不是產品。
-用少於10%的流量,可以做任何測試。
#9-4 Growthstructures / Sofi Finance(學貸轉貸), Steven Dupree
-數學不會就是不會,增長沒效就是沒效。增長可以很快做出改變,並且追蹤哪些改變有效哪些無效。
-增長的低垂果實摘完後,會陷入疲乏,就需要大量idea。創新idea 兩種重要想法:每週五的全公司頭腦風暴 & 忠實紀錄失敗的測試並從中學到策略想法。
-增長團隊刷存在感兩種做法:(1) 在例會中說明有趣但違反直覺的實驗,已讓大家有印象(2) 把大象(重大影響力但耗資源)跟螞蟻(容易但效益有限)的實驗混合起來,避免人家覺得你沒貢獻或者只會做小事情
-新產品開始獲取客人的三種方法:(1) 付費搜索廣告,可以找到真的需要產品並且非常有興趣的人 (2) 抄競爭對手的做法,可以找到他們已經開發過的市場(3) 根據產品特殊屬性的增長手法
#9-5 Cerberus Interactive/Acorns (微型投資與機器人投資), Sami Khan
-靠創意的廣告狂人時代已經過去,excel 跟計算機才是你的好朋友。
-檢視總預算,跨通路預算調整(放大表現好的),通路內預算調整(用七天平均放大表現好的)
-2C新產品上線的建議是先在FB做小量A/B測試,找出好的再往其他通路擴散。測試前要設好追蹤,沒有追蹤,測試學習的迴路就不會成立。
-比起其他app,遊戲是最不需要擔心用戶獲取的,因為人們下載無成本;比較需要擔心的反而是用戶留存。因此要一小批一小批的獲取用戶後,關閉其他溝通通路,只針對這小群人做各種產品測試與改進,確定30 日留存率到達可用水準後才能繼續獲取用戶。
-臉書上,越醜的廣告表現越好。因為大家對電視已經疲乏,精美的廣告創意讓人想到電視會自動跳過,但粗糙的原始的則像是你朋友分享的。
#9-6 Camera360(Photo Editor), 陳思多
-漏斗的無限解構,以解決留存為例。原本想藉由app更新處理留存率低的問題,但發現更新覆蓋率不夠高,後來又發現問題是更新的展示率(被看到)低,而展示率低的原因又是app一開始下載時候的預設權限。所以回頭更改預設權限設定,在更改後次日留存率實現5%增長。(但如何在用戶已下載後調整權限啊)
-各地區的差異化溝通,以美國市場為例,經過逐一測試不同族群發現40+婦女喜歡此產品,於是將廣告視覺改為該族群會喜歡的可愛孩子展示功能,降低33%的獲客成本
-增長的成功要素是CEO的有意識支持。因為增長會用到很多資源,或是影響很多資源。若是沒有CEO的支持,無法成功。
-增長團隊需要的數據分析師,是對產品有深切了解的數據分析人,而不是純粹解讀數字。
#9-7Square(支付服務), 羅揚 James Luo
-留存主要是產品決定的,但在早期留存(D14-D90)增長可以起到很大作用,只要透過各種管道(信件、推送、Retargeting 廣告)重新提醒用戶,就會對早期留存產生明顯效用。
-要做全產品用戶推薦的指標的先決條件,是內部有堅實的大數據團隊,足以做獲客通路歸因。
-通路關鍵三大指標(CPA, ROI, LTV)中,最難建模的是LTV。因為涉及對長期留存率與資本折現率的重要假設。
-好的推薦系統會牽涉到三大項目,獎勵、曝光、轉化。其中獎勵的設計是與嚕羊毛黨鬥智鬥勇的活動。獎勵內容要考慮『有吸引力的額度、合適的條件限制、養成使用習慣的限制,累進式獎勵、考慮對稱式獎勵(利己又利人)』
-即使是最忠誠的用戶,也不會時刻記得你的獎勵項目。
-新用戶進來後,可以用推薦人的資訊提醒他們使用獎勵,不僅給新用戶個性化的感覺,也提醒新用戶『我確實獲得了某人的推薦』
#9-8 探探(校園招聘)/ 美圖(Photo Editor), 韓知白
-美圖的用戶留存指標設在N張照片保存,一開始是基於通路管理的需要,因為有些通路留存數據會有回饋延遲以及作假的問題。
-探探的市場部與增長部的區別在,市場部負責花錢,增長部不負責花錢。
-增長不是先做KPI管理,而是要有好的基礎設施(行為數據後台,A/B測試框架)才能開始觀測指標與迭代增長。
-快速迭代的價值在於,當你沒有人家的靈感,人家一次增長效果比你好3倍(+60% vs +20%)的時候,只要你迭代速度有三倍,還是可以得到一樣的成功增長效果。
-增長要避免的第一個坑就是局部優化,這裡改一點截圖,那裡改一點文案。其實也許改產品名字與圖標是最有效提升app商店轉化率的途徑。增長經理要能夠跳脫盒子思考(out of box thinking)
-剛開始做測試的人,要忘記喬布斯張小龍等產品的大神,他們是靠直覺也很少看數據:正常人要靠數據與即時反饋,勤能補拙。
#9-9 Keep(運動)/豆瓣(社群), 張弦
-全景漏斗,關心橫向的產品功能交互關係。當一個產品不只是工具,還有社交,內容等多種功能。可以根據不同功能設計指標,再看看功能
之間的交互拉提作用,決定整個產品後續的發展。而不是只看單一指標。
-量化與質化的兩腳思維,曾經做測試時候只看指標,以為是A與B的相關性,但從未想過中間還有個C。學到後就會在產品中安插小問卷直接問用戶,但要把握3個題目之內的精簡原則,不可以打擾用戶。
-加法與乘法,做增長後了解了加法與乘法的關係。增加一條溝通管道是加法,優化轉化率是乘法。一般來說,乘法的好處更大一些,但這也是基於加法已經帶來足夠的初始流量,否則盤子太小的乘法也沒啥意義。
-做產品像開船,動力與方向最重要。產品小的時候,著重動力,加速度要夠。產品體量大了後,動力已經比較足了,著重方向,往哪兒發展就更重要。
---以下是關於團隊的摘要---
#Greylock Partner / Pinterest(圖片秀), Casey Winters
"增長團隊必須是全職的,不能跟人共用成員,否則優先順序會被影響"
#Mobile Growth Stack / Sound Cloud (Podcast), Andy Carvell
"增長團隊大約7-8人,包含產品經理、分析師、設計師、程序員,最多的是程序員。產品經理需要對分析、UI/UX設計、程序都略懂,才能跟他們溝通。以每週迭代的循環討論測試設計、結果與去留。"
# GloStation / Postmates(送餐), 陳思齊
"增長最令人不喜歡的是,會讓你偏向那些容易衡量並且很快衡量的東西。但有時候最重要的事情,例如產品與市場的契合度,反而不是容易衡量的。"
#Growthstructures / Sofi Finance(學貸轉貸), Steven Dupree
"增長團隊刷存在感兩種做法:(1) 在例會中說明有趣但違反直覺的實驗,已讓大家有印象(2) 把大事(重大影響力但耗資源)跟小事(容易但效益有限)的實驗混合起來,避免人家覺得你沒貢獻或者只會做小事情"
#Cerberus Interactive/Acorns (微型投資與機器人投資) , Sami Khan
"靠創意的廣告狂人時代已經過去,excel 跟計算機才是你的好朋友。"
# Camera360(修圖), 陳思多
“增長的成功要素是CEO的有意識支持。因為增長會用到很多資源,或是影響很多資源。若是沒有CEO的支持,無法成功。”
#Square(支付), 羅揚 James Luo
“通路關鍵三大指標(CPA, ROI, LTV)中,最難建模的是LTV。因為涉及對長期留存率與資本折現率的重要假設。”
# 探探(校園招聘)/ 美圖(修圖), 韓知白
“快速迭代的價值在於,當你沒有人家的靈感,人家一次增長效果比你好3倍(+60% vs +20%)的時候,只要你迭代速度有三倍,還是可以得到一樣的成功增長效果。”
# Keep(運動)/豆瓣(社群), 張弦
“做產品像開船,動力與方向最重要。產品小的時候,著重動力,加速度要夠。產品體量大了後,動力已經比較足了,著重方向,往哪兒發展就更重要。”
同時也有27部Youtube影片,追蹤數超過51萬的網紅【雙聲類】小光,也在其Youtube影片中提到,記得按讚+小鈴鐺可以接收到最新情報及直播通知唷! ✨加入會員成為追光者✨ https://reurl.cc/2bK09m ▼追蹤我的動態▼ 🎀Twitter🎀 https://twitter.com/hikarutomao 🎀Discord🎀 https://discord.com/inv...
stack遊戲 在 浩爾譯世界 Facebook 的最佳貼文
【Wesley's大世界小知識
愛「拼」才會贏的積木公司LEGO】
差一點就 belly-up 的樂高集團
如何 brick by brick 打造上億事業?
https://9vs1.com/go/?i=d530b17f1476
加入 #CNN課程 超過九個多小時內容
從國際品牌趣史學習商務英文
(上)(下)單元各八品牌$1600
限時早鳥合購只要$2180
-
嘿~你童年時愛玩 #樂高 嗎?
Wesley 都玩像 #HotWheel 玩具越野車
或跟長輩一起玩大富翁 #Monopoly
直到當了爸爸才陪女兒一起玩 Lego bricks
來自丹麥、歷史悠久的 #Lego
其實曾經瀕臨破產 bankruptcy
卻靠推出電影授權 franchise 衍生玩具
#哈利波特 跟 #星際大戰 而起死回生
並且開發樂高電玩遊戲 video games
也擴展女孩市場 reached out to girls
甚至推出原創故事的《#樂高玩電影》
從玩具轉向跟娛樂公司 #迪士尼 競爭!
跟孩子玩樂高也具有教育意義
因為無數個小積木能組成任何東西
從女兒扮家家酒的廚房用具
到我們全家旅遊去的倫敦鐵橋、大笨鐘
都能激發孩子的創造力和記憶力
-
我們來學學跟積木相關的片語吧:
brick by brick: 一點一滴地
字面意思是一塊一塊磚疊起來
比喻緩慢而紮實地累積或建立起來
就像一磚一瓦地拼湊樂高積木
stack up: 堆疊;匹敵
原意為「堆疊;累積」
後面加上介系詞 to 或 against
表示「與...相比、匹敵」
用於樂高上就變成堆積木
以及與他人競爭的趣味雙關語
還有開頭提到的 belly-up
則是指魚死掉「翻肚」
俚語中表示「完全失敗」
也可用 go belly-up 來表示「破產」
-
想瞭解更多國際品牌的發展趣事嗎?
加入CNN課程,研讀獨家專訪語料
學習商用英文和品牌經營的商業思維
專訪包括麥當勞、香奈兒
臉書、谷歌、網飛等16家超級品牌
(上)(下)各8單元$1600
限時早鳥合購只要$2180
https://9vs1.com/go/?i=d530b17f1476
快把握優惠機會!
用英文留言「你童年玩的玩具或遊戲」
就送你【CNN課程LEGO單元單字包】
#世界上有兩種人
#童年時期玩過樂高的人
#成年陪孩子玩樂高的人😄
stack遊戲 在 91 敏捷開發之路 Facebook 的精選貼文
我見過最專業的遊戲文跟影片了...(我跪著看...)
喜歡馬力歐(尤其是最經典的馬力歐3)、喜灣玩遊戲、寫遊戲、寫程式,喜歡玩遊戲到極度專業的朋友,這影片你一定不能錯過啊...
太誇張、太噁心、太專業的極致了....
他3分鐘就破關了,用遊戲裡面的動作、模擬/碰撞 memory/stack 裡面的值,差 1~2 個frame可能就會 crash。
能解析到後面這一整段,並且實際用遊戲模擬出來,真的是太瘋狂了。
stack遊戲 在 【雙聲類】小光 Youtube 的最佳貼文
記得按讚+小鈴鐺可以接收到最新情報及直播通知唷!
✨加入會員成為追光者✨
https://reurl.cc/2bK09m
▼追蹤我的動態▼
🎀Twitter🎀
https://twitter.com/hikarutomao
🎀Discord🎀
https://discord.com/invite/HzJ5aca
🎀Facebook🎀
https://www.facebook.com/Qmei0315/
▼合作請洽Email或私訊粉絲團▼
■Qmei0315@capsuleinc.cc
stack遊戲 在 暗網仔 2.0 Youtube 的最佳貼文
Payme [捐款]: https://payme.hsbc/deepwebkid
Instagram: https://www.instagram.com/dw_kid12/
Facebook: https://www.facebook.com/deepwebkid/?modal=admin_todo_tour
Spotify: https://open.spotify.com/album/2LjUOH9T9j21GiX8jzytu6
訂閱: https://www.youtube.com/channel/UC8vabPSRIBpwSJEMAPCnzVQ?sub_confirmation=1
我最高觀看次數的影片 (我為何不再拍暗網? 只說一次): https://www.youtube.com/watch?v=jbihKaqEEQw&t=127s
首支單曲: https://www.youtube.com/watch?v=UASHWB6Ai9Y
我的成長故事: https://www.youtube.com/watch?v=Kdhtp6A6YJE
這位才是真正的網絡垃圾: https://www.youtube.com/watch?v=jlJYDx1GP-U&t=263s
Billie Eilish出賣靈魂的方法: https://www.youtube.com/watch?v=pfB1S2uy5Po&t=115s
日本最殘酷的直播節目: https://www.youtube.com/watch?v=7E81OKVX7wc
我受夠了, 我的精神困擾: https://www.youtube.com/watch?v=aQ6uxaQhiS4&t=7s
[警告]史上最危險IG Story限時動態| 會導致你手機死亡
[警告]史上最危險IG Story限時動態| 會導致你手機死亡
破解會導致你手機死亡的阿拉伯IG Story限時動態
破解會導致你iPhone死亡的IG Story限時動態
[警告!!!] 破解導致你iPhone死亡的IG Story限時動態
Instagram story that kills your phone-pgtalal
之前我第一次在Instagram stories做了一part Q&A, 大家的反應數量和問題可以說是驚人.
那試想想如果當天你按進去我story後, 你電話突然這樣...
如何想打開都打不開, 再用另一部電按進我story, 結果又是一樣. 之後所有千千萬萬的暗友做同一件事結果又是這樣.
你應該會覺得我是創造了什麼詛咒限時動態 ..可能我會從你的電話爬出嚟, 對嗎?
那如果我告訴你這個星期外國發現了一個IG網頁你一按進去他的story你的電話真的馬上會動不到, 甚至有機會之後還有後遺症, 你除了想到被詛咒的限時動態外, 還會有什麼其他解釋呢?
我們今天的影片就是會有答案.
大家好又是我暗網仔! 一起破解IG史上最恐怖的 限時動態!
告訴大家這個IG 帳號名字前, 我先想提醒大家千祈唔好按進去亂試. I do not encourage doing that.
名pgtalal的IG頁有一個令人電話動不了(俗稱 “crash” )的IG story. 這事件得到多個網路新聞網站報道. 令人百思不得其解.
亦同時令到 pgtalal成為近日受到最多關注和追除人數上升得最快的IG網頁.
奇怪的地方是如果你是用一部 ‘android’ 電話按進這個Instagram story這個紫色畫面會出現. 同時會播著一首名 ‘your love’ 的歌曲. 唯一奇怪的地方是不像其他的IG story, 你按電話畫面不能讓他暫停.
但如果你用iphone按進去這個Instagram story, 你的iPhone是會完全動不了. 會crash.
我試過用iPhone, macbook不同電器看IG, Facebook, Youtube. 東西都是大同小異.
那為何在這個情況下, 同一個story用不同電話看, 會看到不同的東西? 不同的畫面呢?
而為什麼簡單一個IG story會好像能完全控制你的電話呢?
是黑客入侵Instagram? Nordvpn又能幫到手嗎?
(題外話: 今天的影片不是由Nordvpn贊助的. 今天沒有贊助. 但如果你想贊助暗網仔以後拍多點好影片, 這是我的payme, 暗網仔donation, 下面也有link.多多益善少少無拘! 大家可能有看片知道我之前搬咗屋. 多謝大家繼續支持)
看完所有關資料. Pgtalal 帳號沒有頭像. 有一個7000多follower的私人帳號.
之前Pgtalal有一名電視劇friends女演員的post, 亦曾有3個不同會令到你電話crash的IG story, 現在看這個page, story 只有兩個, friends 女演員個post 亦消失了。
最後他還有一個douyin帳號. 只是長期在拍一個 ‘N’ 字. 到底什麼意思?
他帳號所有的字體都是阿拉伯字. 翻譯成英文後都是好像沒什麼意思.
其實整件事件都不像是靈異東西. 而係似某一個一個聰明人做的一種實驗.
這個出現在私人頁面簡介的”full stack developer” 這個職業就是證據. 電腦專家full stack developer精通前端和後端開發軟件.
什麼意思?
這是個很懂電腦的人在玩一個遊戲. 或是想prove一個point.
英國Youtuber Mrwhosetheboss用了一大dung電話逐一去這個IG網頁時發現不是每一部android電話都能夠避免 ‘死機’ 這個情況.
越舊的電話 被story搞死的機會率越大.
去到某一些舊年份的電話根本完全打不開那個story.
這是代表什麼? 代表越新越多 RAM 越多處理能力的機器越能對付這個story. 亦解釋到為何最高只有6GB RAM的iPhone會不停死機.
唯一的解釋就是因為這個story是比一般story大, 所以需要多點RAM去處理. 可以這樣搞大一個Instagram story的嗎?
最後互聯網找出的答案非常神奇! 網上專家用metadata對比一個普通ig story的尺寸和這個放大story的尺寸 , 放大story大約比正常大18個數位那麼多! 即是0.5和180,000,000,000,000,000的對比. 想像一下, 一個capacity只能裝落 ‘零點幾’ 的iPhone 要面對18個 零的放大IG story時, 如何能不crash呢?
最後證實我們看到的只是一個IG 投票poll和計時器. 放大了的某一個角落. 所以怎麼按也沒有反應。
技術上的結論就是Pgtalal用了一個叫 http proxy的濾器, 有一點像Nordvpn, 讓他send data給Instagram 的server前能任意改變當中的data. 主要是誇大個story的size.
而IG 就這樣超超超超超大這樣 send給你電話讓你死機.
很多網上專家相信Pgtalal 這樣做是想make a statement看看IG security有多yuek!
人類安全要緊!!!
但....最後好像證明了這個pgtalal只有14歲...
所以他應該不是這麼偉大.
如果我14歲是這樣做只會是因為貪玩.
stack遊戲 在 RedMoon Youtube 的最讚貼文
※ 錄製軟體 :
Obs
※ 剪輯軟體 :
PowerDirector 17
♫ BGM SE素材 :
煉獄庭園
魔王魂
フリー音楽素材 H/MIX Gallery