研究背景
某电商网站 redesign 了产品详情页,将"加入购物车"按钮从绿色改为橙色,并调整了布局。产品经理假设新设计能提升用户参与度,但需要数据验证。
研究问题
新版UI(橙色按钮)相比旧版(绿色按钮)是否显著提升了用户的页面停留时间?
数据说明
随机抽取20名用户,10人看旧版,10人看新版。记录每人在页面上的停留时间(秒)。数据已通过正态性检验和方差齐性检验。
示例数据
- 旧版:45, 52, 38, 61, 49, 55, 42, 58, 47, 50
- 新版:62, 58, 71, 55, 67, 63, 59, 74, 60, 68
分析步骤
步骤 1:选择正确的检验方法
这是两个独立组别的比较(不同用户看不同版本),因变量是连续变量(停留时间),所以使用独立样本t检验。
提示:如果同一批用户先后看了两个版本,应该用配对t检验。
步骤 2:检查前提假设
t检验要求:(1) 每组数据近似正态分布;(2) 两组方差相等(方差齐性)。本案例数据已通过 Shapiro-Wilk 正态性检验(p>0.05)和 Levene 方差齐性检验(p>0.05)。
步骤 3:执行检验并解读结果
计算得到 t=-3.456, df=18, p=0.0028 < 0.05,差异显著。效应量 Cohen's d=1.55,属于大效应。
结果解读
结论
在 α=0.05(双侧)水平下,观察到统计学显著差异(t=-3.456,p=0.0028)。新版UI组的停留时间长于旧版UI组,平均增加约12秒。
为什么这样解读?
虽然统计学显著,但要判断实际价值:平均增加12秒是否足以支撑改版成本?同时要看其他指标(如转化率)是否也提升。统计学显著≠商业重要。
如何在论文中报告
采用独立样本t检验比较新旧版UI的用户停留时间(α=0.05,双侧)。结果显示,新版UI(M=63.70, SD=5.43)的停留时间长于旧版UI(M=49.70, SD=7.14),差异具有统计学意义,t(18)=-3.456, p=0.003, Cohen's d=1.55。这表明新版设计能有效提升用户参与度。
常见错误
看到p<0.05就下结论说"新版更好"
统计显著只说明差异不太可能是偶然产生的,不代表差异很大或有实际价值。必须结合效应量和业务背景判断。
忽略前提假设直接做t检验
如果数据严重偏态或方差不齐,t检验的结果可能不可靠。应先检查假设,必要时改用 Mann-Whitney U 非参数检验。
把相关当因果
即使是随机对照实验,也要考虑是否有混杂变量(如用户本身特征、时间段等)。t检验只能说明两组有差异,不能证明"橙色按钮导致停留时间增加"。