A/B测试方法,这才是产品的话语权!

“从现在开始的十年内,当我们回顾大数据时代是如何发展时,我们会震惊于在以往做出决策时信息的匮乏。” -Billy Bosworth (DataStax CEO)

“从现在开始的十年内,当我们回顾大数据时代是如何发展时,我们会震惊于在以往做出决策时信息的匮乏。” -Billy Bosworth (DataStax CEO)

A/B测试方法,最早运用在医疗行业,作为早期测试,判断新药药效的方法,通过分组对照,科学的判断新药物会带来的影响。

而这种测试方法,也被带入到了互联网产品的迭代过程中,在发现了产品新的机会后,通过A/B测试来验证最有效的产品策略。

1468894676-5346-bppg9x3LQAIN1AsicuAeiacDwAcg

为什么使用A/B测试?

环境的不可预见因素,对用户行为理解的偏差,以及对多种方案实际效果的验证,都是进行A/B测试的原因,有效的A/B测试能够给团队带来显著的增效。

1468894677-5307-y1IBia2g7jQTDCqf5iaeYtQFj2eg

在进行A/B测试的时候,需保证单盲测试原则,注意对照组和实验组的目标用户需保持一致性,通过测试后统计的数据情况,例如用户的具体操作行为和体验反馈等,目标操作的点击或任务的完成度是不是提高,来评判测试用例是否起到了作用。

我们可以来看AppAdhoc的一个案例:

1468894681-3869-VHtaTQvxkluCq6yqy7JzkNnRXhAg

1468894680-7634-vWk1LCuvLcLkpVq1shwA0LibicQQ

1468894684-2656-MJBQP1B7xiaUZaJNkl7vM8iaZWUQ

1468894681-2544-YuiaBibvlLIYfTgAm2zkSX5iciaQ

文案的力量也会影响很大,例如:

1468894685-5691-rnrCUQvWzDr91gQcYMPr4R7ykfCg

1468894683-7527-l8v64ae0T0ZvicLbCFZJRq0zgTAg

A/B测试的时机,投入与产出

A/B测试的测试方案应该安排在产品正式推送之前,在现有的用户当中去找出一小波典型用户,均分为两组,布下监测数据点,查看用户真实的操作情况和反馈,小范围的真实用户测试能够带来更加准确的反馈,并且在正式推送之前不会影响到其它未参与测试的用户,不影响产品当前本身的体验,如果发现任何异常,能够快速的撤下,高效便捷。

简单的A/B测试流程:

制定测试方案

在测试之前,编写好测试内容,选定测试对象,明确测试方法,以及预期的测试效果。

发布测试方案

发布测试方案可以选择静默发布和公开发布,通过对方案是否有需要进行选择,往往一些细微的功能调整,例如短文案,小的视觉变更等,或者变更本身不希望主动提示用户去尝试,影响测评结果等。

公开测试可能适合使用在一些创新性的功能或者是较大的功能改版需要对测试用户做出一定的描述让用户能够接受。

记录&分析

了解用户在测试过程中的反应,表情,动作,语言等,对测试对象的一些触发器进行锚点追踪,查看分析用户的使用频率,来界定测试方案是否起到了预期的效果。

撰写分析报告

收集团队成员积累的测试资料,对数据的变化以及用户的反馈进行较为深入的剖析,针对当前的测试版本提供合理的优化意见,并能够让团队的其他人从中获取需要的信息。

完善设计方案

通过分析报告的内容,来对设计方案进行调整,针对测试过程中发现的不足进行优化,并考虑是否进入到下一次的迭代过程中去,撰写迭代方案。

再次测试or上线

大部分的A/B测试只会进行一个周期,只有针对某些特别谨慎,或者是对研发周期限制很少,时间宽裕的团队来说,可能会进行第二次或者是第三次的测试,而大部分都会选择在一次优化后上线,然后将更新需求写入到下一版本的计划当中去。

A/B测试对团队资源占用较大,是在对自查和团队评审后,更加准确的一种测评方法,不会在每一个环节和功能上都去进行尝试,所以在工作中如果去使用,可能就需要根据团队的执行力以及个人的经验作出判断了。

(图片摘自:WAW2016上王晔博士《AB测试基本原理与背后理念》演讲文件)

------------------------------

1468894686-9020-fWQv0giaRwAsN9xvhz57OzsRLhAQ

------------------------------1468894687-2311-bJ7ofaGbUS5ibwPJsXSjlicgiaug

IAMUE网站介绍

IAMUE是一个 专注分享交互设计的干货网站

交互设计师图书导航:http://books.iamue.com/

交互设计必备导航 :http://hao.iamue.com

交互设计讨论群 Ⅰ群:156360020

交互设计讨论群 Ⅱ群:247123791

交互设计讨论群 Ⅲ群:147868955

交互设计讨论群 Ⅳ群:362796793

微博:@IAMUE

------------------------------

交互设计那些事儿-阿西UED编著


1468894687-8323-aNFX3BYItPVvu3gGSj99QJ69icow

《交互设计那些事儿》-签名版

签名版只有天猫有,只有30本限量了  http://share.laiwang.com/s/Shy7s?tm=9d74c2

------------------------------

1468894689-7363-QbTpqg6zZLEVXAH7J1ibXFCS7s3A

长按二维码识别

《交互设计那些事儿》-京东自营
再次感谢你的阅读

 

原创文章,作者:ioued,如若转载,请注明出处:https://www.iamue.com/16534/

(0)
iouedioued
上一篇 2016-07-18 11:05
下一篇 2016-07-19 10:37

相关推荐

  • 怎样做用户体验运营?

    引言:edwin是微信最初10员工之一,有丰富的后台开发经验,加入团队后承担了微信用户平台实验系统的研发工作。数据能力和实验能力是运营的基础,他带领几位从终端转岗到后台开发的同学,为用户体验运营奠定核心基础…

    2016-04-21
  • A/B 测试基础&实例

    什么是A/B测试? A/B测试简单来讲是在两个或多个产品的优化方案中选出最优方案的方法。 例如,期望优化产品的某个特性——通常是期望某项数据提升时,需要对产品某处进行调整。 对此可以提出若干版本,但是现有的理论…

    2016-04-21
  • Uber 开启新一轮融资的同时,“反 Uber 联盟” 再添两员;Apple 开源 Swift 编程语言

    大公司 “反 Uber 联盟” 再添两员,Ola 与 GrabTaxi 正式入伙 在滴滴以投资的方式与美国第二大打车应用 Lyft 结盟后,印度 Ola、新加坡 GrabTaxi 两家当地打车应用也于今日宣布加入联盟,意在全球市场对抗 Uber,不…

    2015-12-04
  • 运营如何在2年内从月薪3000升到30000

    写这篇文章 的前一周,我和几个老同事聚会。一班老友聚会,感慨万千,唏嘘不已。同样一堆老兄弟,同一个起跑线,有人年收入过百万,有人至今月薪不过5000。同样的老兄弟,差别为什么这么大呢? 这个是我这篇文章的…

    产品运营 2016-01-28
  • 史上最全微信运营架构思维导图

    这些架构图有啥用? 如果你是一名新手运营,这个思维导图会让你系统性的了解你的工作有哪些,为你提供指导、查缺补漏。所以,如果一次无法记牢,那就收藏备用吧。   来自人人都是产品经理

    2015-09-14
  • 写给跟我一样的设计师及CEO、产品、运营、技术...

    一、写给和我一样的设计师朋友 下面还有一段是对合作伙伴的话,那些属于外部环境,我们也知道,改变外部环境虽然可能,但确实很难,你要面对公司的战略,结构,合作部门的专业性等诸多问题,别放弃,经常与他们阐述…

    2016-06-07
  • 《上瘾:让用户养成使用习惯的四大产品逻辑》

    最近在看这本书,从产品、设计、运营多个角度都可以很多收获,我在看第二遍了,与第一遍阅读有不同的感受,作为设计师更需要了解你的设计是怎么影响用户的“触发”的。 这涉及到 :人性、情感、路径等因素决定了用户…

    2017-06-09
  • 核心价值观的力量

    [alert_info] 原作者:Bastian Lehmann 英文原文: The Power of Core Values IAMUE作者: 黄韦 [/alert_info]   顺丰确认上市,在这个巨头林立的物流行业,是否还有别的机会呢? 本次给小编大家带来美国同城按…

    2016-02-28
  • 转:最值得收藏的产品与运营工具集合

    刚开始做运营的时候,完全是工具控。
    每天都在搜罗各种软件,以满足自己装X的欲望。

    产品运营 2016-08-11
  • 如何界定用户运营工作的有效性?你真的知道么?

    用户运营工作有其固有的特殊性,关注点落脚在用户上。它的工作节奏是一个量变到质变的过程,说白了就是需要从一点点开始积累,往往很多工作都需要从零做起。它不像很多市场工作,是一个循环往复的过程。 运营人员的…

    2016-05-12