探索中国CIO人才现状 | 第四季调研报告
大数据预测分析并不需要所有的数据
2013-10-16  作者:CIO时代网 

  MichaelBerry对大数据的浮夸之词颇不以为然。身为旅游网站TripAdvisor的分析总监,他认为更多的数据未必带来正面的业务影响,比如大数据和预测分析的例子。


  “很多预测分析的应用其实并不需要所有的数据。”Berry在PredictiveAnalyticsWorld做主题演讲时说到。因此,对于数据科学家来说,重要的不是想着怎样分析所有的数据,而是看通过哪些数据可以得出真正有价值的结果。那么到底该怎么办呢?“对于这个问题,没有直截了当的答案。”Berry说。


  但是,通过每次增加一些数据的方式来测试预测模型的有效性,可以最终确定多少数据是足够的。比如,当Berry想知道旅游代理商对某家酒店或特定客户的标准价位时,采用计算平均值的方法:选取两个取均值,然后是三个…最终在1万个时均值稳定下来。如果取2万个,均值肯定会发生变化,但这已经没有必要了。


  “这就是关键所在。如果你有足够的数据,那么单纯数量上的增加就不会对结果造成很大的影响。”Berry说。


  如果过多的数据不会带来本质的不同,那么什么才是关键所在呢?“很多方面。”Berry表示。数据的纯净度、样本的合理全面以及专注于数据质量和挖掘的人才等,都会导致结果的不同。


  这些都是预测分析中的关键点,比如指出哪些变量可以使模型更健壮,或者结合哪些来源的数据可以发现新的模式。


  “比如风寒效应(windchillfactor)。”Berry说。结合了实际的温度和风速,才能切实分析出人体对于外界环境的感受。


  大数据的误区


  Berry并非唯一对当前大数据和预测分析境况有微词的人。咨询公司RexerAnalytics的创始人KarlRexer认为数据科学家们多少都有点迷茫失措。在其2013年对数据挖掘从业者的调查看出,受访者反馈表明数据规模变得越来越大。但是,当被问及有多少数据被用于真正的分析时,答案和2007年的调查结果并无二致。


  这并非证明所谓大数据是一场闹剧。“对于传统的预测分析建模或数据挖掘项目来说,总体的样本规模并未出现增长。”Rexer说。


  缩写词汇命名


  将分析术语转化为业务端所能理解的语言,是一种巨大的挑战。工资、人力和服务外包提供商Paychex是这样打破藩篱的:根据业务端的建议来进行描述。


  “当我们构建模型时,会举行一个命名比赛。”Paychex的建模分析师TomKern在本次PredictiveAnalyticsWorld上表示。Kern的团队会向用户发送电子邮件,其中对模型进行了简短的描述,并且提供一些词汇供其使用。用户根据实际工作,创造缩写词汇,比如SAM表示销售预期模型(salesanticipationmodel),TIM表示领域识别和映射模型(territoryidentificationandmappingmodel)。


  如果业务端用户的建议最终被采用,其就会收到一个礼物卡。由此,就可以根据诸如销售人员之类的用户的期望,从而思考预测模型该做些甚么。


  汰渍的策略变化


  作为全球最大的零售商之一,宝洁公司宣布推出一款新型的低价汰渍洗衣剂,以此来吸引中端客户。该如何评价这个决策呢?


  ShelSmith是市场分析公司Twenty-TenInc.的创始人,他的看法是:“如果你发布类似的产品,不仅仅是在获取新的客户,其实还在鼓励已有的客户替换现有的高价产品。”


  鉴于当前经济形势的影响,这种担忧并非没有道理。但是,Smith对宝洁的策略持有信心。他认为,宝洁的策略是基于预测模型、海量数据和精准营销来达成的,可以在获取新客户的同时不影响现有品牌的销量。


  “宝洁肯定有很多我们不知道的过人之处,但是在获取新客户方面并无什么神秘的。”Smith表示