注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

罗家德博客

别人的信任就像蝴蝶,你追她追不到,只有诚心静气下来,她冷不防会飞到你身上

 
 
 

日志

 
 
关于我

清华大学社会学系教授.主要授课组织理论,对管理学本土化深感兴趣,感叹管理教育少了人文的关怀,愿意通过这个博客探讨管理和文化等问题,并求教于广大网友.

网易考拉推荐

别被大数据忽悠了  

2015-04-14 14:26:36|  分类: 默认分类 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

近两年大数据真的很热,但一个过热的现象就一定会有很多误区,很多人看了是网上海量数据“淘”出来的分析就认定了是“真理”,深信不疑,其实这里头很可能埋伏了误区,使用不慎会误导决策。

那里大数据能作什么?不能作什么?基于过去六年参予的相关项目及和计算机学界合作的经验,我有一个初步的看法。

大数据当然很有用,最明显的就是茫茫网海中找一个人或一小群人,“人肉”的威力我不再赘述了。

其次,我想找一个商机,如果在大数据中挖出一百万人表达对某一“产品”的关注,这绝对会有足够的消费者,让产品赚钱,所以大数据的商业应用前景十分光明。

再来,如果只是描述性统计和相关性分析,不作任何推论,往往也十分靠谱。但是往往这样的分析只作归纳不作演译,在很多时候是不敷应用的,尤其是决策者对宏观世界知识的需求,使得大数据分析者会急于对大数据挖掘出来的结果作推论。比如,我们如果说网上交易数据发现某某地区网上消费者对某一产品需求近三个月成长五成,就很有用,如上面所述,它马上反应了一个商机。但是我们如果说某一地区一成的网民,占4%居民数,其中八成是低学历男性,一成在谈及某一政策时用了“赞”,大概这样的描述,虽靠谱,却对政策决定者没什么用。所以不经过推论,很多大数据挖掘出来的东西会没什么用。

如果数据本身就是母体而不是样本,其统计分析是可以作出诠释的,这是推论的第一步。比如,我参予过微博转发研究,用一段时间内所有微博资料来分析,它本身就是微博转发的所有资料,而不是抽样,所以用数据挖掘出来的发现作诠释,尤其是和理论相稳合的诠释,可信度还是不错的。但注意,诠释可以作出理论的假设,需要进一步资料的验证,诠释本身却不能当作“真理”、“法则”和“事实”。

不作推论大数据有时没用,但一推论就可能掉入很多误区,决策者基于错误的知识作决策,会带来十分严重的后果。那么有那些推论的误区呢?以我们常看到的一些“舆情分析”或“偏好分析”为例,往往大数据挖掘出“某某地方(或某某群人)对某一事物有多高的百分比表示喜欢(或支持)”,这一分析结果就有五大误区可能使这样的“结论”偏误极大。

一、抽样偏误。这是最显而易见,而且是很多人都注意到的,上网的人不等同某一地区或某一群体的所有的人,他们在年龄、教育、社会阶层、婚姻状态等等的社会属性上都和平均数有一定的差距。退一步说,说这是网民的“舆情”或“偏好”,也不准确,因为对一个事件表达态度的人又只是很小一部分的网民,这也只是大数据中找出来的“样本”,不足以推论所有网民。

二、情绪字词衡量偏误。要判断一个网民针对某一事件中表达的一段话是“支持还是反对”某一立场或“喜欢还是不喜欢”某一人或事,我们会抽取出其中的一些字词,或一小段字词,判断这些字词的属性,符合那一类情绪基模。我曾和美国心理学家合作过一百零七个汉字字辞在中国社会中的情绪定位,方法上是让一定数量,数十上百位,心理学受测者,每个人在电脑问卷上就出现在眼前的字辞表达情感的三个维度,EPA,评价(Evaluation)、情绪强度(Potency)以及引发行动程度(Activity),再由这三个维度平均值判断出这一字词在中国人中来自于什么样的情绪。任何衡量字词相应情绪的方法不免还是会有偏误,但是在我看到一些国内使用的衡量中,三五个人主观地判断就为很多字词作好情绪归类,这显得十分粗糙,衡量偏误又大的多了。

转化偏误。一段网民的话中可能会有一个到数个可以抽取出来的字词,每个字词表达了中国人情绪的EPA三维度,每一维度都是从+3-3间无限多的刻度来表达,但最终我们却要从这一句话中判断出一个“支持不支持”的立场或“喜欢不喜欢”的态度所以从这么多复杂衡量的字辞到简单两分的结果,需要一个转化的模型,甚至不同类别事物的情绪表达需要不同的转化模型。但如今国内的很多大数据挖掘,其转化模型只是粗糙的处理,缺乏理论基础,这又会加大偏误。

、情绪感染偏误。网上发言情境中常常会有一群相同立场的人抱团,在一定的舆论阵地中党同伐异,这会影响有些后续发言者隐藏自己的立场,采用趋同言论,以免犯了众怒。这又会使网上表达有时不能真实反应一个人的偏好,在一个人冷静独处时会有不同的表达,因而产生因情绪感染而有的偏误。

五、最后一类的偏误我称之为资料被截的偏误(truncated data bias,就是很多行为,越是重要的,特别值得研究的,牵涉到信任感强的行为,其实网上表达的只是冰山水面上的部分,大量行为是在网下的,因此资料是被截的(truncated)。比如我在从大数据中算一个人人脉网时,网上资料较易看出弱连带,但是算强连带却会有很大的误差,因为强连带中大多数亲密行为是发生在网下的,这一部分网上不一定能察觉到。同样的,一些较敏感的立场,大多数人较不愿表达的偏好,以及较机密的信息,都不会上网,除非像毕姥爷一样被偷拍上网了,否则大数据是挖掘不到的。如何从已有的网上资料去推论网下被截的部分,是一个重大而困难的研究,但可以减少truncated data造成的偏误。

基于这五类推论时产生的偏误,使我们想直接从大数据挖掘结果推论出我们想知道的知识时,常常是以偏概全的,据以作出决策,不免大错特错,不得不慎。但大数据有一个优势,就是很容易收到惯时性资料,虽然是“偏”的,但长时间“偏”的资料的趋势有时可以看出未来的端倪,过了“引爆点”, 趋势就能形成,形势就不可逆转,大数据的分析会事先提供极为重要的警讯。比如,台湾“太阳花运动”就是从“反服贸懒人包”开始,虽然其中包括了很多错误而扭曲的信息,你可以骂大量台湾年轻人知识贫乏没有国际观,但它就是能让很多人相信,一旦变成“普遍知识”时,马英九政府想辟谣也来不及了。

有时“引爆点”只要百分五的人口,网民也就是百分之十,便足以引爆趋势,从网上漫延到网下,势不可挡。当然这种研究还有很长的路要走,急急忙忙就宣称自己找到了“大趋势”的,怕又是忽悠的成份居多。

大数据很有用,但也是双刃剑,滥用误用会产生重大决策的错误,现在大数据相关经费多,出了一堆又一堆的专家,决策者使用这些专家的挖掘结果时不能不慎。

  评论这张
 
阅读(1860)| 评论(2)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017