文本挖掘技术在CIC的应用

Filed in 技术分享 16 comments

数据挖掘(Data Mining)已经不是一个新鲜的概念,“尿布和啤酒”这一经典案例也被很多人津津乐道: 美国一家大型超市利用数据挖掘技术来分析他们的销售纪录,居然发现尿布和啤酒的销售量之间存在相当大的关联性。经过进一步的调查,找到了产生这个现象的原因,原来在美国,负责为孩子购买尿布的年轻父亲们,很多时候会顺带着给自己买些啤酒。沃尔马随后采取的措施是,将尿布和啤酒并排放在一起,结果两种产品的销售量都到了增长。

在CIC,我们也使用一种特殊的数据挖掘技术,也就是文本挖掘(Text Mining),来从每天数以百万计的网络文章中寻找譬如“尿布和啤酒”的潜在规律和趋势。但是和一般意义上的数据挖掘不同, 文本挖掘的研究对象,即文本,是非结构化(Unstructured)的,即没有预先设定好的栏和位,告诉我们这篇文章是在说某年某月谁谁谁做了什么事,这些信息,都必须使用包括文本向量模型(Vector Space Model),自然语言分析(Natural Language Processing)等技术在内的信息抽取(Information Retrieval)过程得到,然后才能放进结构化的数据库,以供进一步处理。

我们当然希望对于文本的处理结果能够相当准确,这个准确度可以用两个指标来衡量,1. 召回率(Recall),譬如我们想要寻找谈及产品A的文章,那么召回率就是在所有谈及产品A的文章中,多大比例可以被我们发现;2. 精确度(Precision),在我们所认为是谈及产品A的文章,有多少是确实满足我们期待而不是被错误划分进来的。

如果说能相当准确的处理少数文本还不算难,那么每天处理几百万篇文章,就是对整个软件系统的一大考验了,算法的高效,系统的稳定还有可扩展,都起着决定性作用。

除去以上这些,另一大挑战是来自中文。与西方文字不同,汉字字符是没有边界的。西方的文本挖掘技术不能直接应用在中文上,就如同不能直接应用在类似这样一串字符串上一样 thisistobesegmentedfirstandthenwecandosomethingaboutit. 在汉字字串当中寻找特定信息,我们需要首先进行分词,缺少这个过程,就会产生让人啼笑皆非的错误。譬如寻找包含“可乐”的句子,结果“我可乐坏了”也被当作结果。

中国网民的用语习惯,会让文本挖掘的过程更为复杂,我们需要知道什么时候“粉丝”,“玉米”不是食物,而是一些特定人群;我们也需要知道“小黑”可能不是一条狗,而是ThinkPad笔记本;当然,我们也得弄清楚“KK” 这款车是指雪佛兰的Spark还是丰田的Camry,抑或是东风雪铁龙的富康

同时,我们也需要超越绝大多数现有搜索引擎所采用的单纯基于特定关键字的查找匹配方式,而在一定程度上去实现基于语义(Semantic)的搜索,即不论文中出现的是“笔记本”,“本本”,还是“laptop”,当我们在查找“笔记本”时,这篇文章都应该作为结果返回。

面对这么多困难,如果有人觉得CIC的技术人员一定过的苦不堪言,那么他可错了。面向中文网络的文本挖掘实在是有趣极了。首先,迎接那些挑战,解决各类难题本身就很刺激。同时,有机会和我们的分析团队合作也是相当有意思的事情,我们面向各行各业,消费电子,汽车,运动产品,饮料,汽车,甚至网游等等,通过挖掘和分析,散布在海量文本当中的蛛丝马迹就可能被拼凑起来,而形成一个完整的故事。我们或许能够发现不为人知的联系,或者预测到潜在的品牌危机。

对于一个热爱新知的人来说,从事这项技术的研究与开发,可以接触到各类学科的知识,计算机科学,语言学,统计学,社会学,大众传媒等。我们研究文字的信息熵,计算文本矢量的相似性,用动态规划法(Dynamic Programming)对中文进行正确的分词,用概率理论分析词跟词的关联,计算文本向量矩阵的特征向量(Eigenvector),用分布式系统来实现大规模的计算和存储…… 如果这些听起来还不够让人兴奋,那么或许我们还可以去看看文本挖掘和量子物理的共同点。

如果有人问我互联网时代,继门户,搜索引擎,Web2.0之后,The next big thing是什么,我的回答会是,不论具体的应用为何,这个应用一定离不开文本挖掘,从海量的网络文本当中,在语义层面寻找富有价值的信息。这类应用,被纽约时报称为Web3.0,网络的应用.正在从手册(Catalog),向智能的向导(Guide)演变。

Posted by Paul   @   16 四月 2007 16 comments

16 评论

Comments

使用新浪微博登陆

四 22, 2007
12:27 上午
#1 郑昀 :

有趣。我们同行。

六 28, 2007
6:36 下午
#2 geek :

hi, buddy
what tools are you using for text mining? or local developed one?…cheers….G

六 29, 2007
7:08 下午
#3 sky :

Good, Text Mining which combine the linguist and computer science is the most sophisticated and interesting thing.

七 30, 2007
11:55 下午
#4 Lily :

的确是令人着迷的一个工作。就像破案。但是与破案不同的是案件侦破了,案件本身也就结束了。可是Text Mining对于市场和商家的意义远远没有结束,甚至是刚刚开始。我们会惊讶的发现这些表面上看上去毫无关联的信息却预示着很多不可思议的规律。

我在德国,也是同行。但是是个彻底的新手。很高兴在这里找到CIC的中国同行们。今天刚刚开始用我的母语进行一个项目的研究。有问题还需要和你们讨论。

十 10, 2007
7:01 下午
#5 河豚毒 :

看来做同行的越来越多了,几年前我们还在默默地前行,如今非常高兴看到这么多人对信息挖掘的关注。
大家有什么新的研究成果可以拿出来共享一下。大家一起进行讨论。

十 31, 2007
10:10 下午
#6 漾漾 :

对文本搜索的技术非常感兴趣,网络口碑有多重含义,我在从事同一名称下的另一种工作和行业。希望能多交流,我觉得我们应该有很好的结合点的。希望能够多学习。

十一 6, 2007
9:57 上午
#7 Silence :

以前百度总是说它比谷歌更懂中文,不以为然,看了这篇介绍才对知道中外文的差异这么大,不懂真不行,佩服!对口碑营销很感兴趣,希望你们越做越好,继续关注中。

十一 10, 2007
1:46 上午
#8 河豚毒 :

海量应该是目前最懂中文的。

五 25, 2008
2:30 下午
#9 Thomas :

同行!很高兴有志同道合的朋友!
我们已经致力于自然语言处理技术的成果转化多年了。除去互联网应用之外,国内信息化项目中也存在这大量需求,企业、政府、咨询公司等。
技术是可以独立研究的,市场和需求是大家共同生存的基础,希望能联手合作。

六 3, 2008
9:32 下午
#10 匿名 :

文本挖掘,特别是Web挖掘越来越热了。。

十二 2, 2008
7:13 上午
#11 vonbo :

对这个部分很感兴趣哈,能不能有空多发一些可以共享的技术上的算法?

Author 十二 2, 2008
2:13 下午
#12 CIC :

To vonbo:
非常感谢您对我们博客的关注。如果您对技术方面感兴趣的话,也可以浏览我们Tech部门自己博客:http://blog.csdn.net/cictech。这个博客里我们的技术人员会分享一些最新技术的理解和操作。

三 15, 2009
2:11 下午
#13 Ryan :

图形界面的出现电脑UI的第一次飞跃,由Icon取代了命令行;
有一种说法是下一代UI将会是由语言(Natural language)取代Icon。
那么针对自然语言的挖掘技术将自然与电脑os结合,将有更大的作为

六 29, 2009
1:16 上午
#14 youngke :

真的感觉你们公司很有前途,所做的研究工作很有意义,对这些知识非常感兴趣,我投了你们公司的实习简历,经过一面,但是二面通知迟迟没等到,可能真的要错过了,真的很遗憾

Author 六 30, 2009
10:28 上午
#15 CIC :

Hi Yongke 同学,
非常感谢你对CIC的关注,我们已经把你的相关疑问反映给人事部门,人事部门反馈说已经在6月19日以邮件形式告知面试结果了,请注意查收邮件。谢谢!

十 26, 2009
2:57 下午
#16 vke~~! :

真对这方面感兴趣,自己也想找点资料更全面的理解,但是没有找到~~~!

博客评论

下一篇
«
上一篇
»
© 2006 - 2017 seeisee - CIC: 解读网络口碑,探讨网络文化
Powered by Wordpress
PolkaDot designed by ZENVERSE
In conjunction with Chattrum , Black toaster , Black microwave , Kontantkort