翻新时间:2013-12-18
中国语料库研究的历史与现状(1)
语言学的研究必须以语言事实作为根据,必须详尽地、大量地占有材料,才有可能在理论上得出比较可靠的结论。传统的语言材料的搜集、整理和加工完全是靠手工进行的,这是一种枯燥无味、费力费时的工作。
计算机出现后,人们可以把这些工作交给计算机去作,大大地减轻了人们的劳动。后来,在这种工作中逐渐创造了一整套完整的理论和方法,形成了一门新的学科——语料库语言学(corpus linguistics),并成为了自然语言处理的一个分支学科。
语料库语言学主要研究机器可读自然语言文本的采集、存储、检索、统计、语法标注、句法语义分析,以及具有上述功能的语料库在语言定量分析、词典编纂、作品风格分析、自然语言理解和机器翻译等领域中的应用。多年来,机器翻译和自然语言理解的研究中, 分析语言的主要方法是句法语义分析。
因此,在很长一段时间内,许多系统都是基于规则的,而根据当前计算机的理论和技术的水平很难把语言学的各种事实和理解语言所需的广泛的背景知识用规则的形式充分地表达出来,这样,这些基于规则的机器翻译和自然语言理解系统只能在极其受限的某些子语言(sub-language)中获得一定的成功。为了摆脱困境,自然语言处理的研究者者们开始对大规模的非受限的自然语言进行调查和统计,以便采用一种基于统计的模型来处理大量的非受限语言。
不言而喻,语料库语言学将有可能在大量语言材料的基础上来检验传统的理论语言学基于手工搜集材料的方法所得出的各种结论,从而使我们对于自然语言的各种复杂现象获得更为深刻全面的认识。本文首先简要介绍国外语料库的发展情况,然后,比较详细地介绍中国语料库的发展情况和主要的成绩,使我们对于语料库研究得到一个鸟瞰式的认识。
一、国外语料库概况现在,美国Brown大学建立了BROWN语料库(布朗语料库),英国Lancaster大学与挪威Oslo大学与Bergen大学联合建立了 LOB 语料库。欧美各国学者利用这两个语料库开展了大规模的研究,其中最引人注目的是对语料库进行语法标注的研究。
他们设计了基于规则的自动标注系统 TAGGIT 来给布朗语料库的 100 万词的语料作自动标注,正确率为 77%. 他们还设计了 CLAWS 系统来给 LOB 语料库的100万词的语料作自动标注,根据统计信息来建立算法,自动标注正确率达 96%, 比基于规则的 TAGGIT 系统提高了将近 20%. 最近他们同时考察三个相邻标记的同现频率,使自动语法标注的正确率达到 99.5%。这个指标已经超过了人工标注所能达到的最高正确率。
现在,国外的主要语料库还有:London-Lund口语语料库:收篇目87篇,每篇5000词,共为43.4万词,有详细的韵律标注(prosodic marking)。AHI语料库:美国Heritage出版社为编纂Heritage词典而建立,有400万词。
OTA牛津文本档案库(Oxford Text Archive):英国牛津大学计算中心建立,有10亿字节。BNC英国国家语料库(British National Corpus):1995年正式发布,使用TEI编码(Text Encoding Initiative)和SGML通用标准置标语言的国际标准(The Standard Generalized Mark up Language, ISO 8879, 1986年公布)。
ACL/DCI美国计算语言学学会数据采集计划:美国计算语言学学会(The association for Computational Linguistics, ACL)倡议的数据采集计划(Data Collection Initiative, DCI),其宗旨是向非赢利的学术团体提供语料,以免除费用和版权的困扰,用标准通用置标语言SGML统一置标,以便于数据交换。LDC语言数据联合会 (Linguistic data Consortium): 设在美国宾州大学,实行会员制,有163 个语料库 (包括Text的以及 speech的),共享语言资源。
RWC日语语料库:日本新情报处理开发机构RWCP研制,包括《每日新闻》4年的全文语料,语素标注量达1亿条。亚洲各语种对译作文语料库:日本国立国语研究所研制,中野洋主持,北京外国语大学参加。
为了推进语料库研究的发展,欧洲成立了TELRI和ELRA等专门学会。TELRI 是跨欧洲语言资源基础建设学会(Trans-European Language Resources Infrastructure )的首字母缩写,John Sinclair担任主席,由欧洲共同体提供经费,其目的在于建立欧洲诸语言的语料库,现已经建成柏拉图(Plato)的《理想国》(Politeia)多语语料库,建立了计算工具和资源的研究文档TRACTOR (Research Archive of Computational Tools and Resources),正在语料库的基础上建立欧洲语言词库EUROVOCA。
TELRI每年召开一次Seminar 。最近的一次Seminar在Lubljana, (Slovenia)召开(22.September – 26.September.2000),主题是从语料库中自动抽取知识(Automatic knowledge extraction)。
ELRA是欧洲语言资源学会 (European Language Resources Associationi)的首字母缩写,由Zampolli担任主席, ELRA负责搜集、传播语言资源并使之商品化,对于语言资源的使用提供法律支持。ELRA建立了欧洲语言资源分布服务处ELDA (European Language resources Distribution Agency),负责研制并推行ELRA的战略和计划。
ELRA还组织语言资源和评价国际会议LREC (Language Resources
下载文档
网友最新关注
- 我的妈妈
- 春雨
- 调料师傅
- 我好想吃忆苦饭
- 游玩的趣事
- 争吵以后的觉醒
- 五块钱的考验
- 0的联想
- 妈妈,我想对您说
- 小星星
- 叠被子
- 冬天是什么
- 班上的“小博士”多了
- 去给动物们一个家吧
- 我参观了金沙博物馆
- 重庆租房合同
- 公寓租房合同
- 如何写租房合同
- 简单租房合同
- 杭州租房合同
- 商业用房租赁合同范本
- 简易租房合同
- 长沙租房合同
- 标准版租房合同范本
- 青岛租房合同
- 商铺租房合同
- 宁波租房合同
- 广州租房合同
- 门面房租房合同
- 商业用房合同
- 优化课堂结构,实施素质教育
- 体育教育事业如何适应全民健身计划需求
- 培养学生的问题意识,深化自然科学的创新教育
- 抢篮板球的技术、配合、及训练
- 语文“综合性学习”的教学实践与体会
- 把握三条线,抓住三个点——谈小学语文教学中的朗读训练
- 浅谈中等学校经济学教学的困惑和改革
- 自疑•自释阅读教学模式漫谈
- 小学语文课外阅读活动浅谈
- 关于小学数学教材改革研究的回顾与思考
- 开启课堂宝库的金钥匙——浅谈语文导语的设计
- 对初中语文教学落实素质教育的几点思考
- 《西湖漫笔》语言漫说
- 关注情感体验,焕发课堂活力
- 语文教学中应处理好十种关系
- 《口语交际·教你学一招》教学设计1
- 《语文园地四》教材简说
- 《语文园地四》教学设计2
- 《绝招》教学设计
- 人教新课标三年级下册《可贵的沉默》教案
- 《可贵的沉默》课文原文
- 《可贵的沉默》板书设计
- 人教新课标三年级下册《语文园地四》教案
- 《语文园地四》阅读训练
- 《可贵的沉默》公开课教案
- 《可贵的沉默》精品教案
- 《语文园地四·教你学一招》教学设计3
- 《口语交际·教你学一招》教学设计
- 《口语交际·教你学一招》教学设计2
- 《口语交际》教学建议