依存句法分析器的简单实现

news/2024/7/3 13:35:36 标签: 人工智能, 数据结构与算法

生成式句法分析指的是,生成一系列依存句法树,从它们中用特定算法挑出概率最大那一棵。句法分析中,生成模型的构建主要使用三类信息:词性信息、词汇信息和结构信息。前二类很好理解,而结构信息需要特殊语法标记,不做考虑。

本文主要利用了词汇+词性生成联合概率模型,使用最大生成树Prim算法搜索最终结果,得到了一个简单的汉语依存句法分析器。

开源项目

本文代码已集成到HanLP中开源:http://hanlp.dksou.com/

基本思路

统计词语WordA与词语WordB构成依存关系DrC的频次,词语WordA与词性TagB构成依存关系DrD的频次,词性TagA与词语WordB构成依存关系DrE的频次,词性TagA与词词性TagB构成依存关系DrF的频次。为句子中词语i与词语j生成多条依存句法边,其权值为上述四种频次的综合(主要利用词-词频次,其余的作平滑处理用)。取边的权值最大的作为唯一的边,加入有向图中。

在有向图上使用Prim最大生成树算法,计算出最大生成树,格式化输出。

模型训练

简单地统计一下清华大学语义依存网络语料,得到如下结果:


a46c46ac5acaa96c6478752328937c191941f49a

@符号连接起两个词汇或词性,用<>括起来的表示词性,否则是词汇。如果@后面没有内容,则表示频次,否则表示一些依存关系与其出现的频次。

 

依存句法分析

分词标注

以“我吃米饭”为例,先进行分词与词性标注,结果:

94cebbb89480803c1a1f9a6ef1265bfc59984f5e

生成有向图

由于依存句法树中有虚根的存在,所以为其加入一个虚节点,这样一共有四个节点:

 3a08122d99a8ec80abb5aabbf5d3cd2119f47a40

每个节点都与另外三个构成一条有向边,一共4 * 3 = 12 条:

1. ##核心##/root 到 我/rr : 未知 10000.0

2. ##核心##/root 到 吃/v : 未知 10000.0

3. ##核心##/root 到 米饭/n : 未知 10000.0

4. 我/rr 到 ##核心##/root : 核心成分 6.410175

5. 我/rr 到 吃/v : 施事 21.061098 经验者 28.54827 目标 33.656525 受事 37.021248 限定 43.307335 相伴体 48.00737 关系主体 53.115623 内容 53.115623 来源 64.101746

6. 我/rr 到 米饭/n : 限定 22.2052 施事 48.00737 受事 57.170277 目标 57.170277 经验者 64.101746 连接依存 64.101746

7. 吃/v 到 ##核心##/root : 核心成分 1.7917595

8. 吃/v 到 我/rr : 连接依存 96.688614 介词依存 107.67474 施事 107.67474

9. 吃/v 到 米饭/n : 限定 24.849068

10. 米饭/n 到 ##核心##/root : 核心成分 37.077995

11. 米饭/n 到 我/rr : 连接依存 113.2556

12. 米饭/n 到 吃/v : 受事 0.6931472

 

其中“未知”表示边不存在,“受事”“施事”表示依存关系,后面的小数表示权值。我对概率取了负对数,所以接下来用加法求最小生成树即可。

 

最小生成树

 

关于最小生成树的Prim算法请参考《最小生成树算法初步》,这里必须有所改动,由于虚根有且只能有一个孩子,所以虚根必须单独计算:

 

2efeb51400240cf67d665707f1f7bc963a109725

然后就是中规中矩的Prim算法:

586b6aeb8e81bf90aa5a0f659884e9b92141fb76

得出最小生成树:

 

0096462288e3f57a1819cb46687e99419169ec5a

格式化输出

将其转为CoNLL格式输出:

 

584e8016ad42b12520c2ee2b2b0c58c283305680

可视化

使用可视化工具展现出来:


52ff09c7dfae080ec1cd615f8f910941d992f5e3

 

结果评测

我没有进行严格的测试,这只是一个玩具级别的汉语依存句法分析器。先来看几个good case与bad case——

1c17aefc07d93723df4002f6a69158bb295c70f31ae3bf4d5407e17be8a1b629920e46c2ce5fc69e

效果比较马虎,为何这么说,这是因为分词的训练语料和句法分析语料不同,且我自知此方法严重依赖词汇共现,主要是这种二元词汇生成模型无法充分利用上下文。

短一点的搜索语句可能还是有微量的利用价值。

TODO

应当采用判别式模型,导入SVM或最大熵作为权值的计算工具,然后使用最大生成树算法获取全局最优解。

 

文章转载自hankcs 的博客


http://www.niftyadmin.cn/n/708098.html

相关文章

java菱形三角形代码_java三角形和菱形的打印

一、三角形的打印package Test;import java.util.Scanner;public class Main {public void san(int num) {for(int i1;i<num;i) {//控制行数for (int j 1; j < num-i; j) {//控制空格的个数System.out.print(" ");}for(int k1;k<2*i-1;k) {//控制打印*Syst…

python定时器的使用_关于定时器的两种使用方法

在发现Python自身的API在这方面没有很好支持这种情况下&#xff0c;想要使用Timer功能的话&#xff0c;除了第三方的模块外&#xff0c;还可以通过使用标准库为我们提供的sched模块和Timer类。这两个类不能算是真正的Timer&#xff0c;只能算是用来现实Timer的工具类。 不论在客…

图片仓库

2019独角兽企业重金招聘Python工程师标准>>> 图片仓库 转载于:https://my.oschina.net/u/3099393/blog/798400

python 获取excel中的图表_使用Python将Excel中的图表导出为图像

我知道这是一个老问题&#xff0c;但它有助于我走上正确的轨道&#xff0c;所以我回来分享我完成的脚本&#xff0c;找到工作表中的所有图表&#xff0c;并将它们导出为.png。 上面的脚本可以工作&#xff0c;但是由于它只是复制工作表中的一个区域&#xff0c;所以您要依赖于正…

爬取《悲伤逆流成河》猫眼信息 | 郭敬明五年电影最动人之作

一、我的感受 知道《悲伤逆流成河》上映还是在qq空间看见学弟发了说说&#xff0c;突然想起初中追小四的书&#xff0c;每天看到晚上10点多&#xff0c;昨天看了枪版的《悲伤逆流成河》&#xff0c;整个故事情节几乎和小说一模一样&#xff0c;当然缩减是避免不了的&#xff0c…

java高并发多线程架构_多线程与高并发(二)线程安全

上一篇学习了多线程的一些基础知识&#xff1a;多线程的基本概念&#xff0c;及创建和操作多线程。内容相对简单&#xff0c;但多线程的知识肯定不会这么简单&#xff0c;否则我们也不需要花这么多心思去学习&#xff0c;因为多线程中容易出现线程安全问题。那么什么是线程安全…

cube sdio fatfs 初始化sd卡_STM32F407ZGT6之FATFS操作SD卡注意事项

0、写在前面这个是用STM32操作SD卡时遇到的一些问题&#xff0c;写在这里备忘用。本人机械专业&#xff0c;涉及电子的可能不够专业&#xff0c;如有纰漏错误&#xff0c;欢迎指正。1、创建一个文件夹和文件实例代码1&#xff1a;FILINFO 其中FILINFO 是文件信息结构体&#xf…

获取已加载完成的下拉框的所有值,并动态给option设置selected

2019独角兽企业重金招聘Python工程师标准>>> //循环取出下拉框的所有值 $(#rolename option).each(function(){//判断obj.rolename数据库中返回的值是否与下拉框的某一个option值相同if($(this).val() obj.rolename){//将下拉框option的值与obj.rolename相同的一列…