Go 语言高效分词, 支持英文、中文、日文等
词典用双数组 trie ( Double-Array Trie )实现, 分词器算法为基于词频的最短路径加动态规划。
支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行 JSON RPC 服务。
项目地址: https://github.com/go-ego/gse
package main
import (
"fmt"
"github.com/go-ego/gse"
)
func main() {
var seg gse.Segmenter
seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt")
text1 := []byte("你好世界, Hello world")
segments := seg.Segment(text1)
fmt.Println(gse.ToString(segments, false))
}
1
ilylx2008 2018-04-27 20:22:15 +08:00 via Android
赞
|
2
dbpe 2018-04-27 20:26:29 +08:00 via Android
定一个。。今天拿 go 写了一个小程序感觉还行
|
3
GreatMartial 2018-04-27 21:10:41 +08:00 via Android
关注
|
5
vway OP |
6
whyw 2018-04-28 15:57:45 +08:00
mark
|