V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
finian
V2EX  ›  程序员

如何比较靠谱地判断一段文本的编码格式

  •  
  •   finian · 2013-12-13 15:30:44 +08:00 · 2687 次点击
    这是一个创建于 4003 天前的主题,其中的信息可能已经有所发展或是发生改变。
    有一段文本,编码未知,需要尽量解码出文本内容而不出现乱码,目前只要求中文不出现乱码即可,有什么靠谱的方法没?尝试用了ICU库(http://site.icu-project.org/),发现判断不是特别准确。
    2 条回复    1970-01-01 08:00:00 +08:00
    cute
        1
    cute  
       2013-12-13 15:48:19 +08:00
    python下我使用的chardet.
    效果还不错.
    scalaview
        2
    scalaview  
       2013-12-13 17:55:13 +08:00
    chardet+1

    >>> import urllib
    >>> rawdata = urllib.urlopen('http://www.google.cn/').read()
    >>> import chardet
    >>> chardet.detect(rawdata)
    {'confidence': 0.98999999999999999, 'encoding': 'GB2312'}
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5556 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 08:58 · PVG 16:58 · LAX 00:58 · JFK 03:58
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.