如何将ASCII字符串视为unicode并在python中对其中的转义字符进行转换?
题
例如,如果我有 unicode 字符串,我可以将其编码为 ASCII 字符串,如下所示:
>>> u'\u003cfoo/\u003e'.encode('ascii')
'<foo/>'
然而,我有例如这个 ASCII 字符串:
'\u003foo\u003e'
...我想变成与上面第一个例子中相同的 ASCII 字符串:
'<foo/>'
解决方案
我花了一段时间才想出这个,但此页得到了最好的答案:
>>> s = '\u003cfoo/\u003e'
>>> s.decode( 'unicode-escape' )
u'<foo/>'
>>> s.decode( 'unicode-escape' ).encode( 'ascii' )
'<foo/>'
还有一个'raw-unicode-escape'编解码器来处理指定Unicode字符串的另一种方法 - 检查“Unicode Constructors”&quot;链接页面的一部分有更多细节(因为我不是那种Unicode-saavy)。
编辑:另请参阅 Python标准编码。
其他提示
Ned Batchelder 说:
根据字符串的来源,它有点危险, 但是如何:
>>> s = '\u003cfoo\u003e' >>> eval('u"'+s.replace('"', r'\"')+'"').encode('ascii') '<foo>'
实际上这种方法可以像以下一样安全:
>>> s = '\u003cfoo\u003e'
>>> s_unescaped = eval('u"""'+s.replace('"', r'\"')+'-"""')[:-1]
在结束3引号之前注意三重引号字符串和短划线。
- 如果用户输入'\\',则使用3引号字符串将确保'(为了视觉清晰而添加的空格)在字符串中它不会破坏评估者;
- 如果用户的字符串以“\”结尾,则末尾的短划线是故障安全的。 '。在我们分配结果之前,我们使用[:-1] 对插入的短划线进行切片 醇>
因此无需担心用户输入的内容,只要以原始格式捕获即可。
在Python 2.5上,正确的编码是“unicode_escape”,而不是“unicode-escape”。 (注意下划线)。
我不确定新版本的Python是否更改了unicode名称,但此处仅使用下划线。
无论如何,就是这样。
在某些时候,当您遇到要解码的字符串中的特殊字符(如中文字符或表情符号)时,您会遇到问题,例如:
UnicodeEncodeError: 'ascii' codec can't encode characters in position 109-123: ordinal not in range(128)
对于我的情况(推特数据处理),我解码如下,让我看到所有没有错误的字符
>>> s = '\u003cfoo\u003e'
>>> s.decode( 'unicode-escape' ).encode( 'utf-8' )
>>> <foo>
根据字符串的来源,它有点危险,但是如何:
>>> s = '\u003cfoo\u003e'
>>> eval('u"'+s.replace('"', r'\"')+'"').encode('ascii')
'<foo>'
不隶属于 StackOverflow