解决pandas写入excel时的ValueError: All strings must be XML compatible报错

报错内容:
ValueError: All strings must be XML compatible: Unicode or ASCII, no NULL bytes or control characters

报错背景

用pands批量写入excel文件,发生编码报错。检索了很多方案,都不能解决。

导致报错的原因是存在违法字符,不符合 XML 的解析规则。pandas写入应该是调用了xml的解析方法,所以这里也要符合xml的字符规则。

很多方法都是针对自己任务中遇到的特定违法字符进行的替换操作,不具备一般性。所以这里列出了一个最终解法——逐个字符的判断是否符合xml编译规则,只保留符合规则的编码。

最终代码

def valid_xml_char_ordinal(c):
    codepoint = ord(c)
    # conditions ordered by presumed frequency
    return (
        0x20 <= codepoint <= 0xD7FF or
        codepoint in (0x9, 0xA, 0xD) or
        0xE000 <= codepoint <= 0xFFFD or
        0x10000 <= codepoint <= 0x10FFFF
        )


def wash_data(text):
    cleaned_string = ''.join(c for c in text if valid_xml_char_ordinal(c))
    return cleaned_string

text = "xxx"
text = wash_data(text)  # 完成清洗

参考

[1] 在python中过滤掉某些字节_python_Mangs-Python

相关推荐

  1. spark 写入 hudi数据类型

    2024-02-03 14:22:02       58 阅读
  2. 【用pandas写入内容到excel工作表问题】

    2024-02-03 14:22:02       60 阅读
  3. pandas dataframe写入excel多个sheet页面

    2024-02-03 14:22:02       53 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-02-03 14:22:02       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-02-03 14:22:02       101 阅读
  3. 在Django里面运行非项目文件

    2024-02-03 14:22:02       82 阅读
  4. Python语言-面向对象

    2024-02-03 14:22:02       91 阅读

热门阅读

  1. 蓝桥杯客观题练习笔记

    2024-02-03 14:22:02       60 阅读
  2. C++设计模式之工厂模式

    2024-02-03 14:22:02       48 阅读
  3. Linux:使用grep和more索日志内容排查Bug

    2024-02-03 14:22:02       50 阅读
  4. C++之结构体

    2024-02-03 14:22:02       47 阅读
  5. kingbase配置SSL双向认证

    2024-02-03 14:22:02       54 阅读
  6. GMSSL之ZUC256算法

    2024-02-03 14:22:02       54 阅读
  7. cortexM c语言和汇编嵌套编程

    2024-02-03 14:22:02       50 阅读