golang的encoding/csv包在处理带bom头、结构体映射和复杂字段时需技巧。1.读取带bom头文件时,应先读取判断是否存在bom头(0xefbbbf),若存在则跳过,否则回退指针再解析;2.读写结构体需手动映射字段,写入时构造表头并遍历结构体转字符串数组,读取时将字符串数组转结构体;3.处理含逗号、换行、引号字段时,应使用write方法传原始字符串,库会自动加引号并转义内部引号,避免手动拼接出错。掌握这些技巧后可应对大多数csv处理需求。
encoding/csv
包虽然简单易用,但在处理复杂数据或特殊格式(比如带BOM头)的csv文件时,确实需要一些技巧。它本身的设计偏向于基础文本解析,并不直接支持结构体映射、类型转换或者自动识别编码等高级功能。不过只要理解了它的使用方式,还是可以灵活应对这些场景的。
如何正确读取带BOM头的CSV文件?
在windows环境下生成的CSV文件,尤其是用excel保存的,常常会带有UTF-8 BOM头(即
xEFxBBxBF
)。如果直接用
os.Open
打开这类文件并传给
csv.NewReader
,会导致第一列的数据出现乱码或者多出一个空字段。
解决方法其实很简单:在读取文件内容之前手动跳过BOM头。
立即学习“go语言免费学习笔记(深入)”;
file, err := os.Open("data.csv") if err != nil { log.Fatal(err) } defer file.Close() // 读取前几个字节判断是否是BOM bom := make([]byte, 3) n, _ := file.Read(bom) if n >= 3 && bom[0] == 0xEF && bom[1] == 0xBB && bom[2] == 0xBF { // 跳过BOM } else { file.Seek(0, io.SeekStart) // 没有BOM就回退指针 } reader := csv.NewReader(file) records, err := reader.ReadAll()
这样就能确保第一行不会被BOM干扰,也不会影响后续解析逻辑。
如何用encoding/csv读写结构体数据?
Go的
encoding/csv
并不像json那样可以直接序列化/反序列化结构体,但你可以通过手动映射字段来实现类似效果。
例如你有一个用户结构体:
type User struct { Name string Age int City string }
写入CSV时,可以这样做:
users := []User{ {"Alice", 25, "Beijing"}, {"Bob", 30, "Shanghai"}, } file, _ := os.Create("users.csv") writer := csv.NewWriter(file) // 写入表头 writer.Write([]string{"Name", "Age", "City"}) for _, u := range users { writer.Write([]string{u.Name, strconv.Itoa(u.Age), u.City}) } writer.Flush()
读取的时候则反过来,把每行字符串数组转成结构体即可:
reader := csv.NewReader(file) records, _ := reader.ReadAll() for _, row := range records[1:] { // 跳过表头 age, _ := strconv.Atoi(row[1]) user := User{ Name: row[0], Age: age, City: row[2], } // 做你想做的操作 }
虽然没有反射机制支持,但这种方式更直观可控,也更容易处理字段缺失、格式错误等问题。
处理包含逗号、换行符和引号的复杂字段
CSV中有些字段可能本身就包含了逗号、换行符甚至双引号,这时候如果不加处理,很容易导致解析错位。
比如下面这个字符串:
"Hello, world!",This is line one. This is line two.,Some "quoted" text
要正确写入这样的内容,必须使用双引号包裹字段,并将内部的双引号转义为两个连续的双引号:
writer.Write([]string{ "Hello, world!", "This is line one.nThis is line two.", "Some "quoted" text", })
csv.Writer
默认就会帮你做这些处理,只要你传入的字段里包含特殊字符(如换行、逗号),它会自动加上引号,并对内部引号进行转义。
如果你自己拼接字符串再写入,那就容易出问题了。建议始终使用
Write()
方法传入原始字符串,让库帮你处理格式。
基本上就这些。
Golang的
encoding/csv
虽然功能有限,但配合一点小技巧,处理大多数常见需求都没问题。特别是读取带BOM的文件、结构体映射和处理复杂字段这几个点,掌握之后基本能覆盖大部分实际应用场景。