我曾遇到一个麻烦的 SQL-dump 问题,其中既包含有效的 UTF-8 代码,也包含无效的代码,需要进行更多手动转换。由于上面的示例没有解决替换和查找更好匹配项的问题,我认为在这里为那些正在处理类似编码问题的人提供一些帮助。以下代码:
- 解析我的 sql-dump
- 按查询拆分
- 查找超出 256 范围的字符代码
- 输出代码和出现代码的字符串上下文
- 使用正则表达式将瑞典 ÅÄÖ 替换为正确的代码
- 输出替换后的字符串以进行控制
"use strict";
const readline = require("readline");
const fs = require("fs");
var fn = "my_problematic_sql_dump.sql";
var lines = fs.readFileSync(fn).toString().split(/;\n/);
const Aring = new RegExp(String.fromCharCode(65533) +
"\\" + String.fromCharCode(46) + "{1,3}", 'g');
const Auml = new RegExp(String.fromCharCode(65533) +
String.fromCharCode(44) + "{1,3}", 'g');
const Ouml = new RegExp(String.fromCharCode(65533) +
String.fromCharCode(45) + "{1,3}", 'g');
for (let i in lines){
let l = lines[i];
for (let ii = 0; ii < l.length; ii++){
if (l.charCodeAt(ii) > 256){
console.log("\n Invalid code at line " + i + ":")
console.log("Code: ", l.charCodeAt(ii), l.charCodeAt(ii + 1),
l.charCodeAt(ii + 2), l.charCodeAt(ii + 3))
let core_str = l.substring(ii, ii + 20)
console.log("String: ", core_str)
core_str = core_str.replace(/[\r\n]/g, "")
.replace(Ouml, "Ö")
.replace(Auml, "Ä")
.replace(Aring, "Å")
console.log("After replacements: ", core_str)
}
}
}
生成的输出将类似于以下内容:
Invalid code at line 18:
Code: 65533 45 82 65533
String: �-R�,,LDRALEDIGT', N
After replacements: ÖRÄLDRALEDIGT', N
Invalid code at line 18:
Code: 65533 44 44 76
String: �,,LDRALEDIGT', NULL
After replacements: ÄLDRALEDIGT', NULL
Invalid code at line 19:
Code: 65533 46 46 46
String: �...ker med fam till
After replacements: Åker med fam till
以下是我发现值得注意的几点:
65533
有时会跟随一定数量的常规字符,这些字符决定了实际字符,因此需要使用{1,3}
Aring
包含一个.
,即可以匹配任何字符,需要额外加上\\