鎰熸仼鐩搁亣
缇庡ソ鐨勬椂鍏変笌澶у鐩镐即
2021锛屾柊骞村揩涔愶紒
相信大家在日常生活中,都见过类似上面的字符串。这些看起来不明所以的内容,通常被称作乱码。
那么乱码是如何产生的,并且如何修复呢?我们接下来将一步步讲解。
1
你须知道的编码规则
字符串,本质上都是一个字节一个字节的数据,连在一起存储的。而要将这些数据显示在屏幕上,则需要按一种编码规则进行解析。
ASCII编码
ASCII编码是最容易理解的。ASCII编码因为每个字符仅占用7bit,所以最多只能存储127个字符,而每个字符都有唯一的一个数字与其对应。
例如:
数字0x35在这种编码规则下,会被解析为字符5;
数字0x6C在这种编码规则下,会被解析为字符l ;
数字0x4C在这种编码规则下,会被解析为字符L;
具体对应规则,可以在网上搜索ASCII 码表查看。
按照这种规则,一串hello,用16进制数据表示就是:
68 65 6C 6C 6F
GB2312编码
因为ASCII只能显示127个字符,远远不能满足中文字符的显示需求,所以中国国家标准总局于1980年发布了国家标准代码GB2312标准(目前最新标准为GB18030)。
简单来说,在这套编码规范下,每个中文字符可以由2个字节表示,例如:
啊 的实际数据为0xB0 0xA1 ;
测 的实际数据为0xB2 0xE2 ;
试 的实际数据为0xCA 0xD4 。
同时,因为ASCII编码下每字节使用了7bit(0x00-0x7f ),GB2312为了对其进行兼容,规定每个中文字符的高位字节(第一个字节)使用0xA1–0xF7的范围,避开了ASCII编码使用的区域。
也就是说,象下面的一串混用了中英文的数据,也可以正常被解析并显示出来:
B2 E2 CA D4 31 32 33 B2 E2 CA D4
实际内容:
B2 E2(测) CA D4(试) 31(1) 32(2) 33(3) B2 E2(测) CA D4(试)
UTF-8编码
UTF-8可以使用1-4字节来表示字符,因为其兼容性强,可以对Unicode字符集中的所有有效编码点进行编码,是目前使用最广泛的编码标准。
与GB2312一样,UTF-8同样兼容ASCII编码。只是UTF-8比GB2312包含了更多字符,并且每种字符的字节数并不是完全固定的。
由于编码规则比较复杂,这里不作具体解释,仅举例说明:
啊 的实际数据为0xE5 0x95 0x8A;
测 的实际数据为0xE6 0xB5 0x8B;
试 的实际数据为0xE8 0xAF 0x95。
其他编码
除了ASCII、GB2312和UTF-8编码,还有许多编码标准,他们大部分互不兼容。
2
存储和传输字符串数据
数据都是要进行存储和传输的,与编码息息相关。
存储
微软使用BOM头
这种技术来为纯文本文件标记其编码,这样打开文件时就可以用正确的编码进行解析。
而大部分Linux不使用类似技术,所以读取后只能靠猜测,或强行指定,来进行显示。
传输
传输不仅指字符串数据在互联网上的传输,也包括了在各类函数调用过程中的传输。这类操作通常都不会带有字符编码标准的标记,一般靠直接指定编码来解决。
3
为何会产生乱码
聪明的你应该已经想到了,如果一串某编码的数据,被人使用另一种编码标准进行解析,那么得出的结果几乎一定是错误的。
比如测试解析结果这几个字,我们使用UTF-8编码,得到下面16进制数据:
E6B58BE8AF95E8A7A3E69E90E7BB93E69E9C
如果,收到这些数据的人尝试使用GB2312编码来显示,那么结果就是我们非常熟悉的乱码了:
娴嬭瘯瑙f瀽缁撴灉
上面的过程就是典型的乱码形成过程。
4
如何修复乱码
乱码是否可以还原?答案是肯定的,只需要按乱码形成时的操作反过来做一遍就可以恢复了。但是有些编码中会出现?
这种无法解析显示的数据,这部分数据就完全丢失了。
一般的乱码修复操作,就是把各种编码可能性都试一遍,看哪个结果可靠,那么就是原始内容。
这里推荐使用开源工具—— LLCOM (llcom.papapoi.com),来进行乱码恢复工作。
LLCOM
可运行Lua脚本的高自由度串口调试工具。
- 可独立运行Lua脚本,并拥有定时器与协程任务特性(移植自合宙Luat Task架构);
- 其他串口调试功能具有的功能;
- 收发日志清晰明了,同时显示HEX值与实际字符串;
- 自动保存串口与Lua脚本日志,并附带时间;
- 串口断开后,如果再次连接,会自动重连;
- 发送的数据可被用户自定义的Lua脚本提前处理;
- 右侧快捷发送栏,快捷发送条目数量不限制。
更多精彩,敬请期待!
我们用上一节生成的乱码数据作为例子,尝试修复:
可以看到可靠的结果已经显示出来,修复成功。
5
如何避免乱码
建议在写代码时统一使用UTF-8编码,这是目前互联网的最主要的编码形式。
如果是资源占用紧张,但依旧需要中文显示的地方,可以考虑使用GB2312编码存储数据。
了解合宙Luat开源架构:
Luat = Lua + AT,合宙推出的物联网创新开源架构,依托于通信模块做简易快捷的开发,将传统的AT命令用Lua语言封装成API,并提供各种功能应用的demo,大大减少用户的开发成本。
Luat入门教程
http://doc.openluat.com/wiki/3?wiki_page_id=606
开发指南
白话Lua教程
简明Lua语法
LuaTools
第一个工程
Luat框架
Luat API接口 (2G)
Luat API接口 (4G)
LuaTask 库消息和注解
Luat云平台
今天就分享到这里,你学会了吗
本文将持续在Luat社区更新
http://doc.openluat.com/article/2113/0
- 欢迎加入Luat 社区 -
社区账户与ERP系统通用
Lua教程 | 模块资料 | 问答系统 | 工具下载 | 经验分享
快来领取专属福利~方式一:留言互动
参与微信公众号合宙Luat的最新推文留言互动,最先留言的前五位朋友可获赠五折券一张;
方式二:好友助力
关注合宙Luat公众号并后台留言:五折券,获取助力码后每邀请五位好友成功助力,即可获得五折券一张,多分享多获赠。
合宙商城五折券使用说明:
由合宙Luat公众号菜单【合宙商城】进入,商城全场除团购、限量特价外均可使用。每个订单结算限使用一张,每张券最多可购买相同或不同产品共计3个,不与其他优惠活动叠加。
- 合宙Cat.1技术QQ群 -
合宙Luat (Cat.1模块) 1群:1092305811
合宙Luat (Cat.1模块) 2群:8771645550
每个建议都值得关注
每个技能都值得分享
更多精彩等你来参与
千人级专业人士技术交流群,
模组开发、行业应用、知识分享包罗万象,
谈笑间轻松获取最前沿最实用的物联网资讯!
- 合宙Cat.1生态应用案例 -
柏来Cat.1智能充电插座
大彩科技医用级4G串口屏
研色智能LED背包/车载互动屏
速锐得车联网4G版T-BOX
米老师Cat.1电话核心板
世纪华宁Cat.1路由器&DTU
蜜连科技Cat.1智能口罩售卖机