让你的软件支持繁体中文

来源:互联网 发布:通达信现货看盘软件 编辑:程序博客网 时间:2024/05/16 02:01

中国台湾、香港的汉字用的是BIG5编码,而大陆的汉字用的是GB编码(GB2312也好,GBK也好),简体中文软件直接拿到繁体中文环境下运行,问题就出来了。

怎么办呢?

我们的软件是一款用C#.NET+ASP.NET开发的,所谓B/S型的软件,客户端只须用浏览器访问我们的服务器就行了。很自然的就想到,把代码中的所有的简体字都转换成繁体字,问题不就解决了吗?

说干就干。从网上找来了一款转换工具将全部代码文件转换了一遍。编译后运行,发觉静态的文字或提示信息确实已经变成了繁体,但从数据库中拿出来的还是简体(乱码),转换后的各种配置文件也读取出错(因为程序仍然按GB编码的格式进行读取)。还有一个问题,就是源代码只能转换一次。因为第一次转换后GB变成了BIG5,如果再转,就是BIG5BIG5,结果变得不可辨认。由于源文件非常多,修改维护起来非常麻烦。

看来这种方法不可行。

那么能不能给我们的软件加上自适应的功能,增加对繁体中文的支持呢?

ASP.NET中,页面Page有个对象Response,该对象将 HTTP 响应数据发送到客户端,而Response有个获取或设置包装筛选器对象的属性Filter,用于在传输之前修改 HTTP 实体主体。当创建 Stream 对象并将 Response.Filter 属性设置为 Stream 对象时,所有由 Response.Write 发送的 HTTP 输出将通过筛选器。只要我们重载Stream类,在Stream类的Write()方法中将GB码转换成BIG5码,然后将Response.Filter = 重载Stream类,就可以达到在信息输出到客户端前先转换的效果。

//页面装载事件

private void Page_Load(object sender, System.EventArgs e)

{

       // 在此处放置用户代码以初始化页面

       Response.Filter = new CG2BFilter(Response.Filter);//设置筛选器

       Response.Charset = “big5”;

       ……

}

 

简体转为繁体类CG2BFilter

public class CG2BFilter : Stream

{

……

       //重载函数Write

public override void Write(byte[] buffer, int offset, int count)

{

       WriteGB2BIG(buffer, offset, count);

}

      

//简体转为繁体

private void WriteGB2BIG(byte[] buffer, int offset, int count)

       {

              if( count == 0 )

              {

                     return;

              }

              //936是简体中文代码页编号

              Encoding e = Encoding.GetEncoding(936);

              string str = e.GetString(buffer,offset,count);

//有些简体字没有对应的Big5,所以需要先转换成繁体的GB,再进行转换                  for( int i=0;i<str.Length;i++ )

{

                     //_SGB是部分GB2312简体中文字库,_tGB则是对应的GB2312繁体字库

int j = _sGB.IndexOf(str[i]);

                     if( j != -1 )

                     {

                            str = str.Replace(_sGB[j],_tGB[j]);

                     }

              }

              //950BIG5码代码页编号

              e = Encoding.GetEncoding(950);

              _sink.Write(e.GetBytes(str),0,e.GetByteCount(str));

       }

       ……

}

 

这样写,是建立在待转换的流全部都是GB编码的基础上的,而大多数情况下也没有什么问题,不过,如果一个页面存在表单控件且控件内有汉字内容随同输出时,那么该页面在运行过程中有回传等刷新动作的话,就可能出现乱码。究其原因,是因为在页面第一次打开时,控件值由简体转成了繁体,回传的时候,则传回服务器的这部分控件值也为繁体。接着再输出,问题就来了:控件值为繁体,而页面本身还是简体,也就是说,输出流中存在混合编码,这样还一刀切将它们认为全是GB编码来加以转换就不行了,要加以区别。

怎么区别呢?BIG5GB有什么区别吗?很遗憾,并没有什么明显的区别,也就是说,给你一个汉字编码,很难判断它究竟是GB还是BIG5。一般倾向于认为低字节在0x40~0x7F范围的就是BIG5码,因为没有简体字的低字节在这个范围。不过要注意,GB编码也有繁体字,并且这些繁体字的低字节也有位于0x40~0x7F的。所以这招并非万灵丹。

将数值从高字节0x81~0xFF,低字节0x40~0xFF这样组合输出到页面,如下:

       string str = "";

       Encoding gbe = Encoding.GetEncoding(936);

       byte[] buffer = {0,0};

       for( byte y = 0x81;y<0xFF;y++ )

       {//高字节

              str += "<br>";

              for( byte x = 0x40;x<0xFF;x++ )

              {//低字节

                     buffer[0] = y;

                     buffer[1] = x;

                     //以红色输出汉字,并注明其高低字节值

                     str += "&nbsp;0x" + y.ToString("X") + x.ToString("X") + "<font color=/"red/" size=4>" + gbe.GetString(buffer) + "</font>";

              }

       }

       Response.Write(str);

 

然后在浏览器里分别用GB编码和BIG5编码观察,你会发现,这两种编码中,都存在着有些字节值并没有相应的汉字,而是一些奇怪的符号、问号甚至是空白。于是可以这样认为:如果一个汉字的字节值在某种编码中找不到汉字,则说明它不属于这种编码。经过认真比较归纳,两种编码都划定了一些范围,然后可以逐个考察输出流中的汉字,看它是否落在该范围,以此判定它属于何种编码。

虽然划定了一些范围,但GBBIG5重叠的区域实在太多,有许多字用两种编码去套,好象都可以,逐个字转换,误差很大。后来发现了一个很重要的思想,就是:在混合汉字编码的流中,不同的汉字编码总是不相邻的,它们中间有西文字符隔开(因为网页中,控件值都包含在许多HTML标记之间),也就是说,如果有一个汉字确定是某种编码,则可以推断与它相邻的所有汉字都属于同一种编码。事实证明,这种思想使得转换的准确性得到大幅度的提高。

修正后的类CG2Bfilter

public class CG2BFilter : Stream

{

……

       public override void Write(byte[] buffer, int offset, int count)

       {

              int p = offset;

              int q = p;

              int limit = offset + count;

//这里定义了两个看似互相矛盾的布尔量:maybeBignotBig,主要是让它们配合使用。maybeBig表明一段流中出现了有Big5编码特征的汉字,因此可能是大五码但不能肯定,而notBig表明一段流出现了不可能是Big5编码的汉字,则这段流肯定不是大五码。一段流只有在maybeBig为真,且notBig为假时才可能认为它是大五码。

              bool maybeBig = false;

        bool notBig = false;

 

              bool isChinese = false;

 

              while( p < limit )

{

                     if( buffer[p] >= 0x81 && buffer[p] <= 0xFE )

                     {//汉字

                            if( !isChinese )

                            {//此前不是汉字,先输出

                                   WriteAscii(buffer,q,p-1-q+1);// 待处理的流是西文字符                                                            isChinese = true;

                                   q = p;

                            }

                                  

                            p++;

                            if( p >= limit )

                            {

                                   break;

                            }

                                  

                            if( buffer[p] >= 0x40 && buffer[p] <= 0x7E

                                   || buffer[p-1] >= 0xA1 && buffer[p-1] <= 0xA3 &&  buffer[p] >= 0x40 && buffer[p] <= 0xA0

                                   || buffer[p-1] >= 0xA4 && buffer[p-1] <= 0xA9

                                   || ( buffer[p-1] >= 0xAA && buffer[p-1] <= 0xAF || buffer[p-1] >= 0xF8 && buffer[p-1] <= 0xFD ) && buffer[p] >= 0xA1 && buffer[p] <= 0xFE )

                            {//很可能是BIG5,由此可以推断,这相邻的汉字串都可能是BIG5

                                          maybeBig = true;

                            }

 

                if( buffer[p] >= 0x7F && buffer[p] <= 0xA0

                                   || buffer[p-1] >= 0x81 && buffer[p-1] <= 0xA0

                                   || buffer[p-1] == 0xC6 && buffer[p] >= 0x7F && buffer[p] <= 0x0FE

                                   || buffer[p-1] >= 0xC7 && buffer[p-1] <= 0xC8

                                   || buffer[p-1] == 0xF9 && buffer[p] >= 0xDC

                                   || buffer[p-1] >= 0xFA )

                {//肯定不是BIG,因为在此区间,BIG为空

                       notBig = true;

                    maybeBig = false;

                }

                     }

                     else

                     {//非汉字

                            if( isChinese )

                            {//此前是汉字,先输出

                                   if( maybeBig && !notBig)

                                   {

                                          WriteBIG(buffer,q,p-1-q+1);//待处理的流是BIG5

                                   }

                                   else

                                   {//不肯定是繁体

                                          WriteGB2BIG(buffer,q,p-1-q+1);// 待处理的流是GB

                                   }

 

                                   isChinese = false;

                                   maybeBig = false;

                    notBig = false;

                                   q = p;

                            }

                     }

                     p++;

              }

              //while语句最后一轮循环未处理的部分在这里处理

              if( isChinese )

              {

                     if( maybeBig && !notBig )

                     {

                            WriteBIG(buffer,q,p-1-q+1);

                     }

                     else

                     {

                            WriteGB2BIG(buffer,q,p-1-q+1);

                     }

              }

              else

              {

                     WriteAscii(buffer,q,p-1-q+1);

              }

       }

      

//处理对象为GB

private void WriteGB2BIG(byte[] buffer, int offset, int count){……}

//处理对象为BIG5

private void WriteBIG(byte[] buffer, int offset, int count){……}

//处理对象为ASCII

private void WriteAscii(byte[] buffer, int offset, int count){……}

……

}

 

应用修正过的类后,浏览器用BIG5编码浏览运行我们的软件,效果令人非常满意,几乎看不到什么乱码,已经达到了实用的效果。不过繁简切换是一个相当复杂的问题,并不是仅仅是简单地将简体字转换成繁体字就行了,有时还涉及到语义的问题。比如,简体中文中,不论“发展”的“发”还是“头发”的“发”都是同一个字,而在繁体中,它们是不同的两个字。这部分已经超出了笔者现有的水平,不在考虑之列了。