我的计算器——4 语法分析

来源:互联网 发布:javascript for in循环 编辑:程序博客网 时间:2024/05/18 03:24
关键词:C# .NET 计算器 词法分析 语法分析 表达式计算 ConExpress Calculator
 
上一篇中介绍通过词法分析将表达式转换成TokenRecord对象列表。在第一篇中提到将表达式用树形结构表示,然后就可以很方便的从下级节点取值计算了。那么如何将列表分析成一棵树的结构呢?
还是以例子来说明,比如3*7+56/8-2*5,分析成TokenRecord列表就是
记号对象 对应表达式 TokenValue 3 TokenMultiply * TokenValue 7 TokenPlus + TokenValue 56 TokenDivide / TokenValue 8 TokenMinus - TokenValue 2 TokenMultiply * TokenValue 5
分析成树就是
 
 

根据实际的算术规则,运算符优先级高的要先计算,然后由低优先级的运算符去调用它的运算结果。表现在树视图上就是高优先级的节点是低优先级节点的下级,即优先级越高,其位置越靠近树叶。因为这里采用统一的对象,把所有元素都用TokenRecord表示,所以TokenValue也是有优先级的。而通过对树视图的分析,所有的TokenValue都是处在叶子的位置,则TokenValue的优先级最高。

 

分析到这里就要用代码实现了。这里需要用到TokenRecord中的优先级Priority属性,还要用到堆栈。和词法分析一样,也是需要用循环依次分析各个TokenRecord。拿上面的TokenRecord列表进行分析,粗体字代表当前分析的TokenRecord。分析的过程中有一个原则叫“高出低入原则”,需要解释一下。

“高出低入原则”是指:

1.栈顶TokenRecord的优先级高于当前TokenRecord的优先级,则将栈顶TokenRecord弹栈(高出)到临时变量。

1.1如果堆栈为空,将临时变量中的TokenRecord加入当前TokenRecordChildList中,然后将当前TokenRecord压栈(低入)。

1.2如果堆栈不为空,找出栈顶TokenRecord和当前TokenRecord中优先级高的一个(相同则按栈顶高算),将临时变量中的TokenRecord加入高优先级TokenRecordChildList中。再用高出低入原则处理栈顶和当前TokenRecord

2.栈顶TokenRecord的优先级低于当前TokenRecord的优先级,则将当前TokenRecord直接压栈。

可能文字表述的并不清晰,其中涉及到循环和递归的操作,具体的过程通过下面的例子来讲解。

 

1.列表分析状态:

TokenValue(3)

TokenMultiplay

TokenValue(7)

…...

 

堆栈分析:当前堆栈为空,将当前分析的TokenRecord压栈。

TokenValue(3)

栈底

堆栈对应树视图:

 

 

2.列表分析状态:

TokenValue(3)

TokenMultiply

TokenValue(7)

…...

 

堆栈分析:栈顶为TokenValue,当前TokenRecordTokenMultiplyTokenValue优先级最高。遵循高出低入原则,将TokenValue弹栈并添加到TokenMultiplyChildList中,然后将TokenMultiplay压栈。

TokenMultiply

栈底

 

堆栈对应树视图:

 

 

3.列表分析状态

…...

TokenMultiply

TokenValue(7)

TokenPlus

…...

 

堆栈分析:栈顶为TokenMultiplay,当前TokenRecordTokenValueTokenMultiply优先级高于TokenValue,则将TokenValue加入TokenMultiplayChildList中。

TokenMultiply

栈底

 

堆栈对应树视图:

 

 

4.列表分析状态

……

TokenValue(7)

TokenPlus

TokenValue(56)

…...

 

堆栈分析:栈顶为TokenMultiply,当前TokenRecordTokenPlusTokenMultiply优先级高于TokenPlus。遵循高出低入原则,将TokenMultiply弹栈并添加到TokenPlusChildList中,然后将TokenPlus压栈。

TokenPlus

栈底

 

堆栈对应树视图:

 

 

5.列表分析状态

……

TokenPlus

TokenValue(56)

TokenDivide

…...

 

堆栈分析:栈顶为TokenPlus,当前TokenRecordTokenValueTokenPlus优先级低于TokenValue。遵循高出低入原则,不需要弹栈,直接将TokenValue压栈。

TokenValue(56)

TokenPlus

栈底

 

堆栈对应树视图:

 

 

6.列表分析状态

 

…...

TokenValue(56)

TokenDivide

TokenValue(8)

…...

 

堆栈分析:栈顶为TokenValue,当前TokenRecordTokenDivideTokenValue优先级高于TokenDivide。遵循高出低入原则,将TokenValue弹栈并加入TokenDivideChildList中。此时栈顶为TokenPlusTokenDivide优先级高于TokenPlus,遵循高出低入原则,将TokenDivide压栈。

TokenDivide

TokenPlus

栈底

 

堆栈对应树视图:

 

 

7.列表分析状态

…...

TokenDivide

TokenValue(8)

TokenMinus

…...

 

堆栈分析:栈顶为TokenDivide,当前TokenRecordTokenValueTokenDivide优先级高于TokenValue。遵循高出低入原则,将TokenValue加入TokenDivideChildList中。

TokenDivide

TokenPlus

栈底

 

堆栈对应树视图:

 

 

8列表分析状态

……

TokenValue(8)

TokenMinus

TokenValue(2)

……

 

堆栈分析:栈顶为TokenDivide,当前TokenRecordTokenMinusTokenDivde优先级高于TokenMinus。遵循高出低入原则,将TokenDivide弹栈到临时变量。检测到堆栈不为空,此时栈顶为TokenPlusTokenPlus优先级和TokenMinus一样。这里相同优先级的按高优先级处理,遵循高出低入原则,则将临时变量中的TokenDivide加入高优先级TokenPlusChildList中。继续用高出低入原则,将TokenPlus弹栈并加入TokenMinusChildList中,再将TokenMinus压栈。

TokenMinus

栈底

 

堆栈对应树视图:

 

 

9.列表分析状态

……

TokenMinus

TokenValue(2)

TokenMultiply

……

堆栈分析:栈顶是TokenMinus,当前TokenRecordTokenValueTokenMinus优先级低于TokenValue。遵循高出低入原则,将TokenValue压栈。

TokenValue(2)

TokenMinus

栈底

 

堆栈对应树视图:

 

 

10.列表分析状态

……

TokenValue(2)

TokenMultiply

TokenValue(5)

堆栈分析:栈顶是TokenValue,当前TokenRecordTokenMultiplyTokenValue优先级高于TokenMultiply。遵循高出低入原则,将TokenValue弹栈到临时变量,检测堆栈不为空,此时栈顶为TokenMinusTokenMinus优先级低于TokenMultiply,则将临时变量中的TokenValue加入TokenMultiplayChildList中。遵循高出低入原则,将TokenMultiplay加入到栈顶TokenMinusChildList中。

TokenMultiply

TokenMinus

栈底

 

堆栈对应树视图:

 

 

 

11.列表分析状态

……

TokenValue(2)

TokenMultiply

TokenValue(5)

堆栈分析:栈顶是TokenMultiply,当前是TokenValueTokenMultiply优先级高于TokenValue。遵循高出低入原则,将TokenValue加入TokenMultiplyChildList中。

TokenMultiply

TokenMinus

栈底

 

堆栈对应树视图:

 

 

12.堆栈分析:此时列表分析结束,堆栈不为空,需要对堆栈进行处理。经过上面的堆栈分析,遵循高出低入原则,堆栈中的TokenRecord肯定是栈底优先级最低,栈顶优先级最高。只需要将堆栈中的TokenRecord一次弹栈,然后加入到新栈顶的ChildList中即可。最后弹栈的一个TokenRecord就是整个树视图的根节点,也就是返回值。到此,堆栈为空,也得到了预期的树视图,返回根节点TokenRecord即可。

 

程序中的语法分析放在一个单独的文件中,SyntaxTreeAnalyse.cs,文件中也只有一个SyntaxTreeAnalyse类,专门用于语法树的分析。这个类只有一个入口即一个公开方法SyntaxTreeGetTopTokenAnalyse,传入TokenRecord列表,经过分析后返回一个顶级TokenRecord对象,即树形结构的根节点。具体代码如下:

    ///     /// 语法树分析    ///     /// Author:Alex Leo @ ConExpress    internal class SyntaxTreeAnalyse    {        ///         /// 记号段提取,提取顶级操作记号的Hash        ///         /// 起始序号        /// 结束序号        /// 传入记号段的顶级操作记号记录对象的Hash        /// Author:Alex Leo @ ConExpress        internal static TokenRecord SyntaxTreeGetTopTokenAnalyse(List TokenList, int IndexStart, int IndexEnd)        {            int intIndexCurrent = IndexStart;//当前处理序号            int intIndexSubStart = IndexStart;//子记号段的起始序号            TokenRecord Token;//获取当前Token            Stack StackCompart = new Stack();//括号堆栈            Stack StackOperate = new Stack();//操作记号堆栈            for (int intIndex = IndexStart; intIndex <= IndexEnd; intIndex++)            {                Token = TokenList[intIndex];                intIndexCurrent = intIndex;                if (Token is TokenLeftBracket)                {                    StackCompart.Push(TokenList[intIndexCurrent]);//把左括号压栈                    //获取该括号对中包含的记号段                    intIndexSubStart = intIndexCurrent + 1;//设置子记号段的起始序号                    //提取记号段                    //如果语法错误,比如在记号段的末尾没有配对的右括号记号,则会出错,这里假设为语法正确                    while (StackCompart.Count > 0)                    {                        intIndexCurrent += 1;                        if (intIndexCurrent >= TokenList.Count)                        {                            //Error or auto add lossed bracket                            throw new Exception(string.Format("语法错误,列{0},缺少配对的括号。", Token.Index.ToString()));                        }                        if (TokenList[intIndexCurrent] is TokenLeftBracket)                        {                            StackCompart.Push(TokenList[intIndexCurrent]);                        }                        else if (TokenList[intIndexCurrent] is TokenRightBracket)                        {                            StackCompart.Pop();                        }                    }                    Token.ChildList.Add(SyntaxTreeGetTopTokenAnalyse(TokenList, intIndexSubStart, intIndexCurrent - 1));                    intIndex = intIndexCurrent;//移动序号到当前序号                    SyntaxTreeStackAnalyse(StackOperate, Token);                }//if token is TokenLeftBracket                else if (Token is TokenMethod)//方法处理                {                    //检查方法后是否接着左括号                    if (intIndexCurrent >= IndexEnd || !(TokenList[intIndexCurrent + 1] is TokenLeftBracket))                    {                        throw new ArgumentException(string.Format("语法错误,列{0},方法后缺少括号。",Token.Index.ToString()));                    }                    intIndexSubStart = intIndexCurrent;//设置子记号段的起始序号                    intIndexCurrent += 1;//指针后移                    StackCompart.Push(TokenList[intIndexCurrent]);//把左括号压栈                    //提取记号段                    //如果语法错误,比如在记号段的末尾没有配对的右括号记号,则会出错,这里假设为语法正确                    while (StackCompart.Count > 0)                    {                        intIndexCurrent += 1;                        if (intIndexCurrent >= TokenList.Count)                        {                            //Error or auto add lossed bracket                            throw new Exception(string.Format("语法错误,列{0},缺少配对的括号。", Token.Index.ToString()));                        }                        if (TokenList[intIndexCurrent] is TokenLeftBracket)                        {                            StackCompart.Push(TokenList[intIndexCurrent]);                        }                        else if (TokenList[intIndexCurrent] is TokenRightBracket)                        {                            StackCompart.Pop();                        }                    }                    SyntaxTreeMethodAnalyse(TokenList, intIndexSubStart, intIndexCurrent);//分析方法记号段                    intIndex = intIndexCurrent;//移动序号到当前序号                    SyntaxTreeStackAnalyse(StackOperate, Token);                }//if token is TokenKeyword                else if (Token is TokenSymbol || Token is TokenValue)                {                    SyntaxTreeStackAnalyse(StackOperate, Token);                }                else                {                    //不做处理                    throw new ArgumentException(string.Format("语法错误,列{0},运算符位置错误。", Token.Index.ToString()));                }            }            return SyntaxTreeStackGetTopToken(StackOperate);//返回顶级记号Hash        }        ///         /// 方法记号段分析(处于括号中间的代码段)        ///         /// 记号列表        /// 括号开始的序号        /// 括号结束的序号        /// 只处理完整的方法段,比如if(...), round(...)        /// Author:Alex Leo @ ConExpress        private static void SyntaxTreeMethodAnalyse(List ListToken, int IndexStart, int IndexEnd)        {            int intIndexSubStart = IndexStart;//子记号段的起始序号            intIndexSubStart = IndexStart + 2;//移动子记号段的开始序号到括号后面            int intIndexSubEnd = IndexEnd;//子记号段的结束序号            TokenRecord TokenMethod = ListToken[IndexStart];//方法记号对象            TokenRecord TokenCurrent;//获取当前Token            Stack StackCompart = new Stack();//分隔符堆栈            for (int intIndex = IndexStart; intIndex <= IndexEnd; intIndex++)            {                TokenCurrent = ListToken[intIndex];                if (TokenCurrent is TokenLeftBracket)                {                    StackCompart.Push(TokenCurrent);                }                else if (TokenCurrent is TokenRightBracket)                {                    StackCompart.Pop();                    if (StackCompart.Count == 0)//如果是最后一个右括号                    {                        intIndexSubEnd = intIndex - 1;//设置段结束序号                        TokenMethod.ChildList.Add(SyntaxTreeGetTopTokenAnalyse(ListToken, intIndexSubStart, intIndexSubEnd));//递归                    }                }                else if (TokenCurrent is TokenComma)                {                    if (StackCompart.Count == 1)//如果是方法的子段                    {                        intIndexSubEnd = intIndex - 1;//设置段结束序号                        TokenMethod.ChildList.Add(SyntaxTreeGetTopTokenAnalyse(ListToken, intIndexSubStart, intIndexSubEnd));//递归                        intIndexSubStart = intIndex + 1;//把子记号段序号后移                    }                }                else                {                    //不作处理                }            }        }        ///         /// 语法树堆栈分析,基于记号的优先级        ///         /// 语法树堆栈        /// 新记号        /// Author:Alex Leo @ ConExpress        private static void SyntaxTreeStackAnalyse(Stack SyntaxTreeStack, TokenRecord NewToken)        {            if (SyntaxTreeStack.Count == 0)//如果语法树堆栈中不存在记号,则直接压栈            {                SyntaxTreeStack.Push(NewToken);            }            else//否则,比较优先级进行栈操作            {                //比较优先级,如果新Token优先级高,则压栈;                //如果新Token优先级低,则弹栈,把弹出的Token设置为新Token的下级,并把新Token压栈;                //相同优先级也弹栈,并将新Token压栈                //if (this.m_DicTokenTypePriority[SyntaxTreeStack.Peek().TokenType] < this.m_DicTokenTypePriority[NewToken.TokenType])//低进                if (SyntaxTreeStack.Peek().Priority < NewToken.Priority)//低进                {                    SyntaxTreeStack.Push(NewToken);//低进                }                else                {                    TokenRecord TempToken = null;                    //如果堆栈中有记号,并且栈顶的记号优先级大于等于新记号的优先级,则继续弹栈                    while (SyntaxTreeStack.Count > 0 && (SyntaxTreeStack.Peek().Priority >= NewToken.Priority))                    {                        TempToken = SyntaxTreeStack.Pop();                        if (SyntaxTreeStack.Count > 0)//检测栈顶是否可能为空,如果为空则退出                        {                            if (SyntaxTreeStack.Peek().Priority >= NewToken.Priority)                            {                                SyntaxTreeStack.Peek().ChildList.Add(TempToken);//把临时记号的Hash添加到上级Hash中                            }                            else                            {                                NewToken.ChildList.Add(TempToken);                            }                        }                        else                        {                            NewToken.ChildList.Add(TempToken);                        }                    }                    SyntaxTreeStack.Push(NewToken);//压栈                }            }        }        ///         /// 获取语法树堆栈的顶级记号        ///         /// 语法树堆栈        /// 顶级记号Hash        /// Author:Alex Leo @ ConExpress        private static TokenRecord SyntaxTreeStackGetTopToken(Stack SyntaxTreeStack)        {            TokenRecord TempToken;            TempToken = SyntaxTreeStack.Pop();            while (SyntaxTreeStack.Count > 0)            {                SyntaxTreeStack.Peek().ChildList.Add(TempToken);                TempToken = SyntaxTreeStack.Pop();            }            return TempToken;        }    } 
代码中对括号进行了特殊处理,遇到左括号之后需要查找到配对的右括号,然后对这一段调用SyntaxTreeGetTopTokenAnalyse进行递归处理,找出括号中的顶级节点。而对于方法也需要特殊处理,方法必须带括号,而且括号中不止一个根节点。处理过程是以逗号为分隔符,依次找出括号中的几个节点,然后添加到方法的ChildList中。实际的代码在SyntaxTreeMethodAnalyse方法中实现。

 

这一篇写的我自己都头晕了,呵呵,堆栈一个个分析,截图都烦死了。代码里方法互相递归调用,也是比较让人容易头晕的,希望有人能看懂吧。

 

原创粉丝点击