先声明一下,这种长系列的大块头博客只能保证尽可能的深入到每一行源码,有些代码我不乐意深究就写个注释说明一下作用。另外,由于本地整理的比较好,博客就随心写了。
整个Compile过程目前只看到asmjs之前,简单的过了几遍,大部分方法没有点进去看,实在是太复杂了。上一篇的结尾指出了AST的入口,也就是命名空间parsing的一个公共方法,如下。
bool ParseProgram(ParseInfo* info, Isolate* isolate) {
// ...
/**
* 生成一个Parser实例
* 调用内部方法启动转换
*/
Parser parser(info);
FunctionLiteral* result = nullptr;
/**
* 转换AST后将结果赋值给ParseInfo的literal_
*/
result = parser.ParseProgram(isolate, info);
info->set_literal(result);
// ...
return (result != nullptr);
}
所需要关心的核心代码就是这些,非常简单,Parser对象的初始化属性非常多,这里就不列出来了。
接下来进入第二个核心方法,即ParseProgram。
FunctionLiteral* Parser::ParseProgram(Isolate* isolate, ParseInfo* info) {
// ...
/**
* scanner_为Parser类的一个私有属性
* 这里仅仅进行初始化
*/
scanner_.Initialize();
FunctionLiteral* result = DoParseProgram(isolate, info);
// ...
return result;
}
同样,所需要关心代码只有两行,其中第一步则是启动了scanner的初始化,第二步则是开始全面解析。
Scanner包含scanner、scanner-character-strams两个部分,其中stream则是经过初步处理的源String,必须转换后才能进行解析。处理的过程在之前省略的代码中,这里稍微给出大概的转换流程。
bool ParseProgram(ParseInfo* info, Isolate* isolate) {
// ...
/**
* 1、info->script()返回的是字符串的描述信息 source是Local<String>类型的源字符串
* 2、ScannerStream是scanner-character-streams头文件的类 内部方法均为静态类型 可以直接调用
* 3、返回的具体类型根据String类型不同而不同 但是由于均继承于Utf16CharacterStream 所以直接用父类接
*/
Handle<String> source(String::cast(info->script()->source()), isolate);
std::unique_ptr<Utf16CharacterStream> stream(ScannerStream::For(isolate, source));
info->set_character_stream(std::move(stream));
// ...
}
/**
* 有四种特殊的String类型 分别new不同的子类
* ScannerStream::For(isolate, data, 0, data->length());
*/
Utf16CharacterStream* ScannerStream::For(Isolate* isolate, Handle<String> data, int start_pos, int end_pos) {
size_t start_offset = 0;
// ...
if (data->IsSeqOneByteString()) {
return new BufferedCharacterStream<OnHeapStream>(
static_cast<size_t>(start_pos), Handle<SeqOneByteString>::cast(data),
start_offset, static_cast<size_t>(end_pos));
}
}
常规的字符串一般都是OneByteString,这里就不细讲了。最后返回一个特殊Stream类,其属性记录字符串的长度、当前的解析进度、解析的开始与结束标记等等。
将字符串转换后,就可以利用Scanner来进行逐步解析,在此之前,需要对Scanner类有一个简单的了解,如下。
/**
* Scanner类
* 跟Utf16CharacterStream一个文件
*/
class V8_EXPORT_PRIVATE Scanner {
public:
// 返回next_的token类型
Token::Value peek() const { return next().token; }
// 返回current_的位置信息
const Location& location() const { return current().location; }
private:
// 当前字符的Unicode编码 -1表示结尾(typedef int32_t uc32)
uc32 c0_;
TokenDesc* current_; // desc for current token (as returned by Next())
TokenDesc* next_; // desc for next token (one token look-ahead)
TokenDesc* next_next_; // desc for the token after next (after PeakAhead())
// 从Handle<String>转换后的类型 负责执行解析的实际类
Utf16CharacterStream* const source_;
}
选取了一些比较简单的属性和方法,Scanner内部有三个游标属性负责遍历字符串,分别是current_、next_、next_next_,字面意思理解就行了。source_则是之前说的转换Stream类,所有的解析实际上都是调用这个属性的方法。而两个结构体TokenDesc、Location也非常重要,一个负责词法描述,一个负责记录词法位置信息,如下。
/**
* 词法结构体
* 每一个TokenDesc代表单独一段词法
*/
struct TokenDesc {
/**
* 词法所在位置
* 该结构体比较简单 就不展开了 两个值代表起始、结束位置
* 例如sample中 "'Hello' + ' World'" 'Hello'会被解析为TOKEN::STRING location为{0, 7}
*/
Location location = {0, 0};
/**
* 字符串词法相关
*/
LiteralBuffer literal_chars;
LiteralBuffer raw_literal_chars;
/**
* 词法的枚举类型
* 例如 '(' 是 TOKEN::LPAREN '===' 是 TOKEN::EQ_STRICT
* 所有类型可见token.h
*/
Token::Value token = Token::UNINITIALIZED;
MessageTemplate invalid_template_escape_message = MessageTemplate::kNone;
Location invalid_template_escape_location;
// 小整数
uint32_t smi_value_ = 0;
bool after_line_terminator = false;
}
通过这个结构体和一些方法,就能完整的将源字符串逐步转换为抽象语法树。但是实际转换过程非常复杂,分支极多,后面再继续探究。