惰性装载:cc1 不再整只进屋
装载这件活做到一半的时候,开机冒烟就出了案子。一号进程坐上了座,没等当班表开台就倒了。监护人把它拉了起来,它又倒了下去。拉了起来,倒了下去,再拉了起来,咱们眼看着开机卡进这个循环,提示符的面都没露。
查案的家底是懒到家那一卷攒下的,登记册、缺页裁决、劈段的诊断,件件都是趁手的。当年在同样的路上还立过一笔判例:用户态来的缺页,裁决者不受理的,就翻成了十一号信号,让肇事的人自己退场,判例就立在当年 cc1 进门的现场。这一遍的家法还在,咱们照用就行。病灶其实不用往远处找,就藏在装载这件活已经动工的那一半里。思路是对的,exec 不该把客人的整份文件读进内核缓冲,cc1 约 47MB 的身子,gcc 每编一个文件的时候都得请它进一回屋,搬了进来又扔了出去,这样的折腾谁也吃不消。坏就坏在活只做了一半。
咱们把做了一半的活翻开,病灶是摆在明处的。段的身子分两半:文件里存着的前一半,段头上的 p_filesz 记着数。内存里要比文件多出来的后一半,是到 p_memsz 为止的 BSS,进门的时候该是零。没做完的实现把整段 p_memsz 登记成一片文件 VMA,册上写的全是从文件来,缺页器照的是册,办的是按整页读的事。读到越过 p_filesz 的地方,零是没等来的,等来的好家伙是文件里跟在段后面的字节:节表、符号串,ELF 的尾巴全在里头,一古脑落进了 BSS。指望文件 EOF 的短读来刹车,也没门:段的文件部分多半不在文件末尾,短读是根本等不来的。
BSS 里的变量,按 C 的章程起步就该是零,这一点咱们都认:没人写过的,它们也是从没在文件里住过的。字节一灌了进来,该是零的地方就成了随机值,程序死起来的样子又快又怪,还怪不到别人的头上。
病根是找准了的,咱们裁段的刀法照 Linux 的老三样来:elf_map 管的是整页的文件部分,padzero 管的是尾页,set_brk 管的是 BSS。施工是落在同一段代码里的,头四个数就把段切成了三截:
const auto kPageBase = base::math::AlignDown(kSegmentVa, kSize);
const auto kFileEnd = kSegmentVa + segment.file_bytes;
const auto kWholeEnd =
segment.file_bytes == 0 ? kPageBase : base::math::AlignDown(kFileEnd, kSize);
const auto kMemoryEnd = base::math::AlignUp(kSegmentVa + segment.memory_bytes, kSize);咱们一截一截看。[kPageBase, kWholeEnd) 是完整的文件页,咱们把它登记成文件 VMA,页是留在盘上的,缺页就在谁来读的时候触发。[kWholeEnd, kMemoryEnd) 是 BSS 的地盘,咱们登记成匿名区域,缺页的时候补零。夹在中间的尾页躺在匿名那截的名下,装载的时候却要当场铺好,铺的活就几行:
auto* const kDestination = base::PtrAt<std::uint8_t>(mm::DirectMapVirt(kFrame.raw));
base::SetBytes(kDestination, 0, kSize);
const auto kBytes = file_end - region.start;
const auto kRead =
world.file_ops->read(world.file_self, world.file, region.file_offset, kDestination, kBytes);咱们领一页新帧,整页都清了零,再限长只读页内残下的文件字节,零填就顺手完成了,短读这个词从需求里消失了。缺页的那一侧,咱们顺手也对了理:补文件页的时候,清零了一页新帧,再从 backing 把整页读了进来。真碰到文件尾读不满的话,零就留在原地,只有后端拒读的才算失败。段头要是不落在页界上的话,登记就往回退到了页基,文件偏移是跟着回退的,头一页连段前面的字节一起从文件里读,段从页中间起步的形态也接得住。
登记之前咱们还立着四道验,就立在裁段的开头:
if (segment.file_offset > world.file_bytes ||
segment.file_bytes > world.file_bytes - segment.file_offset ||
segment.file_bytes > segment.memory_bytes || world.base >= mm::kUserTop ||
segment.virtual_address >= mm::kUserTop - world.base) {
return false;
}
const std::uint64_t kSegmentVa = world.base + segment.virtual_address;
if (segment.memory_bytes > mm::kUserTop - kSegmentVa ||
segment.file_offset % kSize != kSegmentVa % kSize) {
return false;
}文件的两道是不许段越过文件边界,也不许文件里的字节比内存里要的还多。地址的两道是不许段爬过用户天顶,另一道要的是段偏移与虚地址必须页内同余。同余的这一道,还请您多瞧一眼:文件字节按页对进内存,文件侧页内的位置与虚地址侧页内的位置得对齐,差上一位整页就错位了,读上来的每个字节都安错了家。哪一道不过的话,咱们就答失败,把装载整个拒收了,登记册是清得一张不留的,半截工程是不留给下一棒的。
惰性装载把读文件的活从 exec 挪给了缺页器,而页在盘上躺多久,文件就都得原地待着。保这件事的是 backing 的归属,咱们把归属定成了这样:每个镜像持有一具 OpenFile,文件 VMA、各段、clone 分身共享的是同一具,各自多拿的引用也就一份。RamFs 里 unlink 的时候,目录上是销了名的,东西还在 OpenFile 的手里,未触达的页缺页照读。当年第一遍在这里交过重税:VMA 裸持的是 inode 的引用,计数错了一笔,slab 把那块内存复用出去了,悬空引用当场就变成了 UAF,笔者当年追到 slab 复用那一层才见了底。这一遍咱们不数 inode,数的是 OpenFile,最后一具放手了,文件才算真的放了。
读头的活,咱们也跟着瘦:开机把一号进程请上座、给动态客人请解释器、exec 交接,三处的文件读取都收成了 64 KiB 的头前缀,exec 的读取长这样:
fs::FsStat probed{};
unsigned long program_size = 0;
base::Own<unsigned char[]> program;
if (kView.value().ops->stat == nullptr ||
!kView.value().ops->stat(kView.value().self, kNode.value(), probed).ok() ||
!fs::ReadFilePrefix(kView.value(), 64_KiB, program, program_size).ok()) {
return -kEio;
}stat 那一声问的是整个节点多大,咱们拿它给文件边界那两道验当尺子。读取只读头上的 64 KiB,ELF 头与段表都是住在头几页里的,解析是够用的。段的身体留在盘上,咱们把它交给登记册与缺页器去管,整份 cc1 是不再预读了,47MB 的胖子进门只递一张名片。
长凳跟着添了案,您挨个对。脏文件尾的这一案,讲的是段尾之后文件里跟着的杂字节,一概是不许漏进 BSS 的。跨页 BSS 的那一案,补零跨着页界的时候也接得上。未预映射的整页,登记完了页表里却是查无此页的,真读真缺页的才算数。保护劈段与 clone 的那一案,收权劈开、分身各持了之后,缺页照旧是补得对的。RamFs unlink 后补页的这一案,名字销了货还在。错误 ELF 拒收的这一案,边界与同余任何一道不过的话,咱们就让登记册干净得像没来过一样。长凳上原来的测试画像,段是早前随手画的,没守同余的,新门一立就把它挡在了外面,画像是按同余重画了一遍的。排查期间临时架的 fault、open、mmap 诊断,结案后全撤了,树又回到了干净。
结案的时候要念数,口径也得跟着交代得清清楚楚的。头一轮是完整跑通的,环境还是原来的 KVM、两颗 vCPU、默认 128 MiB 内存。gcc 的全链是 3.533 秒,g++ 的全链是 8.535 秒。两个数用的是同一个口径,量的都是编译命令的墙钟,装载、编译、链接是全算在内的,把它抄成 cc1 的装载耗时的话,口径就抄错了。本轮也没有重跑整只预读的对照,那一头的数咱们没有,咱们也不编。当年的 22 秒到 0 秒,量法是当年的:第一遍 cc1 约 47MB,整只逐页地过 AHCI,装载的时候要停 22 秒,段三分改了惰性之后,停归了零。数记在当年的判例里,笔者念的是当年的口径。这一遍的测量,就是刚才写下的两个数。
这一案咱们销了。装载的这一关咱们算是过了,真正的拉锯在门上。师傅一开工就要挨个问询了。