04 · 块设备与驱动:两条端口一扇窗,一张证件一间值班室
第 5 部的第四章,咱们还的还是一摞旧话。5.2 讲 flush 时撂下的原话,“一块盘一次只听一个命令的排班,内里归 5.4”。5.3 收卷又添了半句,“看 queue 的内里,栅栏那一道,到时候当面讲”。更早的债主还有几位:1.6 讲 DMA 的时候留过一句“往后引擎真开工,一样得走铃线”。2.5 盘家底时咱们自认“手里一块盘都使唤不动:磁盘驱动整个不存在”,四层缺的那摞里 disk 摆在头一层。3.6 开缓存柜的时候只把队列当现成的家什使,把队列与引擎的正戏记在名下。4.4 讲条件等待的时候,把值班队列的家法两句、完成件的前科一桩各记了半页。4.6 收卷的时候,又记下 MMIO 与 DMA 的两张欠条。今天咱们把这些话一门一门还清。
这一章的活,咱们数下来四样,次序照着当年重走的脚印。头一样:总线走线的活,开机之后一无所知的咱们,怎么把满总线的设备一台一台问出来、唤醒、摆进一张终身稳定的表。再一样:开窗与对讲的活,认下的卡怎么在内存里开一扇不缓存的窗,怎么按 AHCI 的黑话把一道读盘的命令发出去、把完成收回来。第三样:验明正身的活,盘交上来的词表怎么逐字对,凭什么信它是一块能用的盘。末一样:排队与判决的活,读块写块从文件系统的那头过来之后,谁排号?谁跑设备?谁宣布成没成?断电语义那一侧立起来的栅栏,咱们也在这儿当面讲。门房、册子与消息中断的新路,还有几台真驱动的对照,咱们顺路各看一眼,不抢正戏的台。
量法还是原来的三条。打头的是码,实况锚是 r34_compile_self 的克隆,本章新戏的码全按它数,命令与断言的行号,给到的是文件名加冒号加行号。5.2 教过的内容,引的仍是 5.2 章里的行号,那一章按的是同一个克隆数,两套数字是可以直接对的。5.3 立起来的批次与三席 sync,行号引 5.3 章里的,那一章按 r35_gui_fin 的克隆数,烧的锅与本章不同,咱们不混着舀。屏这一桩:进正文的是两面旧屏,全按当年的转写请回,各自的年代随屏标注,台数咱们不当常数念。书的事,咱们翻 OSTEP 的第 36 章 I/O Devices,翻的是书页 4、5、7、8、11 五处,快慢取舍的那一句,从页 5 跨到了页 6 才收尾,页 6 余下的半页话转述不引原字,引文是逐字核过的,书里跨行断开的词拼回整词,字模里的连字符号照原样抄,您拿着原句去核:借得准不准,您说了算。
5.2 撂过的话,“一块盘一次只听一个命令的排班,内里归 5.4”。您接着往下想:文件系统、缓存、日志,如今大家都能往盘上递活,活一多谁排号?谁替谁跑设备?跑完的消息走哪条线、谁宣布成没成?再往深一层,开机的时候咱们连总线上坐着谁都不知道,名单是从哪儿来的?
名单是问出来的。开机之后 CPU 拿两条端口挨家挨户地敲门,答话的是各台设备配置空间里的户口。名单进了内核,咱们才有窗、有命令、有证件、有值班室。这一章的四样活,就是这么一个次序,当年重走的脚印也是这个次序,咱们顺着走。
总线走线,一台一台问出来
进门头一个问题:问谁、拿什么问。开机的一瞬,CPU 的眼里只有内存,总线对面坐着谁?咱们一个字都打听不到。PCI 的答法给在两条端口上:0xCF8 收地址,0xCFC 收的是数据,往 0xCF8 写一个 32 位的地址字,再从 0xCFC 读一个 32 位的回字,一问一答就成了一拍。书里把对设备说话的门路归成两条,一条是显式的 I/O 指令,咱们两条端口就是它的实例。另一条是内存映射的 I/O,咱们把书页 8 的原话请来:
- “The second method to interact with devices is known as memory-mapped I/O. With this approach, the hardware makes device registers available as if they were memory locations.”
后一条的窗,咱们到下一节开。
地址字不是裸地址,咱们拿四个字段拼一张寻人启事,拼法在 MakeConfigAddress 的手里,pci_layout.cpp 的 :96。
三十一位装的是总开关,写下了它,端口认的才是配置访问。十六到二十三位装的是总线号,十一到十五位装的是槽位号,八到十位装的是功能号,二到七位装寄存器的序号,按的是 4 字节一格,所以偏移得除以 4 再入位,错位了读到的就是隔壁的字。四枚字段常数在 pci_layout.cpp 的 :36 到 :45 躺平,咱们对着位段念一遍就行。
问话的门道,咱们拿两件说。一件是空位怎么认:没坐人的座位,0xCFC 读回来的是全 1,厂商号报的是 0xFFFF,扫线的人看见全 1 就跳过。另一件是 0 号功能当家:一台卡的一份配置空间里可以住好几个功能,可 PCI 担保在座的只有 0 号功能,所以扫一个槽位,头一件:咱们拿 0 号功能探一探,pci.cpp 的 :190 起,探不到的槽位就整槽收工,探到了再挨个功能问过去。空位咱们认得出,功能咱们也数得出,走线的骨架就成了。
问出来的名单落进一张固定 32 座的槽表,容量常数在 pci.hpp 的 :133,装满了就报数收工。从此设备在内核里住进终身稳定的位置:表只在开机时填这一回,填完了就不改,拿出去的指针一辈子有效。要用设备的时候,咱们按类去找,find_by_class 拿的是大类加子类,pci.cpp 的 :233,查的时候不拿槽位号,槽位号是跟着装配变的,类别长在设备的身上,换了台机器也认得。pci.cpp 的 :241 还立着另一张脸:find_by_ids,拿的是厂商号加型号号,认人认到了硅,同一个类别底下常常住着一户人家的好几种硅,按类认的话就要绑错硅,它的正主在这一章靠后的地方,咱们到那儿再叙。当年走线的报数,咱们把旧屏请回来,正文《验明正身》那一卷的实况:
[kern] pci 0:0:0 8086:1237 bridge 6:0
[kern] pci 0:1:0 8086:7000 bridge 6:1
[kern] pci 0:1:1 8086:7010 mass storage 1:1
[kern] pci 0:1:3 8086:7113 bridge 6:80
[kern] pci 0:2:0 1234:1111 display 3:0
[kern] pci 0:3:0 8086:100E network 2:0
[kern] pci 0:4:0 8086:2922 mass storage 1:6
[kern] pci walk found 7 devices七行的户口,咱们念末行:0 号总线、4 号槽、0 号功能,厂商号与型号号的一对是 8086 与 2922,大类小类念的是 mass storage 1:6。正文《验明正身》的原话:“0:4:0 上的 8086:2922,就是模拟器给咱们硬盘配的控制器。”0:1:1 也写着 mass storage 的字样,子类的数却是 1:1,那是老 IDE 的控制器,咱们不跟它打交道。屏上数出来的台数,咱们只当当年的实况念:那一卷走线的时候七台,后来 USB 的主机控制器进门,第八台才凑齐了,名单是活的,常数却不是活的。
咱们按类认到卡之后,还有一道唤醒的手续要办。咱们一口气开三样:头一样,咱们开的是内存解码,设备应答自己窗口的访问。再一样是总线主控:设备有权自己发起数据的搬运,盘跟内存倒数据靠的就是它。末了把固件可能留着的关中断位摘掉。三样齐了,设备才算站到了岗位上,码就三行:pci.cpp 的 :255,读旧值的是头一行,置位带摘位的是第二行,写回的是末一行。
开一扇不缓存的窗
设备是没法只靠两条端口说全套话的,大批的寄存器要占一扇窗。PCI 的答法是六枚基址寄存器,卡往里面报自己想要的窗,咱们读出来再映射进内存。基址的拼法在 BarBase,pci_layout.cpp 的 :125,64 位的窗分高低两枚读。映射走的是 MapDeviceWindow,vmm.cpp 的 :184,窗开在了高半区 ioremap 一带,按 2 MiB 的大页落格,落格时每一格都带上禁缓存的位,vmm.cpp 的 :218 明写着 kCacheDisable。为什么禁缓存这么要紧?正文《验明正身》的原话:“此处不许缓存,读就真读。”寄存器是对讲机的听筒,您要听的是设备此刻说的话,CPU 拿旧抄本当回音递过来的话,咱们就对着空气聊起来了。4.6 记下的头一张欠条,MMIO 绕开的是缓存,到这儿兑清了。
窗开好了,咱们对着 AHCI 的窗说话。头一拨是全局的主机控制寄存器 GHC,开机的时候要把控制器领回岗位,走的拍有三:置使能、复位、再置使能,ahci.cpp 的 :191。
中间的那一拍,等的是复位位自己清零,等的家什是 wait_clear_observed,带的是一笔预算:复位给 100 拍,合的是 1 秒。正文《验明正身》的口径咱们请回:“等,不空转。空转的机器,连报数的力气都没有。”预算到了点,面板报的那一声是 stuck,预算的职责是诊断而不是放弃,规范担保会来的转变,报了号照样等。
AHCI 的客厅分三页:命令列表、回执表、数据页,咱们各开一页安家。门牌是不靠人记的,座位表由码里的 static_assert 逐条锁着,ahci_layout.hpp 的 :94 到 :98:一座口的寄存器块整 0x80 字节,PxIS 坐的是 0x10,PxCMD 坐的是 0x18,PxTFD 坐的是 0x20,PxCI 坐的是 0x38。
一口寄存器怎么当一套对讲机使,书里给过的是一副标准像,咱们把书页 4 的原话请来:
three registers: a status register, which can be read to see the current status of the device; a command register, to tell the device to perform a certain task; and a data register to pass data to the device, or get data from the device. By reading and writing these registers, the operating system can control device behavior.
咱们窗里的 PxTFD 报状态,PxCMD 收的是命令,数据另有安家的两页。同一页把问一句等一句的笨办法起了名,给 CPU 亲手搬数的路数也起了名,两句原话咱们都请来:
- “we call this polling the device (basically, just asking it what is going on)”
- “When the main CPU is involved with the data movement (as in this example protocol), we refer to it as programmed I/O (PIO).”
头一句起的名是轮询,第二句起的名是 programmed I/O,名字咱们收下,活儿咱们下两节见。
一道命令的家当分两层:命令头 32 字节,ahci_layout.hpp 的 :142 拿 static_assert 锁着身量。另一层的命令表 144 字节,身量同样锁在了 :201。往盘递的话叫 FIS,寄存器到盘用的型号是 0x27,命令的标志位在第七位,断言的文案自家写着:“the command flag is bit seven, not the scouting note's six”——bit 落的是七,不是早年探路笔记里的六,分歧作者自家在文案里挑明了,咱们引到这里为止,当年的情节不展开。
咱们用到的操作码四种:0xEC 验明正身,读盘的是 0x25,写盘的是 0x35,落实的是 0xEA。48 位的扇区地址按字段插进 FIS 的空格,数据走的是数据页:命令表的后头挂着一串物理区描述子,一枚的大小是 16 字节,写明数据在什么地界、有多长,搬运交给的是控制器与 DMA 引擎。DMA 的原理 1.6 教过,书页 7 的原话咱们请来:
- “A DMA engine is essentially a very specific device within a system that can orchestrate transfers between devices and main memory without much CPU intervention.”
活计怎么交代,书里给的也是一句:“telling it where the data lives in memory, how much data to copy, and which device to send it to”。咱们码里那枚 16 字节的描述子,就是 where 与 how much 落的地。
4.6 的第二张欠条在这儿兑:DMA 的搬运要与缓存打招呼。本机 x86 的答案是硬件一致性兜底,缓存看得见 DMA 动过的内存,码里因此一行冲刷的手笔都没有。设备窗那一侧禁了缓存,数据腿两头都不靠 CPU 的抄本过活。至于硬件怎么“看见”,界是 4.6 立过的,咱们没翻到那页书:不编,咱们这儿也不越。
一切就位了,咱们发命令。四拍是挨着落的,ahci.cpp 的 :410:
completion_.rearm();
volatile HbaPort& port = regs_->ports[port_index_];
port.interrupt_status = kWatched.raw;
asm volatile("" ::: "memory");
port.command_issue = kSlotZero.raw;头一拍的活,重新把完成件置回了未决,rearm 的一声。第二拍清要盯的中断位,它也是写 1 清零的。中间垫的是一道编译器栅栏,隔成的是前后两拍。末了往 PxCI 写上 0 号槽的位,控制器看见了这根线:自己起身取信、搬数据。命令列表是按槽编格的,PxCI 的一位对一个槽,咱们的命令全走 0 号槽:一次一道,正文《验明正身》的原话:“咱们这一卷的命令全走 0 号槽,一次一道,盘的脾气就是这样,一道没完,下一道不接。”码里也守着同一条线:完成件到期回收的时候,回头查的是一眼 PxCI,ahci.cpp 的 :333,压着的命令还没跑完,Check 当场喊了停:不许糊弄过去。
验明正身,盘交上来的词表
控制器认下了,盘自己是块什么盘,还得它亲口说的。问的话是操作码 0xEC:IDENTIFY DEVICE,盘答的是 256 个 16 位词,合的是 512 字节,落进的是一页中转,咱们管它叫弹跳页,它就是盘交上来的证件底稿。证件怎么念,咱们挑三样:容量的位置在词 100 到 103,四词拼成一个 64 位的扇区数,拼词的活儿在 ahci_identify.cpp 的 :43。型号的位置在词 27 到 46,要换装的是高低字节,换装完尾随的空格原样保留,起手的活儿在 :51。词 0 是盘的自报家门:坏没坏?是不是杂牌?头一枚词开的腔。容量这个词咱们多念半句:《验明正身》那一卷的教学裸盘自报 2048 扇区,3.6 屏上念的 QEMU HARDDISK 8192 扇区是另一处当年的实况,年代是不同的,数字各自标各自的,咱们不把它们摞成一个数。
证件收了,门怎么守,咱们看码。准入的门槛有六道:一道不省,IdentifyAdmits 的全身在 ahci_identify.cpp 的 :109:
bool IdentifyAdmits(const std::array<uint16_t, 256>& words) {
if ((words[0] & kWord0Cfa) != 0 || (words[0] & kWord0Incomplete) != 0) {
return false;
}
if (!model_is_printable_and_nonblank(words)) {
return false;
}
if ((words[83] & kWord83Invalid) != kWord83Valid || (words[83] & kWord83Lba48) == 0) {
return false;
}
const uint64_t kSectors = SectorCeilingFromIdentify(words);
if (kSectors < 1 || kSectors > kSectorCeilingTop) {
return false;
}
return checksum_holds_when_marked(words);
}咱们挨道念。头两道看的是词 0。头一道拦 CFA 卡:那是 CompactFlash 的方言,命令集是有出入的,咱们不伺候。另一道拦的是残缺回执:材料都交不齐,一枚位不对的话,这道就拒了。第三道查的是型号串,印不出来的、全空的:拒。第四道查词 83 的式样位,式样对不上的话,说明的是词表版本对不上,LBA48 的位没立,同样地拒。第五道拿的是容量对天花板,扇区数出不了头也压不了底。末一道最俏:词 255 的低八位是校验和的记号,盘出厂的时候把它标成 0xA5。记号在的话,咱们把 256 个词逐词再和一遍,和数的低八位得是零,证件才算得了全须全尾。记号不在的话,第六道压根是不设的,咱们照放。
准入门凭什么这么守,咱们把正文《验明正身》的原话整句请回:“门是拿证件守的,不是拿门牌守的:上面六道查的全是盘自己交上来的词表,材料对不上,门牌再漂亮也不放行。”说的是 PxSIG 的闲话:江湖上不少教程认盘,头一件事:看的是签名域读出 0x101,咱们没跟:签名域在结构体里躺着,代码里一处引用它的地方都没有。
证件验完了之后还有一场自检,3.6 开柜时咱们引过一笔:“盘后头的 AHCI 控制器在 scratch 区写一笔、读回来、对字,写读回路当天验当天用。”码在 ahci.cpp 的 :290 到 :313:写进去,读了出来,对不上的时候当场报,对上了,面板落的那一行 ahci scratch write-readback matches 在 :310。3.6 题三末一笔讲的就是这场自检,今天码见着了。盘报到的那行在 :279,报的是型号加扇区数,3.6 的柜子就立在验过的回路上头。
一张块脸,一间值班室
盘认下了,可咱们不该让客人认识它。正文《验明正身》的原话:“后端姓甚名谁,客人从头到尾不知道。”门上挂的合同是一个 C++ concept,block_device_concept.hpp 的 :62:
concept BlockDevice = requires(Dev& device, Lba first, BlockSpan span, std::uint8_t* sink,
const std::uint8_t* source) {
{ device.read_blocks(first, span, sink) } -> std::same_as<bool>;
{ device.write_blocks(first, span, source) } -> std::same_as<bool>;
{ device.block_count() } -> std::same_as<std::uint64_t>;
{ device.block_size() } -> std::same_as<unsigned long>;
{ device.flush() } -> std::same_as<bool>;
};五样方法拼成的是一张脸,咱们叫它块脸:读块、写块、块数、块长、落实。Lba 是扇区的号,BlockSpan 讲的是几格,两个词在块脸上当的是参数,名字从这儿起就是术语了。谁有了块脸:谁就能被同一个客人使唤。擦除转发的老手艺您在 2.5 见过,EraseFs 拿 lambda 转调的是真身,擦掉的是类型,留下的只有脸面,同一门的手艺。
可块脸的后头顶着两个事实。一头的事实:盘一次只听一个命令。另一头的事实:使唤盘的客人常常一股脑来好几个。两头顶牛、顶出来的结果是得有一间屋子管排班,咱们叫它值班室,屋子当差的章程:叫值班队列。家当三样:block_queue.hpp 的 :170:
base::container::SlotTable<BlockRequest, kBlockQueueDepth> pool_;
base::container::RingQueue<unsigned int, kBlockQueueDepth + 1> pending_;
bool duty_taken_ = false;头一样是 16 格的请求池,每格住的是一条请求,读还是写、从哪个扇区起、搬几格、字节放在什么地界,末了还有一根完成件。池子就是老熟人的槽表,它在这儿添了一手 insert_default:格子默认构造出来占住位子,内容是回头再填的。为什么多这一步?正文《验明正身》的原话:“占了的格,地址不搬家。”请求一进了池,它的判决就有人指着睡觉了,插入的时候连搬带拷,地址一旦换了,睡觉的人手里攥的就是旧票根。槽深 16:常数在 block_config.hpp 的 :25。第二样是环队的排号,容量给的是 16 加 1,多出一格是为了满和空不打架。第三样是值班位的一枚旗,谁握着它的话,谁就是当班的。4.4 替咱们把家法两句敲足了重音:“绝不过设备命令,绝不过睡眠。”前一句让睡在格子里的判决永远等得着地方,后一句给值班室划了界。
章程怎么走,咱们看排队一头,block_queue.cpp 的 :37 到 :51,咱们顺着那把锁读:进门锁上,占格、填单、排号的活,出门把锁还了,前后眨眼的活儿,设备命令是一寸都没碰的,睡眠更是没有的,家法两句垫在每一行的底下。排不进队怎么办?槽满了 enqueue 答 16,调用的那一方自己去想办法,值班室不欠谁的觉。
咱们再看当班的另一头:值班员,block_queue.cpp 的 :85:
展开代码收起代码共 28 行
void BlockQueue::drive() {
for (;;) {
unsigned int slot_id = 0;
{
const proc::SpinGuard kGuard(lock_);
if (!pending_.pop(slot_id)) {
duty_taken_ = false;
return;
}
}
BlockRequest& request = *pool_.get(slot_id);
bool moved = false;
switch (request.kind) {
case RequestKind::kRead:
moved = device_.read_blocks(request.first, request.span,
static_cast<uint8_t*>(request.data));
break;
case RequestKind::kWrite:
moved = device_.write_blocks(request.first, request.span,
static_cast<const uint8_t*>(request.data));
break;
case RequestKind::kFlush:
moved = device_.flush();
break;
}
request.done.finish(moved);
}
}值班员弹的是环队里的一个号,锁就还了回去。设备命令在锁的外头跑。跑完了,判决写进请求的完成件,睡觉的人在梦里有专人叫醒。一圈一圈地转下去,环队空了,值班位放回了,值班员自己也回到了分岔口重新排队。三个任务同时想读盘的画面,您现在能想象了,正文《验明正身》的原话:“判决一落,睡的人次第醒来,盘上从来没有两道命令叠着跑。”
switch 里第三支您别放过:flush 也请进了这间屋:拿号、排队,值班员代跑的。正文的原话:“插队免谈——“前面的写都落实了”这句的承诺,这时候才有了分量。”5.3 收卷撂下的半句,咱们当面讲清:缓存那一层的 flush 把脏页压进队列,排在 flush 后头的写必须等它前头的写都跑完才轮得上。栅栏是不用另发一道命令的,拿号排队的次序本身就当了栅栏。5.2 讲 flush 时留的那句“一块盘一次只听一个命令的排班”,到这儿内外都对上了。
判决落进哪?落进的是完成件,sync.hpp 的 :340 起头注自家写明口径:“One request's completion: a one-shot state, no tokens.”一次的请求配一枚状态,判决落下的只有一回,落过了之后再有人多手多脚,它是一个字不改的。头注把话说明白了:多出来的一次事件,不能让下一个等待的人提早走人,信号量多一枚令牌就放一个人的旧路数,咱们不走。它排在 4.4 的五家等待名单里:课在那一章,咱们只认它当班上的差。
判决是要有人送的。中断的挂接是四层放行:一层都不能省,ahci.cpp 的 :248 起:头一层把处理函数注册到线上。第二层把线在芯片的那头放开。第三层口的 PxIE 置上要盯的位,设备许诺这些事发生了它拉线。第四层 GHC 里的总闸放开。注册前顺手清的是两处状态,旧的中断残留不留到新差事里。线是合用的,正文的原话:“室友的中断,咱们既不抢着应答,也不顺手吞掉。”1.6 撂下的“往后引擎真开工,一样得走铃线”,这四层就是它的兑现。
线响了,判词怎么写,咱们看码,ahci.cpp 的 :364:
展开代码收起代码共 24 行
volatile HbaPort& port = regs_->ports[port_index_];
const AhciReg kEvents{port.interrupt_status};
if (!kEvents.has(kWatched)) {
return;
}
const AhciReg kIssue{port.command_issue};
const AhciReg kTask{port.task_file_data};
const bool kFailed = kEvents.has(kFatal);
const bool kSucceeded = kEvents.has(kIsDeviceToHost | kIsPioSetup) && !kIssue.has(kSlotZero) &&
(kTask & kTfdNotClean).raw == 0;
if (kFailed) {
quarantined_.store(true, std::memory_order_release);
port.interrupt_enable = 0;
port.command = (AhciReg{port.command} & ~kCmdStart).raw;
print::Println("[kern] ahci quarantined: events %X tfd %X ci %X", kEvents.raw, kTask.raw,
kIssue.raw);
}
port.interrupt_status = (kEvents & kWatched).raw;
regs_->interrupt_status =
cinux::base::bit::MaskBit<uint32_t>(static_cast<unsigned char>(port_index_)).raw;
[[maybe_unused]] const AhciReg kEcho{regs_->interrupt_status};
if (kFailed || kSucceeded) {
completion_.finish(!kFailed);
}咱们挨段念。头一段认领:PxIS 里盯的那几位一个没立,起立走人、一声不吭地退场。进门头一笔拍的是两张快照,kIssue 抄的是 PxCI,记的是哪些命令槽还压着,kTask 抄的是 PxTFD,报的是盘忙不忙。判成的是三个条件:事件里有致命错,直接判了败。或者设备到主机的回执立了、命令槽空了、任务文件干净,三样齐了判成。两头都对不上的话,咱们谁也不判,判决留着等的是下一回。末三行是清与唤醒的次序,它为什么长那个样子,那是一桩案子的来历,咱们马上讲。
kFatal 一立:头一样走的是隔离,quarantined 落的是 true,口的允许清零,停转的是引擎,面板报的那一行是 quarantine,此后的 issue 一进门就被拒,ahci.cpp 的 :390。这一手在正文的各卷里都没有记载,咱们的凭据只有码:以码为证,咱们也不添当年的情节。
案子您在 4.4 见过前科,咱们把现场请回来。当年的双核实弹,首绿跟复跑打了架,间歇性地停住。现场采回来:唯一的叶任务阻塞在完成件的等待上,调用链从完成件的等待,经盘驱动的读块、块设备的值班队列,一路念到文件系统的路径解析。设备那一头回读的寄存器一字不差,命令槽空了,状态清了。两头的现场一对,正文《破案:被吞掉的完成通知》的判词:“中断确确实实来过,不然设备的状态不会自己清干净,而完成的通知没有发出去。”病根在旧次序:旧的服务例程头一步唤醒等待者,末了才清设备状态。等待者醒在了另一颗核上,手脚是飞快的,复位完成件、布好新命令、发了出去,新命令的完成位亮起,而旧例程的尾巴才走到清状态,把新完成位当垃圾扫了。
修好的次序就是您刚读的那三行:取判定取的是进门头一笔的快照,成败在那一拍就算清了。清了状态,清完了回读一次,回读是给设备的承诺落了地。唤醒放在了最后,等待者醒来去布置新命令的时候,旧例程的手已经从设备上收回来,再没有人会碰它的新完成位。有人会问:加个轮询的兜底岂不省事,正文的答复很干脆:“兜底会把病盖住,复跑是不再停了,病根还是原来的病根。”咱们不加。清与发之间的那道编译器栅栏,管的是编译器不许把两笔写换次序。两颗核之间真枪实弹的次序,4.6 请过 test_block.cpp 的 :39,那是真屏障的课,咱们回指引路:不重讲。4.6 说的是 test_smp 与块设备测试同一个形状,另一头说的就是它。
等的两种姿势
发命令的人怎么等,咱们看码,ahci.cpp 的 :418:
bool Ahci::wait_for_completion() {
if (proc::Scheduler::self().current() != nullptr) {
return completion_.wait();
}
for (;;) {
const unsigned long long kSnapshot = cinux::arch::SaveAndDisableIrq();
if (completion_.finished()) {
cinux::arch::RestoreIrq(kSnapshot);
return completion_.success();
}
cinux::arch::EnableIrqAndHalt();
}
}一个函数走的是两条路。有任务在身的,走的是 completion_.wait(),睡在完成件上、醒靠的是别人,这是任务走的正路。没有任务的上下文,开机早期的检查、测试内核里的直呼,走的是下面一条:存下中断状态、关中断,查的是完成件,没到的话就开中断并停机,一觉睡到了下一回中断、醒来回循环头重查。书页 5 把睡觉换重叠的好处说尽了,两句原话咱们都请来:
- “Instead of polling the device repeatedly, the OS can issue a request, put the calling process to sleep, and context switch to another task. When the device is finally finished with the operation, it will raise a hardware interrupt”
- “Interrupts thus allow for overlap of computation and I/O, which is key for improved utilization.”
头一句是正路的过程,后一句是同一页的半句总结。轮询把 CPU 拴在了设备上,中断腾出的是它的手,咱们前头几章的缓存与日志,吃的都是重叠的饭。
停机那一拍是有点讲究的。sti 开的是中断,hlt 管的是睡觉,两条指令必须挨着写:处理器执行完了 sti,还憋了一拍不收中断,这一拍的名字叫 STI shadow,于是醒与睡之间是不存在缝的,睡就是原子的一步。写成两笔的话,缝就开了:处理函数跑完了、判决发完了、hlt 才执行,睡觉的人白睡,要挨到下一回不相干的中断把自己拍醒,把条件重查了,才拿回落袋的判决。正文《验明正身》替咱们把两条禁令写在明处。头一条:持着自旋锁的时候别调它,锁在手里人睡了,拴住的是一串人。第二条:咱们别自作聪明展开成“恢复中断,再睡一觉”的两笔,缝就是这么来的。醒来的时候必须重查条件,能把 hlt 拍醒的不止您要等的中断,时钟是每 10 毫秒响一回的,“醒来就当判决到手的人,拿到的常常是时钟的问候。”码的注释也用英文叮嘱了同一件事:不相干的中断会把人拍醒,等的条件得兜着圈重查。原子的课在 4.4,咱们只认它在盘侧的用法。
门房、册子与消息新路
正戏唱完了,咱们顺路看一眼旁的院子。到上一章为止:注册的门是一家一个,null 是自己注册的,console 也是自己注册的,盘那边一台控制器带一块盘自己管自己的事:内核说不出自己有几台设备。设备模型立了起来,头一件立的是门房,DeviceModel 收的是三样:名字、册类、记名,check_seat 立着的是三道检查,名字的形状、该带的脸、有没有重名,名册里住的必须是机器上真有的设备,这是名册的诚实底线。册子分的是三本,照设备的营生分:字符册收字节流,块册收的是扇区,网络册收的是帧。父子挂树那些大家什没立,理由嘛:今天没有一个消费者,正文的原话:“现在立它就是给空气写代码。”
盘那边归的是块册,咱们要特别说清,正文《门房、册子与门铃》的原话:“只登记,行为上的事一概不碰。”登记的意义是让名册知道机器上有一台叫 sata0、主号八次号零的块设备,管它的是 AHCI 驱动,入册在 file_world.cpp 的 :77 到 :85,nvme0 在的话也入册、册页在 :86 到 :95,它是 NVMe 的盘,后文有一节是专讲它的。正文《门房、册子与门铃》那一卷开张时的名册屏,咱们请回来:
/ # busybox cat /proc/devices
[kern] syscall 40 unserved
character:
null 1:3
zero 1:5
console 5:1
ptmx 5:2
usbkbd 10:0
block:
sata0 8:0
network:
lo
/ #咱们念屏:usbkbd 一行,是第八台设备进门之后添的新住户,[kern] 一行是当年 syscall 40 还没人应答的如实记录,sata0 报的是主 8 次 0,盘在名册里的正座。/proc/devices 的名单怎么来:5.7 开课。
配置空间的第六十四字节往后是一沓活页,PCI 把每沓叫的是一项能力,头一枚的指针在 0x34,单链表串到了底,咱们顺着正文卷的叫法称它能力链。链表坏起来是有一套的,指针绕成了环,走的人永远出不来,所以遍历带硬上限四十八步:配置空间二百五十六字节,头六十四是固定的家,剩下的一百九十二除以四、一格一步,四十八就是这么来的。在内核里读函数的真身是一个函数指针,宿主的长凳上给它假身,正文《门房、册子与门铃》的原话:“真假两个身吃的是同一个遍历、同一份解码,宿主长凳上测到的就是真代码本身。”能力的头两种是消息中断的窄宽两式:MSI 与 MSI-X。消息中断要的是向量的座,不走线的座,内核给消息划了八个座,常数在 irq_config.hpp 的 :25,当年的起点定在 0x40,住户表的推理在正文卷里,咱们只指路。表项的武装是四步协议,msix.hpp 的头注自家写着:
- “mask first, so a half-written entry cannot fire, then the pair, then a read-back as the fence, then unmask only when the device kept what it was given”
打头的是屏蔽,写地址与数据,读回来当的是栅栏,对上了才解屏蔽,失败的话就保持屏蔽答失败,哑设备咱们宁可让它哑着,也不许它拿陈旧地址把中断打到别人头上。
同一套的消息武装,xHCI 是用消息武装的大户,咱们顺路看它一眼。咱们认它还是按类去认:大类 0x0C 串行总线、小类 0x03、编程接口 0x30,xhci.cpp 的 :143 起。窗开了之后,寄存器分的是四个区,后三个区的起点一个都不猜,全部是现读的,要是把偏移写死的话,正文《门房、册子与门铃》的原话,“等于把自己的命交给一份过期的地图。”写六十四位的寄存器,低半打底的事写在前,高半收尾的事写在后,“写序的通则一条也没有,每一台寄存器有自己的提交协议。”对讲的家什是三只环、一枚门铃:命令环咱们生产、控制器消费,事件环是倒过来的,传输环是每端点一只的,“生产与消费谁也不碰谁的笔,这是整套机制的骨架。”环上的单位是 TRB、传输请求块,一枚的大小是十六字节,带着的是三个字段,通体的 volatile。绕回的是环尾一枚 Link,翻的是一位 cycle,生产者与消费者各存的是一份状态,对上了是新货,对不上是上一圈的老货,没有锁的方案。门铃是窗里的一排三十二位数组,写的是端点号、摇的是铃,“没有一处轮询端口的旧式对讲。”volatile 在这几家的用法咱们并排看:xHCI 的 TRB 通体 volatile,环是与控制器共享的内存,编译器少读写了一回,协议就走了样。AHCI 的寄存器块与命令头走 volatile 视图。e1000 的描述符是普通内存,volatile 守的只是 MMIO,下一段咱们跟它正式见面。设备写内存、咱们拿什么盯着,三家的做法是三样,各按各的脾气立的姿势。
枚举的链子当年连着断过三回,破案的家什是模拟器的 trace,加开机固件的成功字节做对照,三案下来的一个共性:“咱们自己写的东西,自己说了不算,看 trace 里控制器收到的是什么要走在前头。”分层取证的战法,咱们记在这儿,键盘认字是 5.5 的戏,咱们这一章只送到桥边。还有一笔边界照挂:消息真送达在咱们的模拟器下不可靠,武装的各步接到了最后一格、没能真验一把送达,扛货的活归了排空,xhci.cpp 的 :363 那行“the drain carries the cargo”是码里自家的话,绝对坐标的平板(tablet)与热插拔,登记的是远期。
几台真驱动与一张对照表
块脸底下压着的是几台真身,咱们并排看。AHCI 的盘您已经认熟了。e1000 的卡,正文《异步基建与点亮网卡》那一卷立的,认卡用的是另一张脸:按名认卡,find_by_ids 拿的是 8086 加 100E,e1000.cpp 的 :41,理由请那一卷《按名认卡》一篇的原话:“类别字节报的是网络,可网络的类别底下坐着不止一家,virtio-net 报的也是同一个类别,寄存器图却是完全不同的另一张。按类认卡的话,绑错了硅,写出去的每一笔都是乱写。”卡起来复位走完了,头一件的活是静音:中断屏蔽清除写全一,落在了 :59,轮询驱动的判例,中断线是不指望的,消息中断咱们也不挂。排水的活交给一具泵:正文卷立的一根常驻线,一圈一圈摇收发的引擎,测试的手也伸得进来摇。收环发环是各一只的,环上的格是描述符,一枚一枚地排开,描述符自带的是一枚 done 位,回执落没落?看的是它。哨兵的两条纪律,都落在收尾寄存器 Rdt 的身上:起手写的是环长减一,落在了 :95。消费到了第 k 格、尾进到 k 加一,写进 Rdt 的是 k,落在了 :166。poll_frame 的头一件事是读收头,收头住的寄存器是 RDH、从 :145 起,那一读是 MMIO 的读:CPU 陷出去一趟、主循环跟着转一圈,换成真硬件的话,这一读也是无害的。发送摇的是 Tdt,落在了 :194。收包的等法,正文卷起过的名号,迟滞的窗:单调钟上定一点二秒,窗到了头认输,这一发是算丢的,机器不陪它挂死的。等它的姿势,咱们对照着念才清楚,下一段的表里见。
NVMe 的盘:正文卷未及记载,咱们以码为证,情节是不添的。nvme.hpp 的 :3 头注自家写着 “Serialized NVMe block device with checked completions”,全串行说的是一次一道,判完成的凭证查过才认。admin 与 io 走的是两对队列,submit 把命令字压进了尾格,写的是尾门铃,nvme.cpp 的 :108 到 :117。回执走的是完成队列,等它用的就是轮询:phase 位翻面判新,落在了 :124。消费完了把头门铃一摇,记在了 :139。错收是拒判的,超时是隔离的,online 落的闸就是隔离,后续读写进门是直接拒的,记在了 :141 与 :159。init 自己走的是按类去找,nvme.cpp 的 :204,BAR0 的开窗在 :212,namespace 是 NVMe 管它名下卷的名字,报到的是 :299,块脸的三法::312 读、:316 写、:328 落实。开机那一侧 init_sequence.cpp 的 :215 有才起、:217 必验 scratch,盘没在座上的话,一个字也是不提的。
咱们把三台真身并排放,拿当差的姿势对:
| 对照的哪一样 | AHCI 的盘 | e1000 的卡 | NVMe 的盘 |
|---|---|---|---|
| 认卡的脸 | 按类点名,大类 1 小类 6 | 按名认卡,8086:100E | 按类点名,大类 1 小类 8 |
| 等的姿势 | 线中断,完成件叫人 | 泵轮询,谁摇谁收 | 有界轮询,只等自家那枚回执 |
| 命令的字 | FIS,操作码四种 | 描述符写环 | 命令字压队列尾格 |
| 摇铃的手 | PxCI 写 0 号槽 | Tdt 写尾格 | 写尾门铃,完成队列的头门铃回摇 |
| 判完成的凭证 | PxIS 快照三条件 | 收头离了收尾,再看 done 位 | phase 位翻面 |
| 出错的去处 | 隔离,后续进门即拒 | 迟滞窗里等,一点二秒认输 | online 落闸,错收拒判 |
书里的老对照,咱们请最后两段。xv6 的 IDE 驱动四个函数,书页 11 的原话:
The first is ide_rw(), which queues a request (if there are others pending), or issues it directly to the disk (via ide_start_request()); in either case, the routine waits for the request to complete and the calling process is put to sleep. … Finally, ide_intr() is invoked when an interrupt takes place; it reads data from the device (if the request is a read, not a write), wakes the process waiting for the I/O to complete, and (if there are more requests in the I/O queue), launches the next I/O via ide_start_request().
您把四样对到咱们头上:排队的:是值班队列。睡觉的:是完成件。中断应门的:是 on_interrupt。递下一条的:是值班员回到循环头。骨架是两家同款的,咱们的判决立在一次性的完成件上,多了一道防多手多脚的闩。快慢怎么取舍,书页 5 到 6 的原话:Thus, if a device is fast, it may be best to poll; if it is slow, interrupts, which allow overlap, are best. 页 6 余下的半页还讲混合与活锁,铺天盖地的中断能把系统淹在应门上,咱们转述不引原字。三台真身在快慢的谱上各占一角:盘慢走中断,卡快走的是泵,NVMe 轮询带着超时的保险,等不来的话就落闸。排空扛货是两边都不信时的老实路。
链子到这儿全通了,咱们把正文《认字》那一卷《写穿的缓存》一篇的原话请回:“ext2 找缓存要块,缓存找队列排号,队列牵着的,是上一卷认下的那块盘。”引文里的“上一卷”,说的就是《验明正身》那一卷。牵着的另一头,file_world.cpp 的 :59,队列绑上 AHCI——5.2 念过名字就走的那一句,内里今天见到了。5.1 收卷交底的时候,“块设备的队列与引擎”整笔是记在了 5.4 的名下,5.2、5.3 又各指了一回,一个说那间值班室的内里,一个说 disk 的那半边,指的都是今天这门。2.5 那摞四层缺的清单,disk 的一笔今天收讫。3.6 记在名下的队列与引擎的正戏,今天唱完了。4.6 的两张欠条,前文各兑了一张。第 5 部的地基到这儿齐了。再往上的,是 5.5 的键盘与终端。
本章留下了什么
块设备与驱动的这一门,咱们今天走了四程:走线、开窗对讲、验明正身、排队判决。新词咱们入册:
| 术语 | 行话 | 一句话口径 |
|---|---|---|
| 配置空间 | config space | 每台设备 256 字节的户口,按地址字里的总线、槽位、功能寻人 |
| 基址窗 | BAR | 卡开口要的内存窗,映射进高半区,页页禁缓存 |
| 弹跳页 | bounce page | 盘词表中转的一页,证件底稿落的地方 |
| 证件底稿 | IDENTIFY,0xEC | 盘答的 256 词词表,容量、型号与自报家门都在里面 |
| 块脸 | concept BlockDevice | 五样方法拼成的合同,谁有它谁就能被同一个客人使唤 |
| 值班队列 | block queue | 一间值班室管排班,占格排号眨眼完,命令睡眠锁外走 |
| 完成件 | Completion | 一次请求一枚状态,判决只落一回,多来的事件一个字不改 |
| 隔离 | quarantine | 致命错一立,停引擎关允许,后续命令进门即拒 |
| 能力链 | capability list | 配置空间第六十四字节往后的活页单链表,遍历上限四十八步 |
| 门铃 | doorbell | 共享内存环旁的一排格子,写端点号或队列尾的号就是摇铃 |
没讲的咱们如实交底:键盘认字与 USB 类驱动,开课的是 5.5。伪终端与 TTY:记在 5.5 的名下。网络栈的内里,归的是 5.8。缓存柜子的家什,5.2 与 3.6 是已刊的,本章是只使不拆的。DMA 的原理,1.6 是已刊的,硬件怎么“看见”搬运的事,界是 4.6 立过的,咱们不越。中断的进门与分拣,2.2 的课。sti 与 hlt 挨着写的原子课在 4.4,本章只认它的盘侧用法。MSI 真送达的实验、tablet、热插拔,登记的是远期。NVMe 的正文叙事未刊,咱们以码为证,e1000 与门房册子的卷已刊,延伸里给了去处。
练一练
咱们留三道题:一道拼地址、一道守门、一道排队。
题一:咱们拼地址。 MakeConfigAddress 的位段表您已经有了:三十一位总开关、十六到二十三总线、十一到十五槽位、八到十功能,二到七按 4 字节一格的序号。您拿 (0,4,0,0x3C) 自己拼一遍配置地址字,写成的是十六进制。再问一句:0 号功能探不到的槽位,咱们为什么整槽收工,不试着问问 1 号?
题二:咱们守门。 一台盘的词表交上来:词 0 干净,型号串是可印的,词 255 的低八位是 0xA5,可词 83 的 LBA48 位没立。六道准入哪一道拦下?PxSIG 读出漂亮的 0x101,救得了它吗?您就拿“门是拿证件守的,不是拿门牌守的”的话来答。
题三:咱们排队。 三个任务同时读盘的场面,您说值班位落在谁手里?另外两位睡在什么上、被谁叫醒?末了再问:flush 排在一串写后头拿号,谁等谁?等到什么才算轮得上?
参考答案
题一:咱们拼。总线 0、槽位 4、功能 0:偏移 0x3C 除以 4 得的是 15,序号入的是二到七位,15 左移两位得的是 0x3C。三十一位上置的是 1,槽位 4 左移十一位得的是 0x2000,按位段拼起来的结果是 0x8000203C。0 号功能当的是家,因为 PCI 担保的只有 0 号在座,1 号功能是可以存在也可以没有的,门都没开就往里问的话,问的是谁都不知道。
题二:咱们判。第四道拦下:LBA48 的位没立,词表的版本对不上,往后拼 48 位扇区地址的话就没有着落。PxSIG 救不了:签名域在结构体里躺着,代码里一处引用它的都没有,门牌再怎么漂亮,材料对不上就不放行的。
题三:咱们排。值班位被抢到它的任务握走,它弹的是号、跑的是设备、写的是判决,另外两位睡在各自请求的完成件上,被 finish 的专人叫醒。flush 拿的是号、排的是队,排在它前头的写不跑完它就不动,排在它后头的写等着它,后来者看得见它的落实。
延伸
- OSTEP 第 36 章 I/O Devices,书页 4 到 11:三寄存器的标准像、轮询与中断的取舍、DMA 与驱动分层,xv6 的 IDE 四函数全本,本章请过的段落您再自读一遍。
- 正文《验明正身》那一卷:走线、开窗、对讲、六道门、值班室与两种等待的当差正本,咱们引的旧话,原文都在那一卷。
- 正文《门房、册子与门铃》那一卷:门房三样、三本册子、能力链与向量池、三只环与枚举链,顺路一眼的原文。
- 正文《异步基建与点亮网卡》那一卷:e1000 的按名认卡、哨兵纪律与一读踢醒主循环,泵与卡的当差全本。
- 正文《破案:被吞掉的完成通知》一篇:被吞判例的现场、病根与修法,4.4 已引,原文咱们请回了三句。
- 正文《认字》那一卷《写穿的缓存》一篇:ext2、缓存、队列到盘那条链子的原话,收卷请回的那句,出处在这儿。