pdf解析与结构化提取

PDF解析与结构化提取

PDF解析

对于PDF文档，我们选择用PDFMiner对其进行解析，得到文本。

PDFMiner

PDFMiner使用了一种称作lazy parsing的策略，只在需要的时候才去解析，以减少时间和内存的使用。要解析PDF至少需要两个类：PDFParser 和 PDFDocument，PDFParser从文件中提取数据，PDFDocument保存数据。另外还需要PDFPageInterpreter去处理页面内容，PDFDevice将其转换为我们所需要的。PDFResourceManager用于保存共享内容例如字体或图片。

PDF结构化提取

对于解析得到的中间格式（json格式），我们根据文本的坐标以及位置等信息进行结构化提取。本项目做的主要是医疗报告单的解析与提取。
我们把每份报告单的内容分为四部分：title,head,body(table),bottom 对于我们通过解析拿到的中间格式，我们需要根据某些条件先对其进行分块，将起分为title,head,body(table),bottom这四块，然后再对每一块的信息进行操作处理。

head_begin的确定

依据：
'姓名'所在的行定位headbegin，即head起始行，然后将从这一行开始往后的所有行记为lines，往后一次遍历这些行，找headend. 方法：
从'姓名'行向下一次遍历，看各行是否同时满足如下两个条件： 1 isbaseinfoline() #关键词数量大于1 2 not istable_head() #所含表头常见的关键词数量是否大于2 当某行不同时满足这两个条件时，把该行后边的所有拿出来继续判断是否满足上述条件1，2。若满足，则仍然属于head，加上去；若不满足，则判断是不是body的基本信息

body_begin

--isbodybaseinfoline()#包含一个关键词且关键词第一个字符位于左半边；若是body基本信息，则为bodybegin; 否则，不符合headend的那行就是hendend，然后从剩下的行里边找： bottomtmp=newlines[headend:] 然后， findbottompos()#发现y坐标的2/3，即后1/3粗分为bottom（bottomblocklines）行，之前从headend到1/3为body 返回bottomblocklines,body,ylastline（后1/3处y）
最后，取后1/3*页纸张包含的行数与总行的1/3做比较，哪部分包含的行树多则取哪个行为起始行为新的bottomblock_lines开始向下遍历，前边的部分为body，即更加靠上边的部分作为body与bottom的分界。

bottom_begin

blockywidth=45. #块间距
ybottom=0.85 #整个pdf的后15%
然后从bottomblocklines的第一行开始向下继续找关键词，如果满足：
1 isbaseinfoline() or 2 len(keytmp>0) and x>halfwidth. or 3 y>ybottom and y-ylastline>blockwidth. 即，当前距后1/3足够宽，足够靠下。
找到符合条件的就作为bottom_index,之后的为bottom，前边遍历过的行接到刚才的body部分作为body。
这样就把pdf文本分成了title,head,body(table),bottom四部分。