如何用box/spout解析大型Excel表格
作者:互联网
PHP解析Excel有个比较有名的库是phpoffice/phpexcel。在实际使用的过程中,遇到上万行的Excel时,phpexcel的内存使用量会飙升。今天我来介绍另一个高效解析Excel的PHP库box/spout。
看官方介绍是:Read and write spreadsheet files in a fast and scalable way,可见这个库在解析Excel时,Excel文件的大小不会太影响内存的使用量。可以说是PHPExcel一种替代方案。
由于box/spout库的Github主页上的文档链接已经挂了,这里简单写了一个XLSX文件转化成CSV的例子:
1 include 'vendor/autoload.php'; 2 3 use Box\Spout\Reader\ReaderFactory; 4 5 use Box\Spout\Common\Type; 6 7 8 9 $t = time(); 10 11 $reader = ReaderFactory::create(Type::XLSX); 12 13 //如果注释掉,单元格内的日期类型将会是DateTime,不注释的话Spout自动帮你将日期转化成string 14 15 //$reader->setShouldFormatDates(true); 16 17 $reader->open('./test.xlsx'); 18 19 $iterator = $reader->getSheetIterator(); 20 21 $iterator->rewind(); 22 23 $sheet1 = $iterator->current(); 24 25 $rowIter = $sheet1->getRowIterator(); 26 27 foreach ($rowIter as $row) { 28 29 $d = ''; 30 31 foreach ($row as $col) { 32 33 echo $d; 34 35 if ($col instanceof DateTime) { 36 37 echo $col->format('Y-m-d'); 38 39 } else { 40 41 echo $col; 42 43 } 44 45 $d = "\t"; 46 47 } 48 49 echo PHP_EOL; 50 51 } 52 53 $reader->close();
使用方法还是很简洁明了的。
使用内存缓存String字典
前面说到box/spout在解析时消耗的内存大小,不受Excel文件大小的影响,这是如何做到的呢?
这里简单科普一下:XLSX文件格式是符合一项标准的,这项标准叫做OOXML(https://zh.wikipedia.org/zh-cn/Office_Open_XML)。XLSX实际上就是一个Zip包,可以解压缩出来看看其中的内容。
XLSX表格中,如果单元格的内容是一串字符串时,实际保存的时候只保存一个stringId,字符串真正的内容保存在一个String字典中。
在读取XLSX文件时,如果单元格是字符串,Spout就要去查询String字典。Spout有两种查询方法,一是每次从文件里读取字典的一部分查询,二是把整个字典加载到内存里查询。
显然把String字典整个加载到内存里,查询速度最快。但Spout过于保守,很多情况下都是采用第一种查询方式。所以稍微修改下Spout的代码,让Spout尽量把字典全部加载到内存:
1 # Spout/Reader/XLSX/Helper/SharedStringsCaching/CachingStrategyFactory.php 2 3 class CachingStrategyFactory { 4 5 .... 6 7 const MAX_NUM_STRINGS_PER_TEMP_FILE = 10000; // 改成50000 8 9 .... 10 11 }
试验一个1.3w行、28列、2.8MB大小的EXCEL转化成CSV,做个对比:
方式 | 耗时 | 占用内存 |
字典不加载到内存 | 185s | 1.3M |
字典加载到内存 | 43s | 9.4M |
可见处理时间相差还是挺大的。
以上就是如何用box/spout解析大型Excel表格的详细内容。(拼多多培训)
标签:box,XLSX,spout,Excel,内存,reader,Spout,字典 来源: https://www.cnblogs.com/pddqilun/p/15048869.html