其他分享
首页 > 其他分享> > 如何用box/spout解析大型Excel表格

如何用box/spout解析大型Excel表格

作者:互联网

PHP解析Excel有个比较有名的库是phpoffice/phpexcel。在实际使用的过程中,遇到上万行的Excel时,phpexcel的内存使用量会飙升。今天我来介绍另一个高效解析Excel的PHP库box/spout。

 

 看官方介绍是:Read and write spreadsheet files in a fast and scalable way,可见这个库在解析Excel时,Excel文件的大小不会太影响内存的使用量。可以说是PHPExcel一种替代方案。

由于box/spout库的Github主页上的文档链接已经挂了,这里简单写了一个XLSX文件转化成CSV的例子:

 1 include 'vendor/autoload.php';
 2 
 3 use Box\Spout\Reader\ReaderFactory;
 4 
 5 use Box\Spout\Common\Type;
 6 
 7  
 8 
 9 $t = time();
10 
11 $reader = ReaderFactory::create(Type::XLSX);
12 
13 //如果注释掉,单元格内的日期类型将会是DateTime,不注释的话Spout自动帮你将日期转化成string
14 
15 //$reader->setShouldFormatDates(true);
16 
17 $reader->open('./test.xlsx');
18 
19 $iterator = $reader->getSheetIterator();
20 
21 $iterator->rewind();
22 
23 $sheet1 = $iterator->current();
24 
25 $rowIter = $sheet1->getRowIterator();
26 
27 foreach ($rowIter as $row) {
28 
29     $d = '';
30 
31     foreach ($row as $col) {
32 
33         echo $d;
34 
35         if ($col instanceof DateTime) {
36 
37             echo $col->format('Y-m-d');
38 
39         } else {
40 
41             echo $col;
42 
43         }
44 
45         $d = "\t";
46 
47     }
48 
49     echo PHP_EOL;
50 
51 }
52 
53 $reader->close();

使用方法还是很简洁明了的。

使用内存缓存String字典
前面说到box/spout在解析时消耗的内存大小,不受Excel文件大小的影响,这是如何做到的呢?

这里简单科普一下:XLSX文件格式是符合一项标准的,这项标准叫做OOXML(https://zh.wikipedia.org/zh-cn/Office_Open_XML)。XLSX实际上就是一个Zip包,可以解压缩出来看看其中的内容。

XLSX表格中,如果单元格的内容是一串字符串时,实际保存的时候只保存一个stringId,字符串真正的内容保存在一个String字典中。

在读取XLSX文件时,如果单元格是字符串,Spout就要去查询String字典。Spout有两种查询方法,一是每次从文件里读取字典的一部分查询,二是把整个字典加载到内存里查询。

显然把String字典整个加载到内存里,查询速度最快。但Spout过于保守,很多情况下都是采用第一种查询方式。所以稍微修改下Spout的代码,让Spout尽量把字典全部加载到内存:

 1 # Spout/Reader/XLSX/Helper/SharedStringsCaching/CachingStrategyFactory.php
 2 
 3 class CachingStrategyFactory {
 4 
 5   ....
 6 
 7   const MAX_NUM_STRINGS_PER_TEMP_FILE = 10000; // 改成50000
 8 
 9   ....
10 
11 }

试验一个1.3w行、28列、2.8MB大小的EXCEL转化成CSV,做个对比:

方式 耗时 占用内存
字典不加载到内存 185s 1.3M
字典加载到内存 43s 9.4M

 

 

 

 

可见处理时间相差还是挺大的。

以上就是如何用box/spout解析大型Excel表格的详细内容。(拼多多培训

标签:box,XLSX,spout,Excel,内存,reader,Spout,字典
来源: https://www.cnblogs.com/pddqilun/p/15048869.html