PHP快速导出百万级数据到CSV或者EXCEL文件

 更新时间:2020-12-09 21:02:02   作者:佚名   我要评论(0)

前言: 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要

前言: 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值的学习的一种大数据导出方式。

一、导出思路

  • 需要考虑服务器内存
  • 需要考虑程序运行的最大时间
  • 缺少BOM头导致乱码的处理
  • 如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

二、导出源码

  • 下面源码将数据库信息修改成自己的即可使用
  • 亲测导出一百万条数据,3个字段,不过20秒
  • 如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低
<?php
  //让程序一直运行
  set_time_limit(0);
  //设置程序运行内存
  ini_set('memory_limit', '128M');
 
  $fileName = '测试导出数据';
  header('Content-Encoding: UTF-8');
  header("Content-type:application/vnd.ms-excel;charset=UTF-8");
  header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
  
  //打开php标准输出流
  $fp = fopen('php://output', 'a');
 
  //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
  fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
  //添加导出标题
  fputcsv($fp, ['姓名', '年龄', '地区']);
  
  //链接数据库
  $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
  $pdo = new PDO($dsn, 'root', '');
 
  $step = 100; //循环次数
  $nums = 10000; //每次导出数量
 
  for($i = 0; $i < $step; $i++) {
    $start = $i * 10000;
    $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
    $pdostatement = $pdo->query($sql);
    $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
    foreach ($result as $item) {
      fputcsv($fp, $item);
    }
    //每1万条数据就刷新缓冲区
    ob_flush();
    flush();
  } 

三、快速生成百万条测试数据

这里推荐数据库的蠕虫复制命令
先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长

INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;

到此这篇关于PHP快速导出百万级数据到CSV或者EXCEL文件的文章就介绍到这了,更多相关PHP 导出百万级数据内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
  • 利用phpExcel实现Excel数据的导入导出(全步骤详细解析)
  • ThinkPHP使用PHPExcel实现Excel数据导入导出完整实例
  • php中导出数据到excel时数字变为科学计数的解决方法
  • 使用PHPExcel实现数据批量导出为excel表格的方法(必看)
  • php+ajax实现带进度条的大数据排队导出思路以及源码
  • PHP导出MySQL数据到Excel文件(fputcsv)
  • php把数据表导出为Excel表的最简单、最快的方法(不用插件)
  • php导出excel格式数据问题
  • PHP使用mysqldump命令导出数据库

相关文章

  • PHP快速导出百万级数据到CSV或者EXCEL文件

    PHP快速导出百万级数据到CSV或者EXCEL文件

    前言: 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要
    2020-12-09
  • php实现简单四则运算器

    php实现简单四则运算器

    本文实例为大家分享了php实现简单四则运算器的具体代码,供大家参考,具体内容如下 前端代码 : <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> <titl
    2020-12-09
  • Thinkphp极验滑动验证码实现步骤解析

    Thinkphp极验滑动验证码实现步骤解析

    对于建站的筒子们来说;垃圾广告真是让人深恶痛绝; 为了清净;搞个难以识别的验证码吧;又被用户各种吐槽; 直到后来出现了极验这个滑动的验证码;这真是一个
    2020-12-09
  • php如何实现数据库的备份和恢复

    php如何实现数据库的备份和恢复

    数据库备份 mysql -uroot -p mydb>:\db.txt 数据库恢复 mysql -u用户名 -p密码 数据库名 < 文件名.sql blog数据导出sql文件 然后创建一个新的数据库 如:tes
    2020-12-09
  • PHP获取真实IP及IP模拟方法解析

    PHP获取真实IP及IP模拟方法解析

    PHP获取用户真实IP方法1: <&#63;php function GetIP(){ if(!empty($_SERVER["HTTP_CLIENT_IP"])){ $cip = $_SERVER["HTTP_CLIENT_IP"]; } elseif(!empty($_S
    2020-12-09
  • PHP中的输出echo、print、printf、sprintf、print_r和var_dump的示例代码

    PHP中的输出echo、print、printf、sprintf、print_r和var_dump的示例代码

    大家在面试中,经常会被问到的问题: 请简要说明PHP的打印方式都有哪些? 或者直接点问: 请说明echo、print、print_r的区别 看着很简单,一般会出现在初中级的笔试
    2020-12-09
  • PHP执行linux命令6个函数代码实例

    PHP执行linux命令6个函数代码实例

    一般情况下,很少会用php去执行linux命令,不过特殊情况下,你也许会用到这些函数。以前我知道有二个函数可以执行linux命令,一个是exec,一个是shell_exec。其实有很
    2020-12-09
  • 浅谈PHP中的那些魔术常量

    浅谈PHP中的那些魔术常量

    之前我们已经了解了一些常用的魔术方法,除了魔术方法外,PHP还提供一些魔术常量,相信大家在日常的工作中也都使用过,这里给大家做一个总结。 其实PHP还提供了很多
    2020-12-09
  • Cookie跨域问题解决方案代码示例

    Cookie跨域问题解决方案代码示例

    一、前言   随着项目模块越来越多,很多模块现在都是独立部署。模块之间的交流有时可能会通过cookie来完成。比如说门户和应用,分别部署在不同的机器或者web容器中
    2020-12-09
  • 深入理解PHP+Mysql分布式事务与解决方案

    深入理解PHP+Mysql分布式事务与解决方案

    事务(Transaction)是访问并可能更新数据库中各种数据项的一个程序执行单元; 事务的ACID特性 事务应该具有4个属性:原子性、一致性、隔离性、持续性 原子性(atomic
    2020-12-09

最新评论