使用 Bulk Copy 将大量数据复制到数据库

如果一次要向数据库服务器提交多条记录 , 通常会执行多次Insert命令 , 这样就为要插入的每个记录执行一次与数据库服务器的往返 , 这就给服务器增加了压力 , 效率也大大的降低了...

.Net FrameWork 2.0 新增功能 Bulk Copy 可以很快将大量数据加载到数据库中 , 现在利用这一新功能来实现上述功能.

这里从 MS Sql Server 2000 的 NorthWind 的 Orders 表加载数据到 DateTable 模拟要向数据库服务器提交的多条记录集 . 用 Tempdb 库来模拟目标数据库服务器 .

先在 Tempdb 建一个表 temp_orders

USE TEMPDB
CREATE TABLE TEMP_ORDERS
(
    TEMP_ORDERID INT,
    TEMP_CUSTOMERID NCHAR(5),
    TEMP_ORDERDATE DATETIME,
    TEMP_SHIPNAME NVARCHAR(40)
)

下面为模拟程序

protected void Page_Load(object sender, EventArgs e)
...{
    从NorthWind的Orders表获取要插入的数据#region 从NorthWind的Orders表获取要插入的数据
    DataTable dtNorthWindOrders = new DataTable();
    using (SqlConnection northWindConnection = new SqlConnection("Data Source=.;Initial Catalog=NorthWind;Integrated Security=True"))
    ...{
        using (SqlDataAdapter northWindAdapter = new SqlDataAdapter("SELECT ORDERID,CUSTOMERID,ORDERDATE,SHIPNAME FROM ORDERS", northWindConnection))
        ...{
            northWindAdapter.Fill(dtNorthWindOrders);
        }
    }
    #endregion

    using (SqlConnection tempdbConnection = new SqlConnection("Data Source=.;Initial Catalog=Tempdb;Integrated Security=True"))
    ...{
        tempdbConnection.Open();

        using (SqlTransaction tran = tempdbConnection.BeginTransaction())
        ...{
            SqlBulkCopy bulkCopyOrders = new SqlBulkCopy(tempdbConnection, SqlBulkCopyOptions.Default, tran);
            bulkCopyOrders.DestinationTableName = "TEMP_ORDERS";
            //将数据源表字段和目标表的字段做个映射
            bulkCopyOrders.ColumnMappings.Add("ORDERID", "TEMP_ORDERID");
            bulkCopyOrders.ColumnMappings.Add("CUSTOMERID", "TEMP_CUSTOMERID");
            bulkCopyOrders.ColumnMappings.Add("ORDERDATE", "TEMP_ORDERDATE");
            bulkCopyOrders.ColumnMappings.Add("SHIPNAME", "TEMP_SHIPNAME");

            bulkCopyOrders.BulkCopyTimeout = 1000;

            //每处理10行触发一个事件向页面上输出一个消息
            bulkCopyOrders.SqlRowsCopied += new SqlRowsCopiedEventHandler(onRowsCopy);
            bulkCopyOrders.NotifyAfter = 10;

            try
            ...{
                bulkCopyOrders.WriteToServer(dtNorthWindOrders);
                tran.Commit();
            }
            catch (Exception ex)
            ...{
                Response.Write(ex.ToString());
            }
            finally
            ...{
                dtNorthWindOrders = null;
            }
        }
    }
}

private void onRowsCopy(object Sender, SqlRowsCopiedEventArgs args)
...{
    Response.Write("已复制：<font color=red>" + args.RowsCopied.ToString() + "</font><br />");
}

通过SQL SERVER 事件探察器发现执行的SQL为:

insert bulk TEMP_ORDERS ([TEMP_ORDERID] Int, [TEMP_CUSTOMERID] NChar(5) COLLATE Chinese_PRC_CI_AS, [TEMP_ORDERDATE] DateTime, [TEMP_SHIPNAME] NVarChar(40) COLLATE Chinese_PRC_CI_AS)

通过运行程序可以看出这个速度是相当的快 , 使用这个方法的最大优点是 : 减少对数据库的访问次数 .

WriteToServer不仅可以处理 DataTable 对象 , 还可以处理 DataReader , DataRow 对象数组 .