mysql数据插入效率比较

做数据插入时,发现之前上班做哪些办公系统压根就没考虑过数据库性能这些,因为涉及的数据量小,时间和效率看不出来,可当数据量很大了,大到了每秒需要10000次插入时,这时就不得不考虑你的sql 语句了。当插入100条数据,能想到的数据插入方式:

1:for循环100次,一次次插入数据。连接一次插入100次,这样是最费时间的也是最费IO和连接的;

2:将100数据插入语句组成一个sql语句,然后连接一次,插入数据。这种费时比第一种要好。

3:使用事物,100次插入,最后一次事物commit; 这种比第二种更快;

4:使用insert语句本身的多数据插入;

当以上方法在少量的数据面前,几乎没什么差别,我们压根感觉不出来。可是,当数据量稍微提大点,比如一次10000条数据。插入的速度效率就出来;

这是mysql实例类;此实例提供mysql的连接,和数据库相关操作

public class MySqlInstance    {
      //连接字符串
      private static string mySqlConnectionStr = "Server =localhost;Database=test;Uid=root;Pwd=password.1;";
      private static MySqlConnection _mysqlConnect;
      private static MySqlConnection mysqlConnect      {
        get        {
          if (null == _mysqlConnect)          {
            _mysqlConnect = new MySqlConnection(mySqlConnectionStr);
          }
          return _mysqlConnect;
        }
      }
      private static MySqlCommand _mysqlCommand;
      private static MySqlCommand mysqlCommand      {
        get        {
          if (null == _mysqlCommand)          {
            _mysqlCommand = mysqlConnect.CreateCommand();
          }
          return _mysqlCommand;
        }
      }
      //打开连接
      public static void OpenConnect()      {
        mysqlConnect.Open();
      }
      //关闭连接
      public static void CloseConnect()      {
        mysqlConnect.Close();
      }
      public static MySqlConnection Connection      {
        get        {
          return mysqlConnect;
        }
      }
      //防注入方式的插入数据
      //使用事务 10000插入,最后才一次事务提交
      public static int InsertData(string Command, List<MySqlParameter> Params)      {
        //程序时间监控
        Stopwatch sw = new Stopwatch();
        //程序计时开始
        sw.Start();
        OpenConnect();
        //事务开始
        MySqlTransaction trans = mysqlConnect.BeginTransaction();
        mysqlCommand.CommandText = Command;
        mysqlCommand.Parameters.AddRange(Params.ToArray());
        int count = 0;
        for (int i = 0; i < 10000; i++)        {
          if (mysqlCommand.ExecuteNonQuery() > 0)
            count++;
        }
        //事务提交
        trans.Commit();
        CloseConnect();
        mysqlCommand.Parameters.Clear();
        //计时停止
        sw.Stop();
        TimeSpan ts2 = sw.Elapsed;
        Console.WriteLine(ts2.TotalMilliseconds);
        return count;
      }
      //查询出来的是MySqlDataReader 要使用就不能关闭连接
      public static MySqlDataReader SelectData(string sql)      {
        Stopwatch sw = new Stopwatch();
        sw.Start();
        // OpenConnect();
        MySqlCommand newcommond = new MySqlCommand(sql, mysqlConnect);
        MySqlDataReader data = newcommond.ExecuteReader();
        // CloseConnect();
        sw.Stop();
        TimeSpan ts2 = sw.Elapsed;
        Console.WriteLine(ts2.TotalMilliseconds);
        return data;
      }
      /// <summary>
      /// 查询出来的是数据集合
      /// </summary>
      /// <param name="sql"></param>
      /// <returns></returns>
      public static DataSet SelectDataSet(string sql)      {
        MySqlCommand newcommond = new MySqlCommand(sql, mysqlConnect);
        MySqlDataAdapter adapter = new MySqlDataAdapter();
        adapter.SelectCommand = newcommond;
        DataSet ds = new DataSet();
        adapter.Fill(ds);
        return ds;
      }
      //不安全插入 有注入
      public static int InsertDataSql(string sql)      {
        // OpenConnect();
        mysqlCommand.CommandText = sql;
        int count = mysqlCommand.ExecuteNonQuery();
        // CloseConnect();
        return count;
      }
      //安全插入 参数使用@
      //不使用事务 10000次插入
      public static int InsertDataNoTran(string Command, List<MySqlParameter> Params)      {
        Stopwatch sw = new Stopwatch();
        sw.Start();
        OpenConnect();
        mysqlCommand.CommandText = Command;
        mysqlCommand.Parameters.AddRange(Params.ToArray());
        int count = 0;
        for (int i = 0; i < 10000; i++)        {
          if (mysqlCommand.ExecuteNonQuery() > 0)
            count++;
        }
        CloseConnect();
        mysqlCommand.Parameters.Clear();
        sw.Stop();
        TimeSpan ts2 = sw.Elapsed;
        Console.WriteLine(ts2.TotalMilliseconds);
        return count;
      }
      //一次性拼10000个插入语句一次性提交
      public static void test4()      {
        Stopwatch sw = new Stopwatch();
        sw.Start();
        MySqlInstance.OpenConnect();
        MySqlTransaction tran = MySqlInstance.Connection.BeginTransaction();
        string command = string.Empty;
        for (int i = 0; i < 10000; i++)        {
          string temp = string.Format("insert into test.testtable(pname,pwd) value ('{0}','{1}'); rn", "name" + i, "password." + i);
          command += temp;
        }
        MySqlInstance.InsertDataSql(command);
        tran.Commit();
        MySqlInstance.CloseConnect();
        sw.Stop();
        TimeSpan ts2 = sw.Elapsed;
        Console.WriteLine(ts2.TotalMilliseconds);
      }
}

最后建立控制台程序,分别使用事务提交,不使用事务,和拼接10000条插入在组成事务,这三种方式做一个测试,打印出耗时。结果如图:

mysql数据插入效率比较

可以看到:10000次插入使用事务提交只用时4.7秒,而不使用事务用时311秒,拼装成10000次insert语句的耗时7.3秒。这里面耗时7.3秒的,理论上,在数据库sql执行上也应该和使用事务差不多,这里的耗时主要是用作字符串的拼接上,客户端耗时比较多;

贴上测试程序代码:

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using MySql.Data;
using MySql.Web;
using MySql.Data.MySqlClient;
using System.Diagnostics;
using System.Data;
namespace mysqlDEMO01  {
    class Program    {
      static void Main(string[] args)      {
              testInsert();
        Console.ReadLine();
      }
      //使用安全防注入 参数使用@ ,安全插入。
      public static void testInsert()      {
        List<MySqlParameter> lmp = new List<MySqlParameter>();
        lmp.Add(new MySqlParameter("@pname", "hello2"));
        lmp.Add(new MySqlParameter("@pwd", "1232"));
        string command = " insert into test.testtable(pname,pwd) value(@pname,@pwd); ";
        MySqlInstance.InsertData(command, lmp);
        List<MySqlParameter> lmp2 = new List<MySqlParameter>();
        lmp2.Add(new MySqlParameter("@pname", "hello2"));
        lmp2.Add(new MySqlParameter("@pwd", "1232"));
        MySqlInstance.InsertDataNoTran(command, lmp2);
        test4();
      }
     }
}
© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发

请登录后发表评论