数据库 – 使用SqlBulkCopy和Azure进行并行批量插入
发布时间:2020-05-24 04:33:47 所属栏目:MsSql 来源:互联网
导读:我在云上有一个带有sql azure数据库的天蓝色应用程序.我有一个worker角色,需要对文件进行解析处理(最多约3000万行),所以我不能直接使用BCP或SSIS. 我目前正在使用SqlBulkCopy,但是这看起来太慢了,因为我看到400k行的加载时间长达4-5分钟. 我希望并行运行我的
|
我在云上有一个带有sql azure数据库的天蓝色应用程序.我有一个worker角色,需要对文件进行解析处理(最多约3000万行),所以我不能直接使用BCP或SSIS. 我目前正在使用SqlBulkCopy,但是这看起来太慢了,因为我看到400k行的加载时间长达4-5分钟. 我希望并行运行我的批量插入;然而,阅读有关并行导入数据/控制锁定行为的文章,它说SqlBulkCopy要求表没有聚簇索引,并且需要指定表锁(BU锁).但是,azure表必须具有聚簇索引… 甚至可以在SQL Azure中的同一个表上并行使用SqlBulkCopy吗?如果没有,那么还有另一个API(我可以在代码中使用)吗? 解决方法我没有看到你如何比使用SqlBulkCopy更快地运行.在我们的项目中,我们可以在大约3分钟内导入250K行,因此您的速度似乎是正确的.即使技术上可行,我也不认为并行这样做会有所帮助.我们一次只运行1个导入,否则SQL Azure会开始计时我们的请求. 实际上,有时在无法导入的同时运行大型分组查询. SQL Azure在确保服务质量方面做了大量工作,包括超时请求超时,占用太多资源等 因此,同时进行多个大型批量插入可能会导致一次超时. (编辑:安卓应用网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
相关内容
- jdbc调用mysql存储过程实现代码
- sql – 如何在MS Access中正确使用“Not Equal”?
- sql – 选择数据库中每个表的前3行
- sql – DoCmd.SetWarnings和CurrentDB.Execute有什么区别?
- 在SQL Server Management Studio中快速从C#运行时,SQL查询超
- 数据库 – 远程服务缓存策略;我应该考虑什么?
- sql-server – sql server作为触发器中的权限错误执行
- python备份文件以及mysql数据库的脚本代码
- sql-server – 是否可以在SQL CLR用户定义的类型中创建表值
- 将组百分比计算为2位小数 – SQL
推荐文章
站长推荐
- sql-server – 无法在表格行中将“CO2”更新为“
- sql – 保持从’IN’子句的顺序
- sql-server – SQL Server和Sybase链接服务器问题
- mysql Sort aborted: Out of sort memory, consi
- wolfram-mathematica – Mathematica中稀疏数组上
- sql-server – 索引查找与聚簇索引扫描 – 为什么
- mysql、mssql及oracle分页查询方法详解
- 将SQL Server查询转换为MySQL
- SqlServer 序号列的实现方法
- sql-server – SQL Compilations对SQL Server性能
热点阅读
