数据库有几十万条数据,求高手指点如何处理并发

流程是这样,几万条是监听任务,需要从数据库一条一条的读取,拿到数据库的结果请求第三方网站,得到结果再更新数据库。最好能再5分钟内处理完几十万条目前服务情况,MYSQL两台... 流程是这样,几万条是监听任务,需要从数据库一条一条的读取,拿到数据库的结果请求第三方网站,得到结果再更新数据库。最好能再5分钟内处理完几十万条

目前服务情况,MYSQL两台主主复制,3台WEB负载均衡
展开
 我来答
轻松上云
2021-03-05 · 安全、运维、轻松上云
轻松上云
成都锐盾信息技术有限公司专注于安全、运维、 轻松上云® 服务,并提供7*24小时应急响应。于2014年在成都注册成立,前是阿里云、腾讯云、华为云、绿盟云、Azure、AWS的合作伙伴。
向TA提问
展开全部

如果有20万条数据,5分钟内处理完成,那么每秒最少要处理600多条数据。你这个瓶颈在三个方面:

  1. 本地数据库读写,你这个需要数据库表不人导致死锁的,这个可以通过堆硬件性能(IO和CPU主频),数据库做好对应的索引提升查询速度,返回的结果先缓存到redis里,然后再写回去,应该是可以解决的

  2. 提交速度,每秒提交600条,这个靠单线程是肯定解决不了的,这需要多任务多线程处理。。。最好的方式是第三方网站可以批量查询

  3. 你以这么快的速度提交过去,第三方接口不一定能处理完成,可能有QPS限速的。这就不是你解决的了,需要第三方提升性能。

法本信息技术
2024-10-28 广告
深圳市法本信息技术股份有限公司专注于数字化技术服务,致力为客户提供先进的数字化平台、技术和解决方案,以数字化技术为依托,聚焦自主安全可控的实时智能计算(Real-time Intelligent Computing , RTIC)关键技术和... 点击进入详情页
本回答由法本信息技术提供
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式