技术不过是实现需求的手段罢了,想法、思想真的很重要!quartz+redis优化系统业务查询

作者: 阿伟来了an分类: 职业职场 发布时间: 2024-05-21 20:51:19 浏览:18012 次

技术不过是实现需求的手段罢了,想法、思想真的很重要!quartz+redis优化系统业务查询

枫间琉璃:
分库为的是抗并发,分表才是因为数据量大,分表会有分页查询排序问题,每次查询还要带上分表字段,只有sql优化、缓存等方案都没办法的情况下,最后再考虑分库分表

【回复】我之前也遇到过查询速度慢的问题,当时使用的是物化视图,每日零点定时刷新,这样在查询时直接取物化视图中的数据即可,但这样其实查询出来的数据并不是实时的,有时候这种查询慢并不是sql复杂的问题,单纯是数据库的问题,在Oracle中查询几秒钟的sql,到KingBase一直转圈查不出来,也很无奈的。
施礼-:
1、200w的表一天新增几万数据,数据量很小,建索引完全没有问题 2、提出的方案有几个缺点,就暂且说一个吧,数据一致性延迟太高,不考虑加索引和资源的情况下。 在缓存中记录数据分析的参数即可,比如统计订单成功率,你就记录成功数和总数即可。不记录数据终态,每次有新数据插入到数据库后,异步触发更新这几个参数,通过mq或者异步线程等等都可以。同时通过Job定期检查是否数据存在错误。但是这个方案也有缺陷 3、假设数据真的特别多,分析语句也比较复杂,有多维度嵌套时。分布式数据库和ES都处理不了,可以通过cdc或者mq加flink批量消费同步至ck或者sr,可以完成实时分析。同样,因为字数太多这个方案也还是有缺点

曼十三:
我们订单表里,一亿多条数据,一天几十万往里加,单表,我只能说oracle牛逼

【回复】回复 @Superb95 :商业数据库必然是牛逼的,花钱的麽,也有相当充足的研发经费。但对于开源数据库也有很多种方法。
纯风破浪:
我要去干水电了,这东西真是没得干,时不时的冒出个新技术,老技术还没掌握呢,新技术又来了,我吃不了这个苦,我要转行了

1629饮冰:
我们的交易表亿级别的数据量,没有3千万的表,都是小表啦。想知道我们查询怎么做的吗?[doge]

【回复】回复 @天使阿姆拉 :一天一张表[滑稽]
【回复】回复 @viviComing :日增千万级?这分表都不够吧,每天一张表都感觉顶不住啊[脱单doge]
阳光开朗程咬金:
眼里有光哎,不像我已经懒得跟公司哔哔了

【回复】哈哈,雀氏是懒得逼逼,做好自己
【回复】回复 @zyp212 :我们公司 把我们golang开发逼着去用前后端不分离的py odoo框架还有啥好说的?就这样还要去高校开课,不光是对公司失望还对现在的高校教育失望
1629饮冰:
其实慢主要还是大表关联查询,查单表走索引其实不慢的。

【回复】我这就是单表,一个g多的数据通过消息队列发过来,第一次查询的时候要等5秒以上。不过我还是那句话,领导不发话我也懒得优化,能跑就行[doge]
【回复】就两张表哦,不可以加太多索引,索引维护代价太大了
早睡早起的李根生:
最开始就疑惑了,200w这个数据量一点不多,加索引完全没问题,你说的加索引会导致插入慢我也没懂,如果是mysql,非唯一索引的更新插入都是changebuffer异步做的,怎么会变慢?

yunboom:
才200w数据,只要不是大范围回表查询随便整吧[笑哭]

曲尾白手套:
这不是数据库查询问题吧,mysql没那么渣,几千万的数据都没问题,看得出来大概是查的数据量多,实际上用多线程查就行了

骨头放在另个盒子:
不是一样入侵代码,sql变redis还要加个sql保底

过过果过亚:
有没有口袋空空吃不起饭需要帮忙的?

被迫进入学习状态:
200多w条,啥数据库?几个字段?我oracle和mysql都不慢啊,500w条还是一样用。

次回梨匣:
这个一致性延迟就是按照天为单位的了

【回复】是的,大概up的业务对一致性不敏感
有毛的怪人:
兄弟建议添加一些普通索引 这个是异步加入的 这样在不用修改代码的情况下同样可以增加查询速度 插入量2-3w算比较正常的速度sql能扛得住

今天也要好好工作 技术 程序员 编程 思想 Java 必剪创作 夏日灵感企划

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!