Postgresql 服务器端编程 - 操作耗时如何从1小时减到5秒

OB保种管理系统使用说明
如何使数据库访问速度提升167倍

OB保种管理系统,目前用户众多,操作数据量越来越大,查询速度优化事宜,提到日程上来了。使用Flask (Python) + Postgresql

image.png

需解决的问题:

  • 原型开发,主要使用SQLAlchemy,开发速度是很快,但执行效率低。当数据量上来之后,查询都要10~15秒,用户体验变差
  • 复杂运算逻辑,需要交叉查询大量数据来得到最终结果,Host服务器执行起来慢。保种系统每次计算员工工资,需要查询5张大表,然后做运算,导致计算所有员工工资需要0.5~1小时!
  • 原先依赖于Redis,但受Host服务器限制,对于大量数据,Redis加速有限

优化表现:

  • 普通查询:10~15秒 => 少于1秒
  • 复杂运算逻辑:1小时 => 少于5秒

优化步骤:

  1. 普通查询的优化
  • ORM => SQL
    SQLAlchemy ORM语句转化成raw SQL。花了1、2天时间,读了postgres教程。再花2天,把所有耗时查询,全部改为raw SQL语句(其实并不难,就几大操作类型),然后用SQLAlchemy session.execute执行就行,对原架构不用作改动!
#例子
with app.app_context():
    ss = db.session
    ss.execute(""" SELECT id, size FROM ourbits o INNER JOIN xxx GROUP BY o.id; """)
    ss.commit()
  1. 复杂运算逻辑:
  • Postgresql 服务器端编程(Server Side Programming)
    • View:一些公用的查询条件,直接创建view,可以简化Web后端的代码,但不会提速
    • Materialized View:一些耗时长的公用的查询条件,可以创建为实例化View, 后端的代码可以直接访问,提速明显!Web后端定期触发刷新就行。也可以在Postgresql 用Trigger触发
  • Function:对于大量交叉查询的操作,创建为Postgresql 服务器端的函数,可以显著节省查询时间。而且Postgresql 服务器端编程,提供Python2/3的接口,0门槛就能编写了!


    image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,122评论 6 505
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,070评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,491评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,636评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,676评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,541评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,292评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,211评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,655评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,846评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,965评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,684评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,295评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,894评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,012评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,126评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,914评论 2 355

推荐阅读更多精彩内容

  • “砰”一声,他从7楼摔了下来,他死了。因为他想做一个坏人,嗯,现在是坏鬼。 他活着的时候,老实经常被人欺负...
    已忘言whr阅读 249评论 0 0
  • 25-27章上帝向摩西交代“会幕”或者说“圣所”的建造。若没有敬畏的心,读这样的经文不是一般的枯燥。可是耶...
    玛哈念跳舞阅读 15,110评论 0 5
  • 慢慢,慢慢地,一片青黄色的龙井从茶杯上层飘落,不慌不忙,一点也不急,或许这就是顺其自然的解释吧,无论你如何...
    柠檬微雨阅读 267评论 0 1
  • Swift 基础语法 常量 由 let 关键字定义 只能赋值1次 它的值不要求在编译时期确定,但使用之前必须赋值1...
    xiaoyouPrince阅读 267评论 0 0
  • ――――― 迎面遇见的世界 ―――――
    礼拜五兰阅读 880评论 10 14