Golang踩坑分析之 Gorm

HavenZhao

2019-09-05

案例1:Golang Gorm踩坑

## 影响情况##
服务A 是定时调度系统,利用github.com/robfig/cron 来实现,发现服务运行3小时左右就不打印sql 日志,但是API 服务响应正常. 导致调度服务不执行、

##分析思路##
Golang 编写调度的服务遇到不调度的情况如何分析处理那？首先我们利用golang 自带的pprof来分析。在main.go中 增加`
    go func() {
        if err := http.ListenAndServe("0.0.0.0:12345", nil); err != nil {
            log.Println(err)
        }
    }()`

然后再结合火焰图去分析。可惜这次,pprof 并没有帮上我们的忙,因为调度服务很轻量,内存方面没超过1MB,profile cpu等也很正常、那么接下来怎么办？

由于是服务调度每次都会打印sql,那么我们就去查看mysql 的资源吧、
首先通过show full process list; 如下

mysql> show full processlist;
+---------+-----------+------------------+---------+---------+------+----------+-----------------------+-----------+---------------+
| Id      | User      | Host             | db      | Command | Time | State    | Info                  | Rows_sent | Rows_examined |
+---------+-----------+------------------+---------+---------+------+----------+-----------------------+-----------+---------------+
| 2855999 | A | *:52898 | my | Sleep   |   37 |          | NULL                  |         0 |             0 |
| 2880711 | A | *:26280 | my | Sleep   |   10 |          | NULL                  |         0 |             0 |
| 2904663 | A | *:50519 | my | Sleep   | 2544 |          | NULL                  |         0 |             0 |
| 2905293 | A | *:6492  | my | Sleep   |  567 |          | NULL                  |         0 |             0 |
| 2905341 | A | *:2777  | my | Query   |    0 | starting | show full processlist |         0 |             0 |
| 2905425 | A | *:4081  | my | Sleep   |   57 |          | NULL                  |         0 |             0 |
| 2905444 | A | *:15888 | my | Sleep   |   92 |          | NULL                  |         0 |             0 |
| 2905523 | A | *:13524 | my | Sleep   |   10 |          | NULL                  |         0 |             0 |
+---------+-----------+------------------+---------+---------+------+----------+-----------------------+-----------+———————+

测试环境服务发现会有大量的sleep,那么我们再看下my.conf 配置。一般最大连接数就设置200左右。所所以1分钟调度一次,200分钟我们的服务就被把数据库连接数占满。那么接下来去分析下源码。

//以下是调度的问题代码
for rowsInner.Next() {
            dataMap[supportInt] = true
            break
}
我们发现 直接做了break、但是为什么会导致连接被占用 不能释放那？

func (rs *Rows) Next() bool {
    var doClose, ok bool
    withLock(rs.closemu.RLocker(), func() {
        doClose, ok = rs.nextLocked()
    })
    if doClose {
        rs.Close()
    }
    return ok
}


func (rs *Rows) Scan(dest ...interface{}) error {
    rs.closemu.RLock()

    if rs.lasterr != nil && rs.lasterr != io.EOF {
        rs.closemu.RUnlock()
        return rs.lasterr
    }
    if rs.closed {
        err := rs.lasterrOrErrLocked(errRowsClosed)
        rs.closemu.RUnlock()
        return err
    }
    rs.closemu.RUnlock()

    if rs.lastcols == nil {
        return errors.New("sql: Scan called without calling Next")
    }
    if len(dest) != len(rs.lastcols) {
        return fmt.Errorf("sql: expected %d destination arguments in Scan, not %d", len(rs.lastcols), len(dest))
    }
    for i, sv := range rs.lastcols {
        err := convertAssignRows(dest[i], sv, rs)
        if err != nil {
            return fmt.Errorf(`sql: Scan error on column index %d, name %q: %v`, i, rs.rowsi.Columns()[i], err)
        }
    }
    return nil
}

我们通过源码可以发现,Next()方法判断下一个元素有没有,但是我们没有用scan,因为scan 每次返回都会释放掉一行数据库的缓存,所以我们手动rows.Close(),这种情况也很难遇到,因为一般情况下,我们都是 scan到底,最后底层代码会执行 d.close(rows.lasterr)、所以我们一般不需要手动close rows.

结论:每次返回的rows 都是新的实例,占用一个数据库连接. rows.next()直到false 就会关闭,否则就会出现资源没有被回收,但数据库设置的超时回收也会去回收但是会降低服务Tps。

golang