rikako-note/Golang/go-sqlx.md

SQLX

Getting Start with SQLite

为了安装sqlx和database driver，可以通过如下命令：

$ go get github.com/jmoiron/sqlx
$ go get github.com/mattn/go-sqlite3

Handle Types

sqlx和database/sql等价，主要有四种类型：

• sqlx.DB: 和sql.DB等价，用于表示database
• sqlx.Tx: 和sql.Tx等价，用于表示事务
• sqlx.Stmt: 和sql.Stmt等价，用于表示Prepared Statement
• sqlx.NamedStmt： 用于表示Prepared Statement with support for named parameters

Handle Types中都嵌入了其database/sql中等价的对象，在调用sqlx.DB.query时，其实际调用的代码和sql.DB.Query。

例如，sqlx.DB实现中包含了sql.DB的对象引用，在调用sqlx.DB的方法时，实际会调用内部嵌套的sql.DB中的方法。

sqlx中除了上述类型外，还引入了两个cursor类型：

• sqlx.Rows： 等价于sql.Rows，为Queryx返回的cursor
• sqlx.Row： 等价于sql.Row：，由QueryRowx返回的结果

在上述两个cursor类型中，sqlx.Rows嵌入了sql.Rows。但是，由于底层实现不可访问，sqlx.Row对sql.Row的部分内容进行了重新实现，标准接口保持一致。

Connecting to database

一个DB实例代表的只是一个数据库的抽象，其并不代表实际连接。故而，对DB实例进行创建并不会返回error或是抛出panic。

DB实例在内部维护了一个连接池，并且，在初次需要获取连接时去尝试建立连接。

创建sqlx.DB有两种方式，

• 通过sqlx.DB.Open方法进行创建
• 通过sqlx.DB.NewDb方法进行创建，该方法接收一个已经存在的sql.DB实例

var db *sqlx.DB
 
// exactly the same as the built-in
db = sqlx.Open("sqlite3", ":memory:")
 
// from a pre-existing sql.DB; note the required driverName
db = sqlx.NewDb(sql.Open("sqlite3", ":memory:"), "sqlite3")
 
// force a connection and test that it worked
err = db.Ping()

Open Db and connect in same time

在某些场景下，可能希望在创建数据库实例时就连接数据库，可以使用如下方法，它们会在创建数据库的同时调用Ping

• sqlx.Connect：如果在遇到错误时，会返回error
• sqlx.MustConnect：在遇到错误时，会发生panic

var err error
// open and connect at the same time:
db, err = sqlx.Connect("sqlite3", ":memory:")
 
// open and connect at the same time, panicing on error
db = sqlx.MustConnect("sqlite3", ":memory:")

Quering

handle Types中实现了和database/sql中同样的database方法：

• Exec(...) (sql.Result, error)： 和database/sql中一致
• Query(...) (*sql.Rows, error)：和database/sql中一致
• QueryRow(...) *sqlRow：和database/sql中一致

如下是内置方法的拓展：

• MustExec() sql.Result ： Exec，并且在错误时发生panic
• Queryx(...) (*sqlx.Rows, error)： Query，但是会返回sqlx.Rows
• QueryRowx(...) *sqlx.Row： QueryRow，但是会返回sqlx.Row

如下是新语意的方法：

• Get(dest interface{}, ...) error
• Select(dest interface{}, ...) error

Exec

Exec和MustExec方法会从connection pool中获取连接并且执行提供的sql方法。

并且，在Exec向调用方返回sql.Result对象之前，连接将会被归还给连接池。

此时，server已经向client发送了query text的执行结果，在根据返回结果构建sql.Result对象之前，会将来凝结返回给连接池。

schema := `CREATE TABLE place (
    country text,
    city text NULL,
    telcode integer);`
 
// execute a query on the server
result, err := db.Exec(schema)
 
// or, you can use MustExec, which panics on error
cityState := `INSERT INTO place (country, telcode) VALUES (?, ?)`
countryCity := `INSERT INTO place (country, city, telcode) VALUES (?, ?, ?)`
db.MustExec(cityState, "Hong Kong", 852)
db.MustExec(cityState, "Singapore", 65)
db.MustExec(countryCity, "South Africa", "Johannesburg", 27)

db.Exec返回的结果中包含两部分信息：

• LastInsertedId: 在mysql中，该字段在使用auto_increment key时，会返回最后插入的id
• RowsAffected

bindvars

上述示例中，?占位符在内部调用了bindvars，使用占位符能够避免sql注入。

database/sql并不会对query text做任何验证，其将query text和encoded params原封不动的发送给server。

除非底层driver做了实现，否则query语句会在server端运行sql语句之前执行prepare操作，bindvars每个database可能语法都不相同：

• mysql会使用?来作为bindvars的占位符
• postgresql会使用$1, $2来作为bindvars的占位符
• sqlite既接收?又接收$1
• oracle接收:name语法

Rebind

可以通过sqlx.DB.Rebind(string) string方法，将使用?的query sql转化为当前数据库类型的query sql。

bindvars is only used for parameterization

bindvars机制只能够被用于参数化，并不允许通过bindvars改变sql语句的结构。例如，如下语句都是不被允许的：

// doesn't work
db.Query("SELECT * FROM ?", "mytable")
 
// also doesn't work
db.Query("SELECT ?, ? FROM people", "name", "location")

Query

database/sql主要通过Query方法来执行查询语句并获取row results。Query方法会返回一个sql.Rows对象和一个error，

// fetch all places from the db
rows, err := db.Query("SELECT country, city, telcode FROM place")
 
// iterate over each row
for rows.Next() {
    var country string
    // note that city can be NULL, so we use the NullString type
    var city    sql.NullString
    var telcode int
    err = rows.Scan(&country, &city, &telcode)
}
// check the error from rows
err = rows.Err()

在使用Rows时，应当将其看作是database cursor，而非是结果反序列化之后构成的列表。尽管驱动对结果集的缓存行为各不相同，但是通过Next方法对Rows中的结果进行迭代仍然可以在result set较大的场景下节省内存的使用，因为Next同时只会对一行结果进行扫描。

Scan方法会使用反射将column返回的结果类型映射为go类型（例如string, []byte等）。

在使用Rows时，如果并不迭代完整个结果集，请确保调用rows.Close()方法将连接返回到连接池中。

Query errors

其中，Query方返回的error可能是在服务端进行prepare操作或execute操作时发生的任何异常，该异常的可能场景如下：

• 从连接池中获取了bad connection
• 因sql语法、类型不匹配、不正确的field name或table name导致的错误

在大多数场景下，Rows.Scan会复制其从driver获取的数据，因为Rows.Scan并无法感知driver对缓冲区进行reuse的方式。类型sql.RawBytes可以被用于获取 zero-copy slice of bytes from the actual data returned by the driver。在下一次调用Next方法时，该值将会无效，因为该bytes的内存空间将会被driver重写。

Connection Closed Scenes

在调用完Query方法后，connection将会等到如下两种场景才会关闭：

• Rows中所有的行都通过Next方法调用被迭代
• rows中所有行未被完全迭代，但是rows.Close()方法被调用

Queryx

sqlx拓展的Queryx方法，其行为和Query方法一致，但是实际返回的是sqlx.Rows类型，sqlx.Rows类型对scan行为进行了拓展：

type Place struct {
    Country       string
    City          sql.NullString
    TelephoneCode int `db:"telcode"`
}
 
rows, err := db.Queryx("SELECT * FROM place")
for rows.Next() {
    var p Place
    err = rows.StructScan(&p)
}

sqlx.Rows的主要拓展是支持StructScan()，其会自动将结果扫描到struct fields中。

注意，在使用struct scan时，struct field必须被exported（首字母大写）。

可以使用db struct tag指定field映射到哪个column。默认情况下，会对field name使用strings.Lower并和column name相匹配。

QueryRow

QueryRow会从server端拉取一行数据。其从connection pool中获取一个连接，并且通过Query执行该查询，并返回一个Row object，Row object内部包含了Rows对象

row := db.QueryRow("SELECT * FROM place WHERE telcode=?", 852)
var telcode int
err = row.Scan(&telcode)

和Query不同的是，QueryRow并不会返回error，故而，可以对返回结果链式嵌套其他方法调用，例如Scan。

如果在执行QueryRow查询时报错，那么该error将会被Scan方法返回，如果并没有查询到rows，那么Scan方法将会返回sql.ErrNoRows。

如果Scan操作失败了（例如类型不匹配），error也会被Scan方法返回。

Row对象内部的Rows结构在Scan后就会关闭，即代表QueryRow使用的连接持续打开，直到Result被扫描后才会关闭。

QueryRowx

QueryRowx拓展将会返回一个sqlx.Row，其实现了和sqlx.Rows`相同的拓展，示例如下

var p Place
err := db.QueryRowx("SELECT city, telcode FROM place LIMIT 1").StructScan(&p)

Get & Select

Get/Select和QueryRow/Query类似，但是其能够节省代码编写，并能提供灵活的扫描语义。

scannable

scannable定义如下：

• 如果value并不是struct，那么该value是scannable的
• 如果value实现了sql.Scanner，那么该value是scannable的
• 如果struct没有exported field，那么其是scannble的

Get和Select对于scannable类型使用了rows.Scan方法，对non-scannable类型使用rows.StructScan方法，使用示例如下：

p := Place{}
pp := []Place{}
 
// this will pull the first place directly into p
err = db.Get(&p, "SELECT * FROM place LIMIT 1")
 
// this will pull places with telcode > 50 into the slice pp
err = db.Select(&pp, "SELECT * FROM place WHERE telcode > ?", 50)
 
// they work with regular types as well
var id int
err = db.Get(&id, "SELECT count(*) FROM place")
 
// fetch at most 10 place names
var names []string
err = db.Select(&names, "SELECT name FROM place LIMIT 10")

Get和Select都会对Rows进行关闭，并且在执行遇到错误时会返回error。

但是，需要注意的是，Select会将整个result set都导入到内存中。如果结果集较大，最好使用传统的Queryx/StructScan迭代方式。

Exec和Query在归还连接池上的差异

Exec操作和Query操作在归还连接到连接池的时机有所不同：

• Exec： Exec方法在server返回执行结果给client之后，client根据返回结果构建并返回sql.Result之前，将会将连接返回给连接池
• Query： Query方法和Exec方法不同，其返回信息中包含结果集，必须等待结果集迭代完成或手动调用rows.Close方法之后，才会归还连接给连接池

Transactions

为了使用事务，必须通过DB.Begin()方法创建事务，如下代码将不会起作用：

// this will not work if connection pool > 1
db.MustExec("BEGIN;")
db.MustExec(...)
db.MustExec("COMMIT;")

在通过Exec执行语句时，每次都是从数据库获取连接，并在执行完后将连接返还到连接池中。

连接池并不保证第二次Exec执行时获取的连接和第一次Exec时获取的来连接相同。可能db.MustExec("BEGIN;")在获取连接->执行->将连接返还连接池后，第二次调用db.MustExec(...)时，从数据库获取的连接并不是Must("BEGIN;")执行时所在的连接。

可以按照如下示例来使用事务：

tx, err := db.Begin()
err = tx.Exec(...)
err = tx.Commit()

类似的，sqlx同样提供了Beginx()方法和MustBegin方法，其会返回sqlx.Tx而不是sql.Tx，示例如下：

tx := db.MustBegin()
tx.MustExec(...)
err = tx.Commit()

由于事务是连接状态，Tx对象必须绑定并控制连接池中的一个连接。Tx对象将会在生命周期内维持该connection，仅当commit或rollback被调用时才将连接释放。

在对Tx对象进行使用时，应当确保调用commit或rollback中的一个方法，否则连接将会被持有，直至发生垃圾回收。

在事务的声明周期中，只会关联一个连接，且在执行其他查询前，row和rows对应的cursor必须被scan或关闭。

PreparedStatement

可以通过sqlx.DB.Prepare()方法来对想要重用的statements进行prepare操作：

stmt, err := db.Prepare(`SELECT * FROM place WHERE telcode=?`)
row = stmt.QueryRow(65)
 
tx, err := db.Begin()
txStmt, err := tx.Prepare(`SELECT * FROM place WHERE telcode=?`)
row = txStmt.QueryRow(852)

prepare操作实际会在数据库运行，故而其需要connection和connection state。

PreparedStatement事务操作

在使用sqlx进行事务操作时，首先需要通过db.Begin()开启事务，且后续所有想要加入事务的操作（dml/query）都需要通过tx.Exec/tx.Query来执行。

如果在开启事务并获取tx对象后，后续操作仍然通过db.Exec/db.Query来执行，那么后续操作会从连接池中获取一个新的连接来执行，并不会自动加入已经开启的事务。

tx, _ = db.Begin()
// 错误操作，此处dml会从连接池获取新的连接来执行
db.Exec(xxxx)
// 正确操作，此处dml会在tx绑定的连接中执行
tx.Exec(xxxx)

对于PreparedStatement操作，如果想要将其和事务相关联，有如下两种使用方式：

• 如果statement此时尚未创建，可以通过tx.Prepare来创建该连接
• 如果Steement此时已经创建，那么可以通过tx.Stmt(dbStmt)来获取新的Stmt，新Stmt会和事务所属连接绑定，通过新Stmt执行dml可以加入当前事务