一、前言
SQLite性能好,對SQL支持全面,是久經考驗的輕量的關係型數據庫。
移動開發者對SQLite應該都不陌生了,只是不同的 APP 對數據庫的依賴程度不同(有的甚至不需要數據庫-_-)。
SQLite雖然是可靠性較高的數據庫,但是在複雜的使用場景之下,也會不時地出點問題。
比如說有時候索引損壞,select count(*) from t_XXX 查詢出的結果和select * from t_XXX取出得記錄數不一樣;
有時候甚至存儲的記錄違反唯一約束,非空約束等等。
一旦出現這些問題,可能會引起數據不正確,或者功能異常。
爲了儘量降低數據庫不完整所引發的問題,我們需要有一套修復機制。
二、數據修復
一個簡單的策略就是:檢測-讀取-寫入-替換。
具體地說,就是先檢測數據的完整性,當檢測到數據庫文件不完整時做修復。
SQLite提供了檢測的API,但是沒有提供直接修復的API,或許是因爲錯誤的原因有很多,做糾錯太困難了吧。
通常大家的做法就是轉儲數據到一個好的數據庫文件中,再替換回去,就好比整理衣物,要先把衣服疊整齊,再放回衣櫃。
有一些文章在寫轉儲數據時, 會寫dump sql, 然後執行sql,這也是轉儲的方式之一,但是有更高效的方式。
2.1 檢測
SQLite提供了檢測數據庫完整性的API:
PRAGMA integrity_check
正常情況下執行此語句返回'ok', 而在當數據庫不完整時(比如上面描述的一些情景),返回其他結果。
2.2 讀取數據表
SQLite有一張內置表, sqlite_master, 此表中存儲着數據庫中所有表的相關信息,比如表的名稱、索引、以及建表SQL等。
我們可以從中讀取所有我們創建的表的名稱:
private static List<String> getTables(SQLiteDatabase desDb) {
String sql = "SELECT name FROM sqlite_master " +
"WHERE type='table' AND name!='android_metadata'";
Cursor c = desDb.rawQuery(sql, null);
try {
List<String> tables = new ArrayList<>(c.getCount());
while (c.moveToNext()) {
tables.add(c.getString(0));
}
return tables;
} finally {
closeCursor(c);
}
}
2.3 讀取數據
要讀取數據,先要考慮讀取出來之後,用什麼方式存儲。
先定一個數據結構:
public class TableData {
public int row;
public int column;
public Object[] data;
}
然後,讀取一張表的所有數據:
private static TableData getData(SQLiteDatabase srcDb, String sql) {
Cursor c = srcDb.rawQuery(sql, null);
try {
int rawCount = c.getCount();
if (rawCount <= 0) {
return null;
}
int columnCount = c.getColumnCount();
TableData tableData = new TableData();
tableData.row = rawCount;
tableData.column = columnCount;
tableData.data = new Object[rawCount * columnCount];
int row = 0;
if (c instanceof AbstractWindowedCursor) {
final AbstractWindowedCursor windowedCursor = (AbstractWindowedCursor) c;
while (windowedCursor.moveToNext()) {
for (int i = 0; i < columnCount; i++) {
int index = row * columnCount + i;
if (windowedCursor.isBlob(i)) {
tableData.data[index] = windowedCursor.getBlob(i);
} else if (windowedCursor.isFloat(i)) {
tableData.data[index] = windowedCursor.getDouble(i);
} else if (windowedCursor.isLong(i)) {
tableData.data[index] = windowedCursor.getLong(i);
} else if (windowedCursor.isNull(i)) {
tableData.data[index] = null;
} else if (windowedCursor.isString(i)) {
tableData.data[index] = windowedCursor.getString(i);
} else {
tableData.data[index] = windowedCursor.getString(i);
}
}
row++;
}
} else {
while (c.moveToNext()) {
for (int i = 0; i < columnCount; i++) {
int index = row * columnCount + i;
tableData.data[index] = c.getString(i);
}
row++;
}
}
return tableData;
} finally {
closeCursor(c);
}
}
這裏有一個疑問就是,爲什麼不讀一行寫一行?
也是可以的,但是那樣的話會有兩個壞處:
1、方法職能不單一,可讀性低;
2、內存抖動。衆所周知,連續讀寫的IO性能比隨機讀寫要好。
但是讀取全表再批量寫入也有一個弊端:
如果一張表數據很大,可能會OOM。
當然,如果數據量比較大,我們可以採用分頁的方式。
2.4 寫入數據
private static void insertToDb(SQLiteDatabase desDb,
String sql,
Object[] values,
int rows,
int columns) {
if (values == null || columns <= 0 || rows <= 0 || values.length < (rows * columns)) {
return;
}
SQLiteStatement statement = desDb.compileStatement(sql);
try {
for (int i = 0; i < rows; i++) {
bindValues(statement, values, i, columns);
try {
statement.executeInsert();
} catch (SQLiteConstraintException e) {
LogUtil.e(TAG, e);
}
statement.clearBindings();
}
} finally {
IOUtil.closeQuietly(statement);
}
}
public static void bindValues(SQLiteStatement statement,
Object[] values,
int row,
int columns) {
for (int j = 0; j < columns; j++) {
Object value = values[row * columns + j];
int index = j + 1;
if (value == null) {
statement.bindNull(index);
} else if (value instanceof String) {
statement.bindString(index, (String) value);
} else if (value instanceof Number) {
if (value instanceof Double
|| value instanceof Float
|| value instanceof BigDecimal) {
statement.bindDouble(index, ((Number) value).doubleValue());
} else {
statement.bindLong(index, ((Number) value).longValue());
}
} else if (value instanceof byte[]) {
statement.bindBlob(index, (byte[]) value);
} else {
statement.bindString(index, value.toString());
}
}
}
其實很多其他的數據庫引擎也提供了參數綁定的API。
這樣的方式的好處就是,只用編譯一次SQL。
而用SDK的insert方法,則每插入一條記錄都需要編譯一遍SQL。
需要注意的事,在轉儲數據時要捕獲SQLiteConstraintException,因爲在當數據文件不完整時,有的記錄可能已經不滿足約束(唯一約束,非空約束等)了。
2.5 複製數據
接下來,只需組裝前面的方法,逐張表進行復制。
private static void copyTable(SQLiteDatabase srcDb, SQLiteDatabase desDb,
String table, StringBuilder builder) {
TableData tableData = getData(srcDb, "SELECT * FROM " + table);
if (tableData != null) {
builder.setLength(0);
builder.append("INSERT INTO ").append(table).append(" VALUES(");
for (int i = 0; i < tableData.column; i++) {
builder.append("?,");
}
builder.setCharAt(builder.length() - 1, ')');
insertToDb(desDb, builder.toString(), tableData.data, tableData.row, tableData.column);
}
}
private static void copyDataToNewDb(SQLiteDatabase srcDb, SQLiteDatabase desDb) {
srcDb.beginTransaction();
try {
List<String> tables = getTables(desDb);
StringBuilder builder = new StringBuilder(128);
for (String table : tables) {
desDb.execSQL("DELETE FROM " + table);
copyTable(srcDb, desDb, table, builder);
}
} finally {
srcDb.endTransaction();
}
}
複製完成後,把新數據庫文件替換舊數據庫文件即可。
三、預防措施
以上是數據庫損壞後的對應策略,不一定有效,比如說數據庫是徹底損壞(數據無法讀取)時。
我們可以從另外兩個方面做預防:
- 1、防止數據庫損壞
比如檢查磁盤剩餘空間,當剩餘空間小於一定大小時提醒用戶清理空間;
還有就是注意切勿多進程訪問數據庫:集成推送,定位等服務,這些服務通常會有自己的進程,
這時候需要小心Application的onCreate方法,因爲所有進程都會回調該方法。 - 2、做備份
定時做備份,比如每天或者每兩天做一次備份,在數據庫徹底損壞時至少還可以恢復絕大部分數據。
四、後記
我們的APP重度依賴數據庫,數據量不算特別大,但是數據表多,操作路徑多,數據庫損壞什麼的時有發生,對業務影響頗深。
用戶數據有問題,有的會反饋,有的可能就卸載APP了。
最初沒意識到SQLite完整性的問題,碰到一些奇怪的數據現象,鑽進茫茫的業務代碼中去查原因,有時候能找到一些可能的原因,但是常常是鎩羽而歸,最終也只是用一些臨時方案使得用戶可以恢復使用,治標而不治本。
後來漸漸意識到解決數據庫損壞的問題,出了系一列措施之後,此類問題迎刃而解。
五、下載
已上傳Demo到github, 地址:https://github.com/No89757/DBTest