將dataframe 對象寫入數據庫中,並指定數據類型

在數據分析並存儲到數據庫時，Python的Pandas包提供了to_sql 方法使存儲的過程更爲便捷，但如果在使用to_sql方法前不在數據庫建好相對應的表，to_sql則會默認爲你創建一個新表，這時新表的列類型可能並不是你期望的。例如我們通過下段代碼往數據庫中插入一部分數據：

import pandas as pd
from datetime import datetime
 
df = pd.DataFrame([['a', 1, 1, 2.0, datetime.now(), True]], 
                  columns=['str', 'int', 'float', 'datetime', 'boolean'])
print(df.dtypes)

通過dtypes可知數據類型爲object, int64, float64, datetime64[ns], bool
如果把數據通過to_sql方法插入到數據庫中：

from sqlalchemy import create_engine
engine = create_engine("mysql+mysqldb://{}:{}@{}/{}".format('username', 'password', 'host:port', 'database'))
con = engine.connect()
 
df.to_sql(name='test', con=con, if_exists='append', index=False)

用MySQL的desc可以發現數據庫自動創建了表並默認指定了列的格式：

# 在MySQL中查看錶的列類型
desc test;

其中str類型的數據在數據庫表中被映射成text，int類型被映射成bigint(20)， float類型被映射成double類型。數據庫中的列類型可能並非是我們所期望的格式，但我們又不想在數據插入前手動的創建數據庫的表，而更希望根據DataFrame中數據的格式動態地改變數據庫中表格式。

分析
通過查閱pandas.DataFrame.to_sql的api文檔[1]，可以通過指定dtype 參數值來改變數據庫中創建表的列類型。

dtype : dict of column name to SQL type, default None
Optional specifying the datatype for columns. The SQL type should be a SQLAlchemy type, or a string for sqlite3 fallback connection.

根據描述，可以在執行to_sql方法時，將映射好列名和指定類型的dict賦值給dtype參數即可上，其中對於MySQL表的列類型可以使用SQLAlchemy包中封裝好的類型。

# 執行前先在MySQL中刪除表
drop table test;

from sqlalchemy.types import NVARCHAR, Float, Integer
dtypedict = {
  'str': NVARCHAR(length=255),
  'int': Integer(),
  'float' Float()
}
df.to_sql(name='test', con=con, if_exists='append', index=False, dtype=dtypedict)

更新代碼後，再查看數據庫，可以看到數據庫在建表時會根據dtypedict中的列名來指定相應的類型。

desc test;

答案
通過分析，我們已經知道在執行to_sql的方法時，可以通過創建一個類似“{"column_name"：sqlalchemy_type}”的映射結構來控制數據庫中表的列類型。但在實際使用時，我們更希望能通過pandas.DataFrame中的column的數據類型來映射數據庫中的列類型，而不是每此都要列出pandas.DataFrame的column名字。
寫一個簡單的def將pandas.DataFrame中列名和預指定的類型映射起來即可：

def mapping_df_types(df):
    dtypedict = {}
    for i, j in zip(df.columns, df.dtypes):
        if "object" in str(j):
            dtypedict.update({i: NVARCHAR(length=255)})
        if "float" in str(j):
            dtypedict.update({i: Float(precision=2, asdecimal=True)})
        if "int" in str(j):
            dtypedict.update({i: Integer()})
    return dtypedict

只要在執行to_sql前使用此方法獲得一個映射dict再賦值給to_sql的dtype參數即可，執行的結果與上一節相同，不再累述。

df = pd.DataFrame([['a', 1, 1, 2.0, datetime.now(), True]], 
                  columns=['str', 'int', 'float', 'datetime', 'boolean'])
dtypedict = mapping_df_types(df)
df.to_sql(name='test', con=con, if_exists='append', index=False, dtype=dtypedict)