前段時間把 ShardingSphere 升級到了 5.1.1 版本,奈何官方版本升級太快跟不上速度,這不最近又發現了一個 BUG。
問題現象
數據庫做了分庫分表,在需要查詢多表數據進行 merge 的時候發生了一個 NPE 的異常。
Caused by: java.lang.NullPointerException
at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByValue.getOrderValuesCaseSensitiveFromTables(OrderByValue.java:73) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByValue.getOrderValuesCaseSensitive(OrderByValue.java:64) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByValue.<init>(OrderByValue.java:58) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByStreamMergedResult.orderResultSetsToQueue(OrderByStreamMergedResult.java:56) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByStreamMergedResult.<init>(OrderByStreamMergedResult.java:50) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.sharding.merge.dql.ShardingDQLResultMerger.build(ShardingDQLResultMerger.java:89) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.sharding.merge.dql.ShardingDQLResultMerger.merge(ShardingDQLResultMerger.java:63) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.infra.merge.MergeEngine.executeMerge(MergeEngine.java:90) ~[shardingsphere-infra-merge-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.infra.merge.MergeEngine.merge(MergeEngine.java:80) ~[shardingsphere-infra-merge-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.driver.jdbc.core.statement.ShardingSpherePreparedStatement.mergeQuery(ShardingSpherePreparedStatement.java:487) ~[shardingsphere-jdbc-core-5.1.1.jar:5.1.1]
at org.apache.shardingsphere.driver.jdbc.core.statement.ShardingSpherePreparedStatement.getResultSet(ShardingSpherePreparedStatement.java:435) ~[shardingsphere-jdbc-core-5.1.1.jar:5.1.1]
at org.apache.ibatis.executor.resultset.DefaultResultSetHandler.getFirstResultSet(DefaultResultSetHandler.java:237) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.resultset.DefaultResultSetHandler.handleResultSets(DefaultResultSetHandler.java:187) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.statement.PreparedStatementHandler.query(PreparedStatementHandler.java:65) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.statement.RoutingStatementHandler.query(RoutingStatementHandler.java:79) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.SimpleExecutor.doQuery(SimpleExecutor.java:63) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.BaseExecutor.queryFromDatabase(BaseExecutor.java:324) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.BaseExecutor.query(BaseExecutor.java:156) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.executor.CachingExecutor.query(CachingExecutor.java:109) ~[mybatis-3.5.3.jar:3.5.3]
at jdk.internal.reflect.GeneratedMethodAccessor346.invoke(Unknown Source) ~[?:?]
at jdk.internal.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) ~[?:?]
at java.lang.reflect.Method.invoke(Method.java:566) ~[?:?]
at org.apache.ibatis.plugin.Plugin.invoke(Plugin.java:63) ~[mybatis-3.5.3.jar:3.5.3]
at com.sun.proxy.$Proxy410.query(Unknown Source) ~[?:?]
at com.github.pagehelper.PageInterceptor.intercept(PageInterceptor.java:108) ~[pagehelper-5.1.11.jar:?]
at org.apache.ibatis.plugin.Plugin.invoke(Plugin.java:61) ~[mybatis-3.5.3.jar:3.5.3]
at com.sun.proxy.$Proxy410.query(Unknown Source) ~[?:?]
at org.apache.ibatis.session.defaults.DefaultSqlSession.selectList(DefaultSqlSession.java:147) ~[mybatis-3.5.3.jar:3.5.3]
at org.apache.ibatis.session.defaults.DefaultSqlSession.selectList(DefaultSqlSession.java:140) ~[mybatis-3.5.3.jar:3.5.3]
at jdk.internal.reflect.NativeMethodAccessorImpl.invoke0(Native Method) ~[?:?]
at jdk.internal.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) ~[?:?]
at jdk.internal.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) ~[?:?]
at java.lang.reflect.Method.invoke(Method.java:566) ~[?:?]
at org.mybatis.spring.SqlSessionTemplate$SqlSessionInterceptor.invoke(SqlSessionTemplate.java:427) ~[mybatis-spring-2.0.6.jar:2.0.6]
... 95 more
問題排查
跟蹤到報錯的地方,發現是這個地方的schema
是個null
,從而引發了 NPE。
一路往上看代碼,最終定位到了這個獲取schema
的地方,也就是元數據去getDefaultSchema
獲取默認的schema
名稱改的時候拿到了一個空值。
進入這個方法後發現通過schema
去schemas
這個map
裏獲取名稱的時候是個空值,debug
到這個地方其實發現了問題。
我們的schemaName
配置的是orderTrade
包含有大寫字符的,所以name
傳進來的是orderTrade
,但是問題是這個schemas
確是ordertrade
。
所以很顯然,這裏獲取不到正確的schema
名稱,導致了這個 NPE 的異常,那麼問題是這個schemas
是怎麼加載進來的呢?
我們發現schemas
是在創建元數據的時候,通過構造函數賦值的,那麼只要找到這個賦值的地方應該就能發現問題了。
通過一番查找,找到了調用的地方,這個schemas
值就是databaseMap
中的value
,那麼我們要繼續看這個databaseMap
是如何初始化來的。
繼續看源碼,找到了databaseMap
進行初始化的地方,原來是通過DatabaseLoader
去加載元數據的時候初始化的,那麼這個load
方法是怎麼處理的呢?
從代碼來看他包含了兩部分的信息,第一個是我們自己通過schema
配置的一些分庫分表的配置信息,另外一部分則是數據庫默認的一些表的元數據,比如mysql
、information_schema
這些,那我們只要看自己配置的那部分就可以了,也就是SchemaLoader.load(dataSourceMap, rules, props)
方法。
看他實際上就是獲取數據庫是什麼類型,比如mysql
,然後去加載表的元數據,最後new
出來ShardingSphereSchema
,直接看最後的new
部分代碼就行了。
進入這個方法,瞬間就真相大白了,原來在put
的時候對所有的schemaName
進行了小寫處理,所以在最上面我們去get
的時候肯定會拿到一個空值,最終導致merge
的時候發生了 NPE 異常。
解決方案
現在問題原因已經發現了,那麼該如何解決呢?總不能不讓別人配置的時候不讓寫大寫吧,本着能不能白嫖一個 PR 的想法,又去給 Sharding 提了一個 Issue。
就我點了根菸的功夫,回頭就給我回復說新版本已經修復了,希望落空了,修復方案就是查詢的時候也做小寫處理了,好吧,那就這樣吧。