MongoDB 學習筆記(python操作)

原創 lpx312 2019-02-22 17:15


文章來源：http://blog.csdn.net/daillo/article/details/7030910


一、MongoDB 數據庫操作
  1. 連接數據庫
    import pymongo
    conn = pymongo.Connection() # 連接本機數據庫
    # conn = pymongo.Connection(host="192.168.1.202") # 連接指定IP的數據庫
    db = conn.test # 進入指定名稱的數據庫
    users = db.users # 獲取數據庫裏的 users 集合
    users = db['users'] # 獲取數據庫裏的 users 集合,也可以用字典來獲取

  2. 插入
    u = dict(name = "user1", age = 23)
    # db.users.save(u) # 用 save 也可以插入
    db.users.insert(u) # 將數據插入到 users 集合

  3. 更新
    # 更新指定一條記錄
    u2 = db.users.find_one({"name":"user9"})
    u2['age'] += 3
    db.users.save(u2)

    # 更新多條記錄
    db.users.update({"name":"user1"}, {"$set":{"age":100, "sex":0}}) # update users set age = 100, sex = 0 where name = 'user1'
    db.users.update({}, {"$inc":{"age":10}}, multi=True) # update users set age = age + 10
    db.users.update({"name":"user1"}, {"$inc":{"age":10}, "$set":{"sex":1}}) # update users set age = age + 10, sex = 1 where name = 'user1'

    # update() 有幾個參數需要注意:
    db.集合名.update(criteria, objNew, upsert, mult)
    criteria: 需要被更新的條件表達式
    objNew: 更新表達式
    upsert: 如目標記錄不存在，是否插入新文檔。
    multi: 是否更新多個文檔。

  4. 刪除
    db.users.drop()  # 刪除集合

    # remove() 用於刪除單個或全部文檔，刪除後的文檔無法恢復。
    id = db.users.find_one({"name":"user2"})["_id"]
    db.users.remove(id)  # 根據 id 刪除一條記錄
    db.users.remove()  # 刪除集合裏的所有記錄
    db.users.remove({'yy':5}) # 刪除yy=5的記錄

  5. 查詢
    # 查詢 age 小於 15 的
    for u in db.users.find({"age":{"$lt":15}}): print u

  5.1 查詢一條記錄
    # 查詢 name 等於 user8 的
    for u in db.users.find({"name":"user8"}): print u

    # 獲取查詢的一個
    u2 = db.users.find_one({"name":"user9"}) # 查不到時返回 None
    print u2

  5.2 查詢特定鍵 (fields)
    # select name, age from users where age = 21
    for u in db.users.find({"age":21}, ["name", "age"]): print u
    for u in db.users.find(fields = ["name", "age"]): print u

  5.3 排序(SORT)
    pymongo.ASCENDING  # 也可以用 1 來代替
    pymongo.DESCENDING # 也可以用 -1 來代替
    for u in db.users.find().sort([("age", pymongo.ASCENDING)]): print u   # select * from 集合名 order by 鍵1
    for u in db.users.find().sort([("age", pymongo.DESCENDING)]): print u  # select * from 集合名 order by 鍵1 desc
    for u in db.users.find().sort([("鍵1", pymongo.ASCENDING), ("鍵2", pymongo.DESCENDING)]): print u # select * from 集合名 order by 鍵1 asc, 鍵2 desc
    for u in db.users.find(sort = [("鍵1", pymongo.ASCENDING), ("鍵2", pymongo.DESCENDING)]): print u # sort 的另一種寫法
    for u in db.users.find({"name":"user9"}, sort=[['name',1],['sex',1]], fields = ["name", "age", 'sex']): print u  # 組合寫法

  5.4 從第幾行開始讀取(SLICE)，讀取多少行(LIMIT)
    # select * from 集合名 skip 2 limit 3
    # MySQL 的寫法： select * from 集合名 limit 2, 3
    for u in db.users.find().skip(2).limit(3): print u
    for u in db.users.find(skip = 2, limit = 3): print u

    # 可以用切片代替 skip & limit (mongo 中的 $slice 貌似有點問題)。
    for u in db.users.find()[2:5]: print u

    # 單獨的寫
    for u in db.users.find().skip(2): print u
    for u in db.users.find(skip=1): print u
    for u in db.users.find().limit(5): print u
    for u in db.users.find(limit = 3): print u

  5.5 多條件查詢(Conditional Operators)    # like 的可使用正則表達式查詢
    # select * from users where name = 'user3' and age > 12 and age < 15
    for u in db.users.find({'age': {'$gt': 12, '$lt': 15}, 'name': 'user3'}): print u
    # select * from users where name = 'user1' and age = 21
    for u in db.users.find({"age":21, "name":"user1"}): print u

  5.6 IN
    for u in db.users.find({"age":{"$in":(23, 26, 32)}}): print u   # select * from users where age in (23, 26, 32)
    for u in db.users.find({"age":{"$nin":(23, 26, 32)}}): print u  # select * from users where age not in (23, 26, 32)

  5.7 統計總數(COUNT)
    print(db.users.count())  # select count(*) from users
    print(db.users.find({"age":{"$gt":30}}).count()) # select count(*) from users where age > 30

  5.8 OR
    for u in db.users.find({"$or":[{"age":25}, {"age":28}]}): print u  # select * from 集合名 where 鍵1 = 值1 or 鍵1 = 值2
    for u in db.users.find({"$or":[{"age":{"$lte":23}}, {"age":{"$gte":33}}]}): print u  # select * from 集合名 where 鍵1 <= 值1 or 鍵1 >= 值2

  6. 是否存在 (exists)
    db.users.find({'sex':{'$exists':True}})  # select * from 集合名 where exists 鍵1
    db.users.find({'sex':{'$exists':False}}) # select * from 集合名 where not exists 鍵1

  7. 正則表達式查詢
    for u in db.users.find({"name" : {"$regex" : r"(?i)user[135]"}}, ["name"]): print u # 查詢出 name 爲 user1, user3, user5 的

  8. 多級路徑的元素值匹配
    Document 採取 JSON-like 這種層級結構，因此我們可以直接用嵌入(Embed)代替傳統關係型數據庫的關聯引用(Reference)。
    MongoDB 支持以 "." 分割的 namespace 路徑，條件表達式中的多級路徑須用引號

    # 如果鍵裏面包含數組，只需簡單匹配數組屬性是否包含該元素即可查詢出來
    db.集合名.find_one({'address':"address1"}) # address 是個數組，匹配時僅需包含有即可
    # 查詢結果如：{"_id" : ObjectId("4c479885089df9b53474170a"), "name" : "user1", "address" : ["address1", "address2"]}

    # 條件表達式中的多級路徑須用引號,以 "." 分割
    u = db.集合名.find_one({"im.qq":12345678})
    # 查詢結果如：{"_id" : ObjectId("4c479885089df9b53474170a"), "name" : "user1", "im" : {"msn" : "[email protected]", "qq" : 12345678}}

    print u['im']['msn']  #顯示： [email protected]

    # 多級路徑的更新
    db.集合名.update({"im.qq":12345678}, {'$set':{"im.qq":12345}})

    # 查詢包含特定鍵的
    for u in db.users.find({"im.qq":{'$exists':True}}, {"im.qq":1}): print u
    # 顯示如： { "_id" : ObjectId("4c479885089df9b53474170a"), "im" : { "qq" : 12345 } }


    for u in db.users.find({'data':"abc"}): print u
    # 顯示如： { "_id" : ObjectId("4c47a481b48cde79c6780df5"), "name" : "user8", "data" : [ { "a" : 1, "b" : 10 }, 3, "abc" ] }
    for u in db.users.find({'data':{'$elemMatch':{'a':1, 'b':{'$gt':5}}}}): print u
    # 顯示如： { "_id" : ObjectId("4c47a481b48cde79c6780df5"), "name" : "user8", "data" : [ { "a" : 1, "b" : 10 }, 3, "abc" ] }
    {data:"abc"} 僅簡單匹配數組屬性是否包含該元素。$elemMatch 則可以處理更復雜的元素查找條件。當然也可以寫成如下方式：
    db.集合名.find({"data.a":1, "data.b":{'$gt':5}})

    對數組, 還可以直接使用序號進行操作：
    db.集合名.find({"data.1":3}) # 序號從0開始


    # 如集合的一列內容
    {"classifyid":"test1",
          "keyword":[
                {"name":'test1', # 將修改此值爲 test5 (數組下標從0開始,下標也是用點)
                "frequence":21,
                },
                {"name":'test2', # 子表的查詢，會匹配到此值
                "frequence":50,
                },
          ]
    }
    # 子表的修改(子表的其它內容不變)
    db.集合名.update({"classifyid":"test1"}, {"$set":{"keyword.0.name":'test5'}})
    # 子表的查詢
    db.集合名.find({"classifyid":"test1", "keyword.0.name":"test2"})


  操作符
    $lt         小於
    $lte        小於等於
    $gt         大於
    $gte        大於等於
    $ne         不等於
    $in         in  檢查目標屬性值是條件表達式中的一員
    $nin        not in
    $set        set(用於 update 語句)
    $unset      與 $set 相反，表示移除文檔屬性。
    $inc        += (用於 update 語句)
    $exists     exists (判斷是否存在，僅有 True 和 False 兩個值)
    $all        屬性值包含全部條件元素,注意和 $in 的區別
    $size       匹配數組屬性元素的數量
    $type       判斷屬性類型
    $regex      正則表達式查詢
    $elemMatch  子屬性裏的查詢
    $push       向數組屬性添加元素
    $pushAll    向數組屬性添加元素
    $addToSet   和 $push 類似，不過僅在該元素不存在時才添加 (Set 表示不重複元素集合)
    $each       添加多個元素用
    $pop        移除數組屬性的元素(按數組下標移除)
    $pull       按值移除
    $pullAll    移除所有符合提交的元素
    $where      用 JS 代碼來代替有些醜陋的 $lt、$gt

 


二、Operator
  (1) $all: 判斷數組屬性是否包含全部條件。
    db.users.insert({'name':"user3", 'data':[1,2,3,4,5,6,7]})
    db.users.insert({'name':"user4", 'data':[1,2,3]})

    for u in db.users.find({'data':{'$all':[2,3,4]}}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "name" : "user3", "data" : [ 1, 2, 3, 4, 5, 6, 7 ] }
    注意和 $in 的區別。$in 是檢查目標屬性值是條件表達式中的一員，而 $all 則要求屬性值包含全部條件元素。

  (2) $size: 匹配數組屬性元素數量。
    for u in db.users.find({'data':{'$size':3}}): print u
    # 只顯示匹配此數組數量的： { "_id" : ObjectId("4c47a13bb48cde79c6780df1"), "name" : "user4", "data" : [ 1, 2, 3 ] }

  (3) $type: 判斷屬性類型。
    for u in db.users.find({'t':{'$type':1}}): print u  # 查詢數字類型的
    for u in db.users.find({'t':{'$type':2}}): print u  # 查詢字符串類型的

    類型值:
        double:1
        string: 2
        object: 3
        array: 4
        binary data: 5
        object id: 7
        boolean: 8
        date: 9
        null: 10
        regular expression: 11
        javascript code: 13
        symbol: 14
        javascript code with scope: 15
        32-bit integer: 16
        timestamp: 17
        64-bit integer: 18
        min key: 255
        max key: 127

  (4) $not: 取反，表示返回條件不成立的文檔。
    似乎只能跟正則和 $mod 一起使用？？？？
    # 還不知如何使用

  (5) $unset: 和 $set 相反，表示移除文檔屬性。
    for u in db.users.find({'name':"user1"}): print u
    # 顯示如： { "_id" : ObjectId("4c479885089df9b53474170a"), "name" : "user1", "age" : 15, "address" : [ "address1", "address2" ] }

    db.users.update({'name':"user1"}, {'$unset':{'address':1, 'age':1}})
    for u in db.users.find({'name':"user1"}): print u
    # 顯示如： { "_id" : ObjectId("4c479885089df9b53474170a"), "name" : "user1" }

  (6) $push: 和 $ pushAll 都是向數組屬性添加元素。# 好像兩者沒啥區別
    for u in db.users.find({'name':"user1"}): print u
    # 顯示如： { "_id" : ObjectId("4c479885089df9b53474170a"), "age" : 15, "name" : "user1" }

    db.users.update({'name':"user1"}, {'$push':{'data':1}})
    for u in db.users.find({'name':"user1"}): print u
    # 顯示如： { "_id" : ObjectId("4c479885089df9b53474170a"), "age" : 15, "data" : [ 1 ], "name" : "user1" }

    db.users.update({'name':"user1"}, {'$pushAll':{'data':[2,3,4,5]}})
    for u in db.users.find({'name':"user1"}): print u
    # 顯示如： { "_id" : ObjectId("4c479885089df9b53474170a"), "age" : 15, "data" : [ 1, 2, 3, 4, 5 ], "name" : "user1" }

  (7) $addToSet: 和 $push 類似，不過僅在該元素不存在時才添加 (Set 表示不重複元素集合)。
    db.users.update({'name':"user2"}, {'$unset':{'data':1}})
    db.users.update({'name':"user2"}, {'$addToSet':{'data':1}})
    db.users.update({'name':"user2"}, {'$addToSet':{'data':1}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1 ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$push':{'data':1}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1, 1 ], "name" : "user2" }

    要添加多個元素，使用 $each。
    db.users.update({'name':"user2"}, {'$addToSet':{'data':{'$each':[1,2,3,4]}}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： {u'age': 12, u'_id': ObjectId('4c479896089df9b53474170b'), u'data': [1, 1, 2, 3, 4], u'name': u'user2'}
    # 貌似不會自動刪除重複

  (8) $each 添加多個元素用。
    db.users.update({'name':"user2"}, {'$unset':{'data':1}})
    db.users.update({'name':"user2"}, {'$addToSet':{'data':1}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1 ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$addToSet':{'data':{'$each':[1,2,3,4]}}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： {u'age': 12, u'_id': ObjectId('4c479896089df9b53474170b'), u'data': [1, 2, 3, 4], u'name': u'user2'}

    db.users.update({'name':"user2"}, {'$addToSet':{'data':[1,2,3,4]}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1, 2, 3, 4, [ 1, 2, 3, 4 ] ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$unset':{'data':1}})
    db.users.update({'name':"user2"}, {'$addToSet':{'data':[1,2,3,4]}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ [1, 2, 3, 4] ], "name" : "user2" }

  (9) $pop: 移除數組屬性的元素(按數組下標移除)，$pull 按值移除，$pullAll 移除所有符合提交的元素。
    db.users.update({'name':"user2"}, {'$unset':{'data':1}})
    db.users.update({'name':"user2"}, {'$addToSet':{'data':{'$each':[1, 2, 3, 4, 5, 6, 7, 2, 3 ]}}})
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 1, 2, 3, 4, 5, 6, 7, 2, 3 ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$pop':{'data':1}}) # 移除最後一個元素
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 1, 2, 3, 4, 5, 6, 7, 2 ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$pop':{'data':-1}}) # 移除第一個元素
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 2, 3, 4, 5, 6, 7, 2 ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$pull':{'data':2}}) # 移除全部 2
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 3, 4, 5, 6, 7 ], "name" : "user2" }

    db.users.update({'name':"user2"}, {'$pullAll':{'data':[3,5,6]}}) # 移除 3,5,6
    for u in db.users.find({'name':"user2"}): print u
    # 顯示： { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 4, 7 ], "name" : "user2" }

  (10) $where: 用 JS 代碼來代替有些醜陋的 $lt、$gt。
    MongoDB 內置了 Javascript Engine (SpiderMonkey)。可直接使用 JS Expression，甚至使用 JS Function 寫更復雜的 Code Block。

    db.users.remove() # 刪除集合裏的所有記錄
    for i in range(10):
        db.users.insert({'name':"user" + str(i), 'age':i})
    for u in db.users.find(): print u
    # 顯示如下：
    { "_id" : ObjectId("4c47b3372a9b2be866da226e"), "name" : "user0", "age" : 0 }
    { "_id" : ObjectId("4c47b3372a9b2be866da226f"), "name" : "user1", "age" : 1 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2270"), "name" : "user2", "age" : 2 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2271"), "name" : "user3", "age" : 3 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2272"), "name" : "user4", "age" : 4 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2273"), "name" : "user5", "age" : 5 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2274"), "name" : "user6", "age" : 6 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2275"), "name" : "user7", "age" : 7 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2276"), "name" : "user8", "age" : 8 }
    { "_id" : ObjectId("4c47b3372a9b2be866da2277"), "name" : "user9", "age" : 9 }

    for u in db.users.find({"$where":"this.age > 7 || this.age < 3"}): print u
    # 顯示如下：
    {u'age': 0.0, u'_id': ObjectId('4c47b3372a9b2be866da226e'), u'name': u'user0'}
    {u'age': 1.0, u'_id': ObjectId('4c47b3372a9b2be866da226f'), u'name': u'user1'}
    {u'age': 2.0, u'_id': ObjectId('4c47b3372a9b2be866da2270'), u'name': u'user2'}
    {u'age': 8.0, u'_id': ObjectId('4c47b3372a9b2be866da2276'), u'name': u'user8'}
    {u'age': 9.0, u'_id': ObjectId('4c47b3372a9b2be866da2277'), u'name': u'user9'}

    for u in db.users.find().where("this.age > 7 || this.age < 3"): print u
    # 顯示如下：
    {u'age': 0.0, u'_id': ObjectId('4c47b3372a9b2be866da226e'), u'name': u'user0'}
    {u'age': 1.0, u'_id': ObjectId('4c47b3372a9b2be866da226f'), u'name': u'user1'}
    {u'age': 2.0, u'_id': ObjectId('4c47b3372a9b2be866da2270'), u'name': u'user2'}
    {u'age': 8.0, u'_id': ObjectId('4c47b3372a9b2be866da2276'), u'name': u'user8'}
    {u'age': 9.0, u'_id': ObjectId('4c47b3372a9b2be866da2277'), u'name': u'user9'}

    # 使用自定義的 function, javascript語法的
    for u in db.users.find().where("function() { return this.age > 7 || this.age < 3;}"): print u
    # 顯示如下：
    {u'age': 0.0, u'_id': ObjectId('4c47b3372a9b2be866da226e'), u'name': u'user0'}
    {u'age': 1.0, u'_id': ObjectId('4c47b3372a9b2be866da226f'), u'name': u'user1'}
    {u'age': 2.0, u'_id': ObjectId('4c47b3372a9b2be866da2270'), u'name': u'user2'}
    {u'age': 8.0, u'_id': ObjectId('4c47b3372a9b2be866da2276'), u'name': u'user8'}
    {u'age': 9.0, u'_id': ObjectId('4c47b3372a9b2be866da2277'), u'name': u'user9'}

 

三、封裝查詢工具類

    {"age":{"$lt":15}} 這樣的查詢語法實在太另類，忒難看了。試試封裝查詢工具類吧。原理很簡單，就是重載操作符。

    from pymongo import *
    conn = Connection()
    db = conn.test

    # 插入數據
    for i in range(10):
        u = dict(name = "user" + str(i), age = 10 + i)
        db.users.insert(u)

    # 查詢 age 小於 15 的
    for u in db.users.find({"age":{"$lt":15}}): print u

    # 查詢結果如下：
    {u'age': 10, u'_id': ObjectId('4c9b7465499b1408f1000000'), u'name': u'user0'}
    {u'age': 11, u'_id': ObjectId('4c9b7465499b1408f1000001'), u'name': u'user1'}
    {u'age': 12, u'_id': ObjectId('4c9b7465499b1408f1000002'), u'name': u'user2'}
    {u'age': 13, u'_id': ObjectId('4c9b7465499b1408f1000003'), u'name': u'user3'}
    {u'age': 14, u'_id': ObjectId('4c9b7465499b1408f1000004'), u'name': u'user4'}


    ################# 查詢工具類 start #################################
    class Field(object):
        def __init__(self, name):
            self.name = name

        # 小於
        def __lt__(self, value):
            return { self.name: { "$lt":value } }
        # 小於等於
        def __le__(self, value):
            return { self.name: { "$lte":value } }

        # 大於
        def __gt__(self, value):
            return { self.name: { "$gt":value } }
        # 大於等於
        def __ge__(self, value):
            return { self.name: { "$gte":value } }

        # 等於
        def __eq__(self, value):
            return { self.name: value }
        # 不等於
        def __ne__(self, value):
            return { self.name: { "$ne":value } }

        # in (由於 in 是關鍵字，故該用首字母大寫來避免衝突)
        def In(self, *value):
            return { self.name: { "$in":value } }
        # not in
        def not_in(self, *value):
            return { self.name: { "$nin":value } }

        def all(self, *value):
            '''
            注意和 in 的區別。in 是檢查目標屬性值是條件表達式中的一員，而 all 則要求屬性值包含全部條件元素。
            '''
            return { self.name: { "$all":value } }

        def size(self, value):
            '''
            匹配數組屬性元素的數量
            '''
            return { self.name: { "$size":value } }

        def type(self, value):
            '''
            判斷屬性類型
            @param value 可以是類型碼數字，也可以是類型的字符串
            '''
            # int 類型，則認爲是屬性類型的編碼，不再做其它處理
            if type(value) is int and value >= 1 and value <= 255:
                return { self.name: { "$type":value } }
            if type(value) is str:
                value = value.strip().lower()
                code = 2 # 默認爲字符串類型
                # 數字類型
                if value in ("int", "integer", "long", "float", "double", "short", "byte", "number"):
                    code = 1
                # 字符串類型
                elif value in ("str", "string", "unicode"):
                    code = 2
                # object 類型
                elif value == "object":
                    code = 3
                # array 類型
                elif value in ("array", "list", "tuple"):
                    code = 4
                # binary data 類型
                elif value in ("binary data", "binary"):
                    code = 5
                # object id 類型
                elif value in ("object id", "id"):
                    code = 7
                # boolean 類型
                elif value in ("boolean", "bool"):
                    code = 8
                # date 類型
                elif value == "date":
                    code = 9
                # null 類型
                elif value in ("null", "none"):
                    code = 10
                # regular expression 類型
                elif value in ("regular expression", "regular"):
                    code = 11
                # javascript code 類型
                elif value in ("javascript code", "javascript", "script"):
                    code = 13
                # symbol 類型
                elif value == "symbol":
                    code = 14
                # javascript code with scope 類型
                elif value == "javascript code with scope":
                    code = 15
                # 32-bit integer 類型
                elif value in ("32-bit integer", "32-bit"):
                    code = 16
                # timestamp 類型
                elif value in ("timestamp", "time"):
                    code = 17
                # 64-bit integer 類型
                elif value in ("64-bit integer", "64-bit"):
                    code = 18
                # min key 類型
                elif value == "min key":
                    code = 255
                # max key 類型
                elif value == "max key":
                    code = 127
                return { self.name: { "$type":code } }


    # 查詢工具類 使用範例
    age = Field("age")
    # 查詢 age 小於 15 的
    for u in db.users.find(age < 15): print u

    # 查詢結果如下：
    {u'age': 10, u'_id': ObjectId('4c9b7465499b1408f1000000'), u'name': u'user0'}
    {u'age': 11, u'_id': ObjectId('4c9b7465499b1408f1000001'), u'name': u'user1'}
    {u'age': 12, u'_id': ObjectId('4c9b7465499b1408f1000002'), u'name': u'user2'}
    {u'age': 13, u'_id': ObjectId('4c9b7465499b1408f1000003'), u'name': u'user3'}
    {u'age': 14, u'_id': ObjectId('4c9b7465499b1408f1000004'), u'name': u'user4'}

    # 其它查詢寫法例如：
    for u in db.users.find(age <= 12): print u
    for u in db.users.find(age > 17): print u
    for u in db.users.find(age == 15): print u
    for u in db.users.find(age != 15): print u
    # 查詢 name 爲 user2 的
    for u in db.users.find(Field("name") == "user2"): print u

    # in 和 not in 的寫法較之前的不同(可考慮更優雅的寫法)
    for u in db.users.find(age.In(13,14)): print u  # in
    for u in db.users.find(age.not_in(13,14)): print u  # not in
    for u in db.users.find(Field("data").all(1,2,3)): print u  # all: 查詢data數組中至少包含 1、2、3 的
    for u in db.users.find(Field("data").size(3)): print u # size: 查詢data數組的長度爲3的
    # for u in db.users.find({'t':{'$type':1}}): print u
    for u in db.users.find(Field("t").type("number")): print u # 按類型查詢，結果同上句

    ################# 查詢工具類 end #################################


    ################# 多條件查詢工具類 start #################################
    # (下面的 AND 函數很簡陋，僅用於演示，不建議用於正式場合)
    import copy
    def AND(*args):
        ret = copy.deepcopy(args[0])

        for d in args[1:]:
            for k, v in d.items():
                if k in ret and type(v) is dict:
                    ret[k].update(v)
                else:
                    ret[k] = v

        return ret


    # 多條件查詢工具類 使用範例
    age = Field("age")
    AND(name == "user3", age > 12, age < 15)
    # 相當於如下寫法：
    {'age': {'$gt': 12, '$lt': 15}, 'name': 'user3'}

    # 使用多條件查詢範例
    for u in db.users.find(AND(age > 12, age < 15)): print u
    for u in db.users.find(AND(name == "user3", age > 12, age < 15)): print u

    ################# 多條件查詢工具類 end #################################

 


四、索引(Index)
    索引信息被保存在 system.indexes 中，且默認總是爲 _id 創建索引。

  1. 創建、查看索引
    # 查看索引
    for u in db.system.indexes.find(): print u
    # 顯示： { "name" : "_id_", "ns" : "test.users", "key" : { "_id" : 1 }, 'v': 0 }

    # 刪除 集合的全部索引(不包括 _id 等系統索引)
    db.users.drop_indexes()

    # 創建索引
    db.users.ensure_index([("name", pymongo.ASCENDING)]) # 相當於js的： db.users.ensureIndex({name:1})
    db.users.ensure_index([("name", pymongo.ASCENDING), ("age", pymongo.DESCENDING)]) # 相當於js的： db.users.ensureIndex({name:1, age:-1})

    # 刪除指定索引
    db.users.drop_index([("name", pymongo.ASCENDING)])
    db.users.drop_index([("name", pymongo.ASCENDING), ("age", pymongo.DESCENDING)])

    # 重建索引,在python裏不知道怎麼寫
    db.users.reIndex() # 會報錯


  2. explain
    explain 命令讓我們獲知系統如何處理查詢請求。
    利用 explain 命令，我們可以很好地觀察系統如何使用索引來加快檢索，同時可以針對性優化索引。

    print db.users.find({'age':{'$gt':4}}).explain()
    # 顯示如： {u'nYields': 0, u'allPlans': [{u'cursor': u'BtreeCursor age_1', u'indexBounds': {u'age': [[4, 1.7976931348623157e+308]]}}], u'nChunkSkips': 0, u'millis': 0, u'n': 0, u'cursor': u'BtreeCursor age_1', u'indexBounds': {u'age': [[4, 1.7976931348623157e+308]]}, u'nscannedObjects': 0, u'isMultiKey': False, u'indexOnly': False, u'nscanned': 0}

    # 深層索引
    print db.users.find({"contact":{"postcode":{"$lt":100009}}}).explain()
    # 顯示如: {u'nYields': 0, u'allPlans': [{u'cursor': u'BtreeCursor contact_1', u'indexBounds': {u'contact': [[{u'postcode': {u'$lt': 100009}}, {u'postcode': {u'$lt': 100009}}]]}}], u'nChunkSkips': 0, u'millis': 0, u'n': 0, u'cursor': u'BtreeCursor contact_1', u'indexBounds': {u'contact': [[{u'postcode': {u'$lt': 100009}}, {u'postcode': {u'$lt': 100009}}]]}, u'nscannedObjects': 0, u'isMultiKey': False, u'indexOnly': False, u'nscanned': 0}

    print db.users.find({"contact.postcode":{"$lt":100009}}).explain()
    # 顯示如: {u'nYields': 0, u'allPlans': [{u'cursor': u'BtreeCursor contact.postcode_1', u'indexBounds': {u'contact.postcode': [[-1.7976931348623157e+308, 100009]]}}], u'nChunkSkips': 0, u'millis': 0, u'n': 9, u'cursor': u'BtreeCursor contact.postcode_1', u'indexBounds': {u'contact.postcode': [[-1.7976931348623157e+308, 100009]]}, u'nscannedObjects': 9, u'isMultiKey': False, u'indexOnly': False, u'nscanned': 9}

    返回結果信息包括:
    cursor: 返回遊標類型(BasicCursor 或 BtreeCursor)。
    nscanned: 被掃描的文檔數量。
    n: 返回的文檔數量。
    millis: 耗時(毫秒)。
    indexBounds: 所使用的索引。


  5. 唯一索引(Unique Index) # 未知怎樣使用
    只需在 ensureIndex 命令中指定 unique 即可創建唯一索引。
    如果創建唯一索引前已經有重複文檔，那麼可以用 dropDups 刪除多餘的數據。

    # 不允許重複，但之前已經重複的不會被刪除
    db.users.ensure_index({name:1}, {unique:true})
    # 還會刪除之前重複的資料
    db.users.ensure_index({name:1}, {unique:true, dropDups:true})


  7. hint
    hint 命令可以強制使用某個索引。
    db.users.find({"age":{"$lt":30}}).hint([("name", pymongo.ASCENDING), ("age", pymongo.DESCENDING)]).explain()


  8. 全部索引數據大小(totalIndexSize) # 未知如何實現
    MongoDB 會將索引數據載入內存，以提高查詢速度。我們可以用 totalIndexSize 獲取全部索引數據大小。
    db.users.totalIndexSize()

 

五、Map/Reduce
    執行函數：
    db.runCommand(
    {
        mapreduce : <collection>,
        map : <mapfunction>,
        reduce : <reducefunction>
        [, query : <query filter object>]
        [, sort : <sort the query.  useful   optimization>] for
        [, limit : <number of objects to   from collection>] return
        [, out : <output-collection name>]
        [, keeptemp: < | >] true false
        [, finalize : <finalizefunction>]
        [, scope : <object where fields go into javascript global scope >]
        [, verbose :  ] true
    });

    參數說明:
    mapreduce: 要操作的目標集合。
    map: 映射函數 (生成鍵值對序列，作爲 reduce 函數參數)。
    reduce: 統計函數。
    query: 目標記錄過濾。
    sort: 目標記錄排序。
    limit: 限制目標記錄數量。
    out: 統計結果存放集合 (不指定則使用臨時集合，在客戶端斷開後自動刪除)。
    keeptemp: 是否保留臨時集合。
    finalize: 最終處理函數 (對 reduce 返回結果進行最終整理後存入結果集合)。
    scope: 向 map、reduce、finalize 導入外部變量。
    verbose: 顯示詳細的時間統計信息。


    例：
    # 表如下：
    record = {
        "ci" : "test_classify",
        "si" : number,
        "ac" : random.randint(1, 50),
        "ic" : random.randint(1, 50),
        "cv" : random.randint(1, 50),
        "ao" : datetime.datetime.strptime('%Y-%m-%d %H:%M:%S'),
        "ssi" : number,
    }

    # map 生成 key 序列, 必須使用 emit 函數
    map = """function () {
             emit({classifyid: this.ci, siteid: this.si}, {archivecount: this.ac});
           }"""

    # 對 key 的處理，以及返回值
    reduce = """function (key, values) {
                var total = 0;
                for (var i = 0; i < values.length; i++) {
                  total += values[i].archivecount;
                }
                return {archivecount:total};
              }"""

    condition = {"ci" : "test_classify"}
    result = db[TABLE].map_reduce(map, reduce, "temp_top10", keeptemp=False, query=condition)
    result = result.find().sort('value.archivecount', -1).limit(10)


發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章

MongoDB 學習筆記(python操作)

lpx312 2018-09-11 04:08:45

mac python 包管理工具 pip 的配置 python 包管理工具 pip 的配置

  python3 --version Python 3.12.3 brew install [email protected] pip3 config set global.index-url https://pypi.tuna.tsinghua.e

a318013800 2024-06-10 13:37:38

亂序拼圖驗證的識別並還原 puzzle-captcha（開源）

一、前言 亂序拼圖驗證是一種較少見的驗證碼防禦，市面上更多的是拖動滑塊，被完美攻克的有不少，都在行爲軌跡上下足了功夫，本文不討論軌跡模擬範疇，就只針對拼圖還原進行研究。 找一個市面比較普及的頂像亂序拼圖進行驗證，它號稱的防禦能力4星，

S.F. 2021-12-01 00:53:28

【轉載】Python處理csv文件

Python處理csv文件 CSV(Comma-Separated Values)即逗號分隔值，可以用Excel打開查看。由於是純文本，任何編輯器也都可打開。與Excel文件不同，CSV文件中： 值沒有類型，所有值都是字符串 不能指定字

zqh 2020-07-18 14:25:30

Error:field larger than field limit(131072)解決方法

從csv文件讀取某一列的數據時，報錯顯示：Error:field larger than field limit(131072) 通過判斷髮現是因爲文件的行數超過csv限制的行數，所以導致結果既無法在控制檯打印，試着轉到df,存成csv文

hammring 2020-07-08 12:39:29

啓動Jupyter時, 遇到 sudo: jupyterhub: command not found 問題的解決方案

最近在學習Jupyter, 但是我發現啓動不了多用戶的JupyterHub 官網的教程: sudo jupyterhub 直接輸入就會導致這樣子的結果 後面我各種谷歌百度,都好複雜,然後我突然想到,這是沒有Jupyterhub

钢琴线与小刀 2020-07-08 12:39:19

Python小記 —— 文件讀寫操作裏read()方法的深究

** 語法 ** 格式：read(size) 在read()方法裏，size表示要從文件中讀取的數據長度，如果沒有指定size或者指定爲“None”就表示讀取文件裏的全部數據。 特別需要注意點： read()的讀取機制因訪問文件

柘月十七 2020-07-08 12:33:27

python使用pip指令安裝並引用第三方模塊及注意事項

python裏有內置模塊、自定義模塊還有第三方模塊。 內置模塊就是python自帶的模塊了，我們直接引用就可以了，如：import sys。自定義模塊就是按照我們編程者的需求以方便編寫程序和維護代碼的一些“.py文件”，簡單地說，

柘月十七 2020-07-08 12:33:27

python小記 —— sys.argv

sys.argv到底是什麼? sys.argv是運行在黑屏終端運行python文件獲取的參數。即返回一個包含輸入參數的列表。 話不多說了看下面，反手就是一堆代碼： import sys print("list長度：",len(sy

柘月十七 2020-07-08 12:33:16

Django Signals 信號

文章目錄Django Signals 信號入門connect Django Signals 信號 入門 # receiver 接收者 def my_callback(sender, **kwargs): print sen

冯斯特罗 2020-07-08 12:31:35

sorted 在python2和3中的區別

文章目錄sorted 在python2和3中的區別 sorted 在python2和3中的區別 python3中取消了cmp參數 python3中的使用方法如下: from functools import cmp_to_key

冯斯特罗 2020-07-08 12:31:35

python3 排序 sort sorted

排序穩定性和排序複雜度 排序保證是 穩定 的。 這意味着當多個記錄具有相同的鍵值時，將保留其原始順序。 >>> data = [('red', 1), ('blue', 1), ('red', 2), ('blue', 2)] >

冯斯特罗 2020-07-08 12:31:35

python3 super 用法2

class MetaCls(type): def __new__(cls, *args, **kwargs): print("in MetaCls") # return super(Meta

冯斯特罗 2020-07-08 12:31:35

meta class 和 類裝飾器的執行順序

meta class 和類裝飾器的執行順序 先執行decorator,後執行metaclass 程序是從上到下執行,先遇到decorator,後遇到class,創建class 調用metaclass. 同理,裝飾器也是先執行上面的

冯斯特罗 2020-07-08 12:31:35

弱引用 weakref

弱引用 weakref 對對象的弱引用不能保證對象存活：當對像的引用只剩弱引用時， garbage collection 可以銷燬引用並將其內存重用於其他內容。但是，在實際銷燬對象之前，即使沒有強引用，弱引用也一直能返回該對象。

冯斯特罗 2020-07-08 12:31:35