https://blog.csdn.net/junmuzi/article/details/79860000
Loss曲線震盪:
分析原因: 1:訓練的batch_size太小
-
當數據量足夠大的時候可以適當的減小batch_size,由於數據量太大，內存不夠。但盲目減少會導致無法收斂，batch_size=1時爲在線學習。 -
batch的選擇，首先決定的是下降方向，如果數據集比較小，則完全可以採用全數據集的形式。這樣做的好處有兩點，
1）全數據集的方向能夠更好的代表樣本總體，確定其極值所在。
2）由於不同權重的梯度值差別巨大，因此選取一個全局的學習率很困難。
-
增大batchsize的好處有三點：
1）內存的利用率提高了，大矩陣乘法的並行化效率提高。
2）跑完一次epoch(全數據集)所需迭代次數減少，對於相同的數據量的處理速度進一步加快。
3）一定範圍內，batchsize越大，其確定的下降方向就越準，引起訓練震盪越小。
-
盲目增大的壞處：
1）當數據集太大時，內存撐不住。
2）batchsize增大到一定的程度，其確定的下降方向已經基本不再變化。
總結：
1）batch數太小，而類別又比較多的時候，可能會導致loss函數震盪而不收斂，尤其是在你的網絡比較複雜的時候。
2）隨着batchsize增大，處理相同的數據量的速度越快。
3）隨着batchsize增大，達到相同精度所需要的epoch數量越來越多。
4）由於上述兩種因素的矛盾， Batch_Size 增大到某個時候，達到時間上的最優。
5）過大的batchsize的結果是網絡很容易收斂到一些不好的局部最優點。同樣太小的batch也存在一些問題，比如訓練速度很慢，訓練不容易收斂等。
6）具體的batch size的選取和訓練集的樣本數目相關
分析原因: 2:數據輸入不對
1:數據輸入不對包括數據的格式不是網絡模型指定的格式,導致訓練的時候網絡學習的數據不是想要的; 此時會出現loss曲線震盪;
解決辦法:檢查數據輸入格式,數據輸入的路徑;
分析原因: 3:訓練腳本里面的 路徑是否配置正確;
1:當腳本中的train.bin的路徑或者模型參數的路徑配置不對時,會導致訓練模型結果不對.
解決辦法:檢查腳本配置是否正確.
3.631244659423828
4.277276992797852
3.4001874923706055
3.2819108963012695
3.4272754192352295
2.9050307273864746
2.7736010551452637
2.847033739089966
2.4729552268981934
4.440995216369629
2.307797431945801
2.1008336544036865
2.466620922088623
2.2676243782043457
1.969132661819458
2.437302589416504
1.9292962551116943
2.15405535697937
1.8833298683166504
1.829939365386963
1.732532262802124
1.7975722551345825
1.7306126356124878
1.676507592201233
2.9463934898376465
1.3045339584350586
1.7723981142044067
1.4067282676696777
1.468611240386963
1.4186735153198242
0.9415404796600342
1.6150052547454834
1.6095631122589111
0.885555624961853
1.0574016571044922
1.1478734016418457
1.168555736541748
1.0630779266357422
1.0168201923370361
0.9928520917892456
1.19399094581604
0.961275577545166
0.7923461198806763
0.8234905004501343
0.6911094188690186
0.9140005111694336
0.7220140695571899
0.9943436980247498
0.9907949566841125
0.5654839873313904
0.8512718677520752
0.715724527835846
0.7509939670562744
0.9387508630752563
0.8550347089767456
0.7598782777786255
0.567537784576416
0.6126033067703247
0.5904215574264526
0.5920682549476624
0.6010233163833618
0.7254610061645508
0.5495939254760742
0.8441858291625977
0.589920163154602
0.5541341304779053
0.5843886733055115
0.8945625424385071
0.5798192620277405
0.5789198875427246
0.5559065341949463
0.5489385724067688
0.8170348405838013
0.5611698627471924
1.106087327003479
1.2542780637741089
0.6442005634307861
0.5374987721443176
0.6561795473098755
0.5969760417938232
0.6251747012138367
0.6731261014938354
0.4968392848968506
0.7668353915214539
0.5148111581802368
0.6758829355239868
0.4555553197860718
0.5510904788970947
0.518105685710907
0.6419368982315063
0.4927586317062378
0.4246860444545746
0.530096709728241
0.5234384536743164
0.637583315372467
0.41357070207595825
0.6415409445762634
0.4731366038322449
0.5326849222183228
0.5326491594314575
0.5951888561248779
0.5960622429847717
0.4792657792568207
0.6368740200996399
0.5376575589179993
0.4414084553718567
0.5167219638824463
0.43960267305374146
0.4408227205276489
0.39799073338508606
0.5388212203979492
0.4741312861442566
0.490905225276947
0.42930424213409424
0.4629552960395813
0.5302138924598694
0.5110839605331421
0.8326214551925659
0.43301448225975037
0.45150578022003174
0.4256107211112976
0.4495571255683899
0.3660065531730652
0.519312858581543
1.044168472290039
0.4861783981323242
0.48279333114624023
0.48650798201560974
0.7395334839820862
0.42119359970092773
0.421239972114563
0.44806426763534546
0.4084162712097168
0.510202169418335
0.5529817938804626
0.5671071410179138
0.39649498462677
0.7957494258880615
0.42164552211761475
0.4942944049835205
0.8569434881210327
0.8673572540283203
0.6162733435630798
0.4738346338272095
0.6230723857879639
0.392991304397583
0.5759700536727905
0.5696056485176086
0.43577590584754944
0.44623863697052
0.42870983481407166
0.5613734126091003
0.47602587938308716
0.4084908962249756
0.47623521089553833
0.4806351065635681
0.40266329050064087
0.49099674820899963
0.4355621337890625
0.3653572201728821
0.5127249956130981
0.3886403441429138
0.3852052688598633
0.39903828501701355
0.49566423892974854
0.4528924226760864
0.45237240195274353
0.469277024269104
0.4298412501811981
0.5207303166389465
0.3942962884902954
0.40493083000183105
0.3866637349128723
0.4007524251937866
0.3831777274608612
0.3971260190010071
0.272163063287735
0.32381582260131836
0.3752833604812622
0.3873761296272278
0.5383076071739197
0.33400440216064453
0.5231472253799438
0.4100990891456604
0.4251997470855713
0.5804166793823242
0.3905278742313385
0.4382404088973999
0.4064061641693115
0.44432777166366577
0.2765995264053345
0.43715524673461914
0.367666631937027
0.3575402796268463
0.38627758622169495
0.5474750399589539
0.4491044878959656
0.3925286531448364
0.4428943991661072
0.3414442837238312
0.3329288363456726
0.5092917084693909
0.44349831342697144
0.3556002378463745
0.33727023005485535
0.4216344952583313
0.3656751215457916
0.32108885049819946
0.3364829421043396
0.48901471495628357
0.30485326051712036
0.3115493953227997
0.39983421564102173
0.40351706743240356
0.5245190262794495
0.4017906188964844
0.46727824211120605
0.3577037453651428
0.3462332487106323
0.3814544081687927
0.4453304409980774
0.2763215899467468
0.31476572155952454
0.33403927087783813
0.3516809940338135
0.4140496850013733
0.3875176012516022
0.43732431530952454
0.3745408058166504
0.3294501006603241
0.33407214283943176
0.33013564348220825
0.44567301869392395
0.34717458486557007
0.3655347228050232
0.47459399700164795
0.3443141579627991
0.4150276184082031
0.4168779253959656
0.38757920265197754
0.31681597232818604
0.3374229073524475
0.26964253187179565
0.3800281286239624
0.4467450678348541
0.40193963050842285
0.2707461416721344
0.4022911787033081
0.28819191455841064
0.33131447434425354
0.525543749332428
0.353370726108551
0.25654271245002747
0.39808428287506104
0.35464411973953247
0.5065393447875977
0.2987635135650635
0.519165575504303
0.37853679060935974
0.39116981625556946
0.32726532220840454
0.3629111051559448
0.40087488293647766
0.3588184118270874
0.32782959938049316
0.46575820446014404
0.3466639220714569
0.3263406455516815
0.3013768494129181
0.29967373609542847
0.366590678691864
0.33417564630508423
0.3671889901161194
0.49466392397880554
0.3468253016471863
0.42985039949417114
0.3515942096710205
0.42000678181648254
0.44662487506866455
0.331708163022995
0.30544227361679077
0.35096654295921326
0.30791065096855164
0.25437110662460327
0.36739563941955566
0.3995353579521179
0.39515936374664307
0.30404067039489746
0.4906998872756958
0.3372914493083954
0.33286747336387634
0.35136598348617554
0.3557662069797516
0.37387898564338684
0.32162776589393616
0.36083513498306274
0.3116356134414673
0.27384209632873535
0.3060764968395233
0.30745255947113037
0.3380718231201172
0.3208606243133545
0.3611716032028198
0.37142160534858704
0.3560197055339813
0.3150256872177124
0.29220953583717346
0.3188002407550812
0.3133403956890106
0.33501654863357544
0.3962489366531372
0.3317451775074005
0.32488811016082764
0.43976545333862305
0.2870941758155823
0.5779418349266052
0.3135201930999756
0.29090702533721924
0.3780456781387329
0.36865150928497314
0.4718562960624695
0.35566940903663635
0.3227557837963104
0.44364118576049805
0.34516724944114685
0.35257863998413086
0.3783315420150757
0.44507870078086853
0.5327038764953613
0.3653353452682495
0.2764130234718323
0.3416410982608795
0.30687862634658813
0.5544548034667969
0.26665908098220825
0.3629205822944641
0.36883148550987244
0.3248864412307739
0.357496440410614
0.35256117582321167
0.37328770756721497
0.38608208298683167
0.3392177224159241
0.37323909997940063
0.42808395624160767
0.37370193004608154
0.2624128758907318
0.27266621589660645
0.2848811447620392
0.3059377670288086
0.30003607273101807
0.31227797269821167
0.29993948340415955
0.43770483136177063
0.3288011848926544
0.3904886841773987
0.4207862913608551
0.39205771684646606
0.25003090500831604
0.2566622495651245
0.2918277382850647
0.2948857545852661
0.2356146275997162
0.23059816658496857
0.289247989654541
0.38493943214416504
0.39785754680633545
0.2661091089248657
0.40397143363952637
0.37228262424468994
0.3855740427970886
0.4148397147655487
0.3565932512283325
0.31563472747802734
0.3804740011692047
0.3616656959056854
0.32334795594215393
0.3514068126678467
0.8428018093109131
0.350315123796463
0.31916725635528564
0.3647869825363159
0
0
0
0
0
0
0
0
0
0.3275986909866333
0.27335208654403687
0.27250203490257263
0.3440331220626831
0.3189094662666321
0.8863450288772583
0.41925913095474243
0.32249948382377625
0.544408917427063
0.2949984073638916
0.29392871260643005
0.3213801383972168
0.28348493576049805
0.32223376631736755
0.3754439651966095
0.3074414134025574
0.3750883936882019
0.2630549967288971
0.3026663661003113
0.3301438093185425
0.4279292821884155
0.35329824686050415
0.29136812686920166
0.3178834915161133
0.3273761570453644
0.34328606724739075
0.3127095699310303
0.34726589918136597
0.24076354503631592
0.3448655903339386
0.26444485783576965
0.28028813004493713
0.5433286428451538
0.31929588317871094
0.33541932702064514
0.2897336781024933
0.2852504253387451
0.40402621030807495
0.24135559797286987
0.30628272891044617
0.31641268730163574
0.2356542944908142
0.24361711740493774
0.3904041051864624
0.3284875154495239
0.2234601080417633
0.3541017770767212
0.29917195439338684
0.31997036933898926
0.2731221318244934
0.35131025314331055
0.25890812277793884
0.2046050727367401
0.2652924656867981
0.26984965801239014
0.31597188115119934
0.2725186049938202
0.25080540776252747
0.3624499440193176
0.3439518213272095
0.3366168737411499
0.2606908082962036
0.40978145599365234
0.24171116948127747
0.24249163269996643
0.3158213496208191
0.27493613958358765
0.25728145241737366
0.26099395751953125
0.2374838888645172
0.32398444414138794
0.4923587143421173
0.28387388586997986
0.3253827691078186
0.27025842666625977
0.29177433252334595
0.4021012485027313
0.42490440607070923
0.276147723197937
0.2487342804670334
0.2915349304676056
0.2688252627849579
0.3014569878578186
0.38640862703323364
0.29989832639694214
0.26693302392959595
0.3230275511741638
0.38706788420677185
0.2098037302494049
0.3115406930446625
0.30108028650283813
0.27036747336387634
0.409422904253006
0.2539377510547638
0.2891118824481964
0.4007963240146637
0.6118305921554565
0.33345645666122437
0.2420176863670349
0.4107058644294739
0.23587551712989807
0.25389477610588074
0.2932562232017517
0.28540709614753723
0.25328055024147034
0.1511702984571457
0.2110729068517685
0.2389432191848755
0.37174999713897705
0.21052716672420502
0.2869877219200134
0.2647014856338501
0.2420794665813446
0.27407631278038025
0.23902598023414612
0.27227863669395447
0.250460684299469
0.2695981562137604
0.5696824789047241
0.31281012296676636
0.22672095894813538
0.3105478882789612
0.2330927699804306
0.2447517216205597
0.19130894541740417
0.23639509081840515
0.27107539772987366
0.22830504179000854
0.34352394938468933
0.2487824559211731
0.2987324893474579
0.21228331327438354
0.1942882537841797
0.2107526957988739
0.3108288049697876
0.18956172466278076
0.31775403022766113
0.2500176727771759
0.3196449875831604
0.248599112033844
0.21214041113853455
0.19905437529087067
0.28878453373908997
0.2011795938014984
0.2383929044008255
0.30825692415237427
0.2053469717502594
0.25049421191215515
0.2197379469871521
0.25000712275505066
0.15190839767456055
0.20513859391212463
0.24104706943035126
0.29521217942237854
0.18053880333900452
0.22900600731372833
0.24043580889701843
0.21653415262699127
0.23068496584892273
0.30489861965179443
0.19360046088695526
0.19490310549736023
0.18229754269123077
0.1742507815361023
0.21436166763305664
0.25480490922927856
0.1800387054681778
0.262489914894104
0.22908559441566467
0.3208036720752716
0.2012021690607071
0.21491070091724396
0.21296162903308868
0.20862674713134766
0.1959822177886963
0.22548606991767883
0.27803143858909607
0.15770362317562103
0.2984330356121063
0.2814730703830719
0.2508516311645508
0.21711869537830353
0.15864329040050507
0.18825414776802063
0.23268631100654602
0.1735927015542984
0.23662656545639038
0.24640819430351257
0.23801369965076447
0.253336638212204
0.25687915086746216
0.3074268102645874
0.18850642442703247
0.2211231142282486
0.20159859955310822
0.23882368206977844
0.18669338524341583
0.2031240165233612
0.22031927108764648
0.2308349460363388
0.20311662554740906
0.13140423595905304
0.29576048254966736
0.14473357796669006
0.18151620030403137
0.20912352204322815
0.21742185950279236
0.179896742105484
0.27119097113609314
0.19200193881988525
0.19344574213027954
0.2178458869457245
0.185756653547287
0.25580084323883057
0.1457345187664032
0.21588893234729767
0.2857955992221832
0.2566016912460327
0.22772717475891113
0.3188568353652954
0.24081116914749146
0.2538525462150574
0.2077014446258545
0.24856257438659668
0.3534700870513916
0.17775210738182068
0.16043007373809814
0.2460242509841919
0.28056731820106506
0.23904761672019958
0.2484477460384369
0.26954635977745056
0.19970592856407166
0.21852287650108337
0.18085919320583344
0.20032867789268494
0.26654958724975586
0.3134830892086029
0.17407286167144775
0.24660034477710724
0.14300432801246643
0.16099941730499268
0.28595849871635437
0.2947388291358948
0.2503722310066223
0.20782941579818726
0.3021184802055359
0.20501872897148132
0.20926889777183533
0.23466713726520538
0.20753131806850433
0.2201598733663559
0.3846798539161682
0.21412810683250427
0.21006202697753906
0.2880427837371826
0.20540136098861694
0.2723652422428131
0.24850249290466309
0.21764123439788818
0.2639247477054596
0.17948494851589203
0.23207682371139526
0.2082086056470871
0.31549298763275146
0.1733434647321701
0.18621496856212616
0.16883111000061035
0.3670118451118469
0.19585038721561432
0.22274306416511536
0.26171302795410156
0.1701194941997528
0.14667575061321259
0.15963715314865112
0.14996075630187988
0.14691194891929626
0.16733261942863464
0.18941104412078857
0.20144794881343842
0.23402348160743713
0.1721661537885666
0.21810829639434814
0.2721531093120575
0.2530941367149353
0.12636427581310272
0.22197026014328003
0.2443312555551529
0.2305443286895752
0.34196069836616516
0.1347241997718811
0.26647263765335083
0.24132904410362244
0.23369047045707703
0.17175385355949402
0.17848706245422363
0.19065918028354645
0.2457459270954132
0.1465376913547516
0.20877057313919067
0.24831877648830414
0.16612181067466736
0.21619939804077148
0.15840868651866913
0.17791970074176788
0.22212238609790802
0.14545683562755585
0.20348185300827026
0.1444052904844284
0.22159148752689362
0.22584079205989838
0.249233216047287
0.17145872116088867
0.17838329076766968
0.18131765723228455
0.1913565844297409
0.23742324113845825
0.184933602809906
0.16913995146751404
0.21335570514202118
0.22088773548603058
0.1914328932762146
0.17097273468971252
0.17673522233963013
0.19139286875724792
0.13711929321289062
0.1798136979341507
0.19556975364685059
0.21913886070251465
0.19925585389137268
0.15688933432102203
0.14891543984413147
0.17596909403800964
0.20519226789474487
0.13208507001399994
0.14771538972854614
0.21316485106945038
0.16058814525604248
0.14987236261367798
0.20678752660751343
0.1557185798883438
0.1995425671339035
0.16066616773605347
0.3005002737045288
0.19602558016777039
0.22431424260139465
0.18665286898612976
0.2737465798854828
0.21071772277355194
0.15084517002105713
0.2277480959892273
0.19786444306373596
0.18626385927200317
0.31349602341651917
0.15776927769184113
0.21152657270431519
0.1475381851196289
0.25832289457321167
0.17866672575473785
0.25228771567344666
0.1464996486902237
0.17320913076400757
0.152947336435318
0.21788965165615082
0.1352570354938507
0.31220322847366333
0.11512356996536255
0.15582573413848877
0.1687261462211609
0.1912025809288025
0.32126492261886597
0.20850765705108643
0.1281297653913498
0.12043198943138123
0.16584274172782898
0.11017389595508575
0.10985025763511658
0.30369696021080017
0.15899258852005005
0.1880364716053009
0.14834366738796234
0.2176980972290039
0.12065009027719498
0.19051435589790344
0.12254102528095245
0.1845407783985138
0.24938645958900452
0.31676873564720154
0.23509517312049866
0.728661298751831
0.1587482988834381
0.27161258459091187
0.20170821249485016
0.12431012094020844
0.15515652298927307
0.12206439673900604
0.22050024569034576
0.14123985171318054
0.2887517511844635
0.236287921667099
0.17209075391292572
0.23958393931388855
0.1508292853832245
0.10646740347146988
0.06847938895225525
0.27996528148651123
0.15916657447814941
0.22046853601932526
0.175980806350708
0.17886938154697418
0.18426235020160675
0.1483306586742401
0.15917788445949554
0.12751755118370056
0.2097470760345459
0.14465315639972687
0.14883899688720703
0.15560701489448547
0.12296992540359497
0.10308459401130676
0.14829829335212708
0.19295324385166168
0.2319525182247162
0.196629136800766
0.20915263891220093
0.11556664854288101
0.13573570549488068
0.18138033151626587
0.2115175724029541
0.23411017656326294
0.1670091301202774
0.22366099059581757
0.20091266930103302
0.1814931184053421
0.15886521339416504
0.13770648837089539
0.21264228224754333
0.15366193652153015
0.21630704402923584
0.14803072810173035
0.2096031904220581
0.22812846302986145
0.09756370633840561
0.15767765045166016
0.13927200436592102
0.2057926058769226
0.22735194861888885
0.1750849038362503
0.18146739900112152
0.07523153722286224
0.12939468026161194
0.17108072340488434
0.1423034965991974
0.16294844448566437
0.09318066388368607
0.16018325090408325
0.20557326078414917
0.12938177585601807
0.10825290530920029
0.09782692790031433
0.2197922170162201
0.1066613644361496
0.1619829684495926
0.15133006870746613
0.10539864003658295
0.19627241790294647
0.14873772859573364
0.14916110038757324
0.12166554480791092
0.44032084941864014
0.18523427844047546
0.18829110264778137
0.1034637913107872
0.08175232261419296
0.14151054620742798
0.1586769074201584
0.172386035323143
0.1754962056875229
0.14413785934448242
0.12612749636173248
0.16681139171123505
0.12674766778945923
0.125240758061409
0.13039806485176086
0.14064382016658783
0.12004780769348145
0.13240233063697815
0.13293638825416565
0.18089410662651062
0.1501837819814682
0.18342509865760803
0.17066527903079987
0.13637582957744598
0.16811710596084595
0.14581157267093658
0.1256047785282135
0.15126466751098633
0.14761415123939514
0.20748521387577057
0.21119800209999084
0.13612812757492065
0.13433697819709778
0.12264393270015717
0.09731687605381012
0.15591704845428467
0.10378395020961761
0.1246953010559082
0.11858873069286346
0.17397767305374146
0.1180434301495552
0.10795922577381134
0.2287379652261734
0.14227871596813202
0.12276241183280945
0.2121969759464264
0.14954029023647308
0.14895132184028625
0.11982929706573486
0.2018560767173767
0.14029064774513245
0.08819766342639923
0.11568377166986465
0.289040744304657
0.17016339302062988
0.12876927852630615
0.10668846219778061
0.12623555958271027
0.11942563951015472
0.15374299883842468
0.103894904255867
0.11821752041578293
0.2565363645553589
0.143790602684021
0.17662811279296875
0.15127292275428772
0.19004158675670624
0.08259963989257812
0.12926682829856873
0.14598219096660614
0.20468895137310028
0.21614021062850952
0.17572198808193207
0.10600132495164871
0.1454198807477951
0.13163620233535767
0.1698390692472458
0.06525754928588867
0.11180279403924942
0.10321604460477829
0.0949222594499588
0.15737567842006683
0.17682147026062012
0.21927900612354279
0.17587138712406158
0.12125292420387268
0.1334492266178131
0.1884487420320511
0.1316266804933548
0.15645752847194672
0.1449328362941742
0.15599149465560913
0.11434757709503174
0.13294926285743713
0.14203181862831116
0.11222358047962189
0.18796098232269287
0.14709898829460144
0.1131640151143074
0.21602803468704224
0.14701969921588898
0.11115274578332901
0.08889825642108917
0.09581706672906876
0.11077044904232025
0.11356936395168304
0.08907675743103027
0.07871149480342865
0.1510348916053772
0.14207148551940918
0.19085489213466644
0.19043932855129242
0.09869827330112457
0.18964272737503052
0.16890543699264526
0.13493172824382782
0.15467338263988495
0.16483178734779358
0.0847272053360939
0.10300932079553604
0.13841485977172852
0.18890489637851715
0.15914222598075867
0.14991231262683868
0.09770353138446808
0.2558082938194275
0.15627658367156982
0.12844085693359375
0.09326408803462982
0.09277073293924332
0.13401712477207184
0.1150587648153305
0.08166390657424927
0.10601168870925903
0.179132342338562
0.16429995000362396
0.13586823642253876
0.10214385390281677
0.09860945492982864
0.14566557109355927
0.1613071709871292
0.06958737969398499
0.21151947975158691
0.09078730642795563
0.13871516287326813
0.13058193027973175
0.08504233509302139
0.14740446209907532
0.1319270133972168
0.09053705632686615
0.2269730567932129
0.12831224501132965
0.1135053038597107
0.18808794021606445
0.13307078182697296
0.05675496533513069
0.10446221381425858
0.199478417634964
0.18945014476776123
0.11306100338697433
0.1766950935125351
0.08527126908302307
0.14850306510925293
0.1035715863108635
0.1891385167837143
0.20389685034751892
0.21256396174430847
0.09785261750221252
0.10606589913368225
0.12697765231132507
0.09665336459875107
0.07194408774375916
0.1531079262495041
0.07859243452548981
0.15223385393619537
0.1085231676697731
0.21802081167697906
0.09476803988218307
0.20246243476867676
0.17378297448158264
0.16547107696533203
0.10730767250061035
0.24290026724338531
0.08287625759840012
0.0935128778219223
0.13066047430038452
0.10141491144895554
0.08813425898551941
0.16270926594734192
0.1097419336438179
0.08215614408254623
0.06011316925287247
0.10360196232795715
0.10437194257974625
0.1690519154071808
0.1362144649028778
0.05670894682407379
0.14625327289104462
0.10264725983142853
0.15381377935409546
0.17153720557689667
0.16665995121002197
0.06446635723114014
0.10093864798545837
0.2273123562335968
0.1414411962032318
0.08774019777774811
0.09106601774692535
0.16398052871227264
0.08436640352010727
0.11265655606985092
0.15506407618522644
0.11120191961526871
0.20138031244277954
0.09372632205486298
0.10373292863368988
0.12709619104862213
0.13036997616291046
0.1662125587463379
0.09442631900310516
0.22531825304031372
0.08053149282932281
0.1880892515182495
0.16223663091659546
0.14504702389240265
0.08069965243339539
0.19128037989139557
0.09000333398580551
0.09821651875972748
0.12757769227027893
0.10805663466453552
0.18928277492523193
0.10424649715423584
0.10206370055675507
0.13277924060821533
0.10345767438411713
0.1049094945192337
0.1367717683315277
0.07788778841495514
0.17626747488975525
0.08596339821815491
0.09557648748159409
0.10034771263599396
0.18622326850891113
0.10446048527956009
0.13375885784626007
0.10782532393932343
0.13333813846111298
0.22549006342887878
0.07690520584583282
0.1429927796125412
0.11272245645523071
0.08608944714069366
0.07409070432186127
0.06300321966409683
0.1578034907579422
0.07789911329746246
0.11428849399089813
0.10157448798418045
0.12230502814054489
0.2034454047679901
0.1950666308403015
0.10411479324102402
0.11363529413938522
0.1855141818523407
0.11551778018474579
0.125848188996315
0.147832989692688
0.10025420784950256
0.06506979465484619
0.16279415786266327
0.12105058133602142
0.11296440660953522
0.10170957446098328
0.0846884548664093
0.07234424352645874
0.07886422425508499
0.0975765585899353
0.13828420639038086
0.19435831904411316
0.13918907940387726
0.08044213056564331
0.10206042230129242
0.13118016719818115
0.07411575317382812
0.16006386280059814
0.07657024264335632
0.10920050740242004
0.11433800309896469
0.110295370221138
0.09153899550437927
0.13589775562286377
0.0697547048330307
0.05845789611339569
0.21514904499053955