Numpy在数据分析领域中的核心应用

Numpy是Python语言中的最基础的和最强大的科学计算和数据处理的工具包,如数据分析工具的pandas也是基于Numpy构建的,机器学习包的sklearn中也大量使用了Numpy的方法。本文介绍了Numpy的n维数组在数据处理和分析中的所有核心应用。

目录结构:

1、如何构建Numpy数组
2、如何观察数组的属性的大小和形状(shape)
3、如何从数组中提取出特定的项
4、如何从现有的数组定义新的数组
5、多维数组的重构(reshaping)和扁平化(flaflattening)
6、如何通过numpy生成序列数(sequences),重复数(repetitions)和随机数(random)
7、总结

1、构建numpy数组的方法很多,比较常用的方法是用np.array函数对列表进行转化。

# 通过列表创建一维数组
import numpy as np
list1 = [0,1,2,3,4]
arr1d = np.array(list1)

#打印数组和类型
print(type(arr1d))
arr1d

输出:

<class 'numpy.ndarray'>
array([0, 1, 2, 3, 4])

数组和列表的最关键的区别是:数组是基于向量化操作的,列表不是,我们在实际的项目中处理的数据一般是矩阵数据结构,对于该数据以行向量或者列向量的形式进行计算,向量计算是基于数组实现的,因此数组比列表的应用更广。

函数可以应用到数组的每一项,列表不行。

比如,不可以对列表的每一项数据都加2,这些都是错误的。

list1 + 2  # 错误

但是可以对数组的某一项数据都加2(基于上面的代码)

# Add 2 to each element of arr1d
arr1d + 2

#> array([2, 3, 4, 5, 6])

另一个区别是已经定义的Numpy数组不可以增加数组的大小,只能通过定义一个数组来实现,但是列表可以增加大小

然而,Numpy有更多的优势,让我们来看看。

Numpy可以通过列表中的列表来创建二维数组。

import numpy as np
# Create a 2d array from a list of lists
list2 = [[0,1,2], [3,4,5], [6,7,8]]
arr2d = np.array(list2)
arr2d

#> array([[0, 1, 2],
#>        [3, 4, 5],
#>        [6, 7, 8]])

你也可以通过dtype参数来指定数组的类型,一些最常用的Numpy类型是:‘float’,‘int’,‘bool’,‘str’和’object’。

# Create a float 2d array
arr2d_f = np.array(list2, dtype='float')
arr2d_f

#> array([[ 0.,  1.,  2.],
#>        [ 3.,  4.,  5.],
#>        [ 6.,  7.,  8.]])

输出的结果的小数点表示的是float类型,你也可以通过astype方法转换成不同的类型。

# 转换成‘int’类型
arr2d_f.astype('int')

#> array([[0, 1, 2],
#>        [3, 4, 5],
#>        [6, 7, 8]])
# 先转换‘int’类型,再转换‘str’类型
arr2d_f.astype('int').astype('str')

#> array([['0', '1', '2'],
#>        ['3', '4', '5'],
#>        ['6', '7', '8']],
#>       dtype='U21')

另外一个区别就是数组要求所有的项是同一个类型,list没有这个限制。如果你想要一个数组包含不同的类型,设置’dtype’为’object’。

# 构建布尔类型数组
arr2d_b = np.array([1, 0, 10], dtype='bool')
arr2d_b

#> array([ True, False,  True], dtype=bool)

混合数据类型使用dtype='object'

# 构建包含数值和字符串的数组
arr1d_obj = np.array([1, 'a'], dtype='object')
arr1d_obj

#> array([1, 'a'], dtype=object)

最终使用tolist()函数使数组转化为列表。

# Convert an array back to a list
arr1d_obj.tolist()

#> [1, 'a']

总结数组和列表的主要区别:
1、数组支持向量化操作,列表不支持;
2、数组不能改变长度,列表可以;
3、数组的每一项都是同一类型,list可以有多重的类型;
4、同样的长度的数组所占用的空间小于列表。

2、如何观察数组的属性的大小和形状(shape)

一维数组由列表构建,二维数组arr2d由列表的列表构建,二维数组有行和列,比如矩阵,三维数组有嵌入了连个列表的列表构建。

假设跟定一个数组,我们怎么去了解该数组的属性。
数组的属性包括:
数组的维度(ndim)
数组的形状(shape)
数组的类型(dtype)
数组的大小(size)
数组元素的表示(通过索引)

import numpy as np
# 定义3行4列的二维数组
list2 = [[1, 2, 3, 4],[3, 4, 5, 6], [5, 6, 7, 8]]
arr2 = np.array(list2, dtype='float')
arr2

#> array([[ 1.,  2.,  3.,  4.],
#>        [ 3.,  4.,  5.,  6.],
#>        [ 5.,  6.,  7.,  8.]])

使用数组的属性:

# 形状(shape)
print('Shape: ', arr2.shape)

# 数组类型(dtype)
print('Datatype: ', arr2.dtype)

# 数组大小(size)
print('Size: ', arr2.size)

# 数组维度(ndim)
print('Num Dimensions: ', arr2.ndim)

# 取数组第3行3列元素
print('items of 3 line 3 column: ', arr2[2,2])

#> Shape:  (3, 4)
#> Datatype:  float64
#> Size:  12
#> Num Dimensions:  2
#> items of 3 line 3 column:  7

3、如何从数组提取特定的项

数组的索引是从0开始计数的,与list类似。Numpy数组通过方括号的参数以选择特定的元素。

import numpy as np
# 定义3行4列的二维数组
list2 = [[1, 2, 3, 4],[3, 4, 5, 6], [5, 6, 7, 8]]
arr2 = np.array(list2, dtype='float')
arr2

# 选择矩阵的前两行两列
arr2[:2, :2]
#list2[:2, :2]  # 错误TypeError: list indices must be integers or slices, not tuple

#> array([[ 1.,  2.],
#>        [ 3.,  4.]])

numpy 数组支持布尔类型的索引,布尔型索引数组与过滤前(array-to-be-filtered)的数组大小相等,布尔型数组只包含True和False变量,True变量随影的数组索引位置保留了过滤前的值。

arr2

#> array([[ 1.,  2.,  3.,  4.],
#>          [ 3.,  4.,  5.,  6.],
#>          [ 5.,  6.,  7.,  8.]])
# 对数组每一个元素是否满足某一条件,然后获得布尔类型的输出
b = arr2 > 4
b

#> array([[False, False, False, False],
#>        [False, False,  True,  True],
#>        [ True,  True,  True,  True]], dtype=bool)
# 取布尔型数组保留的原始数组的值
arr2[b]

#> array([ 5.,  6.,  5.,  6.,  7.,  8.])

3.1 如何反转数组

# 反转数组的行
arr2[::-1, ]

#> array([[ 5.,  6.,  7.,  8.],
#>        [ 3.,  4.,  5.,  6.],
#>        [ 1.,  2.,  3.,  4.]])
# Reverse the row and column positions
# 反转数组的行和列
arr2[::-1, ::-1]

#> array([[ 8.,  7.,  6.,  5.],
#>        [ 6.,  5.,  4.,  3.],
#>        [ 4.,  3.,  2.,  1.]])

3.2 如何处理数组的缺失值(missing)和无穷大(infinite)值

缺失值可以使用np.nan对象表示,np.inf表示无穷大值,一下用二维数组举例:

# 插入nan变量和inf变量
arr2[1,1] = np.nan  # not a number
arr2[1,2] = np.inf  # infinite
arr2

#> array([[  1.,   2.,   3.,   4.],
#>        [  3.,  nan,  inf,   6.],
#>        [  5.,   6.,   7.,   8.]])
# 用-1代替nan值和inf值
missing_bool = np.isnan(arr2) | np.isinf(arr2)
arr2[missing_bool] = -1  
arr2

#> array([[ 1.,  2.,  3.,  4.],
#>        [ 3., -1., -1.,  6.],
#>        [ 5.,  6.,  7.,  8.]])

3.3 如何计算n维数组的平均值,最小值和最大值

# 平均值,最大值,最小值
print("Mean value is: ", arr2.mean())
print("Max value is: ", arr2.max())
print("Min value is: ", arr2.min())

#> Mean value is:  3.58333333333
#> Max value is:  8.0
#> Min value is:  -1.0

如果要求数组的行或者列的最小值没使用np.amin函数:

# Row wise and column wise min
# 求数组行和列的最小值
# axis=0表示列,1表示行
print("Column wise minimum: ", np.amin(arr2, axis=0))
print("Row wise minimum: ", np.amin(arr2, axis=1))

#> Column wise minimum:  [ 1. -1. -1.  4.]
#> Row wise minimum:  [ 1. -1.  5.]

对数组的每个元素进行累加,得到一维数组,一维数组的大小与二维数组相同(就是自身迭代进行累加)

# 累加
np.cumsum(arr2)

#> array([  1.,   3.,   6.,  10.,  13.,  12.,  11.,  17.,  22.,  28.,  35., 43.])

4、如何从现有的数组定义新的数组

如果使用赋值运算符从父数组定义新数组,新数组与父数组共占同一个内存空间,如果改变新数组的值,那么父数组页相应的改变。

为了让新数组与父数组相互独立,你需要使用copy()函数,所有的父数组都使用copy()方法构建新数组。

# Assign portion of arr2 to arr2a. Doesn't really create a new array.
# 分配arr2数组给新数组arr2a,下面方法并没有定新数组
arr2a = arr2[:2,:2]  
arr2a[:1, :1] = 100  # arr2相应位置也改变了
arr2

#> array([[ 100.,    2.,    3.,    4.],
#>        [   3.,   -1.,   -1.,    6.],
#>        [   5.,    6.,    7.,    8.]])
# 赋值arr2数组的一部分给新数组arr2b
arr2b = arr2[:2, :2].copy()
arr2b[:1, :1] = 101  # arr2没有改变
arr2

#> array([[ 100.,    2.,    3.,    4.],
#>        [   3.,   -1.,   -1.,    6.],
#>        [   5.,    6.,    7.,    8.]])

5、多维数组的重构(reshaping)和扁平化(flattening)

重构(reshaping)是改变了数组项的排序,即改变了数组的形状,未改变数组的维数。

扁平(flattening)是对多维数组转化为一维数组。

# 3x4数组重构为4x3数组
arr2.reshape(4, 3)

#> array([[ 100.,    2.,    3.],
#>        [   4.,    3.,   -1.],
#>        [  -1.,    6.,    5.],
#>        [   6.,    7.,    8.]])

5.1 flatten()和ravel()的区别

数据的扁平化有两种常用的方法,flatten()和ravel()。ravel()处理后的数组是父数组的引用,因此新数组的任何变换也会改变父数组,因其未用复制的方式构建数组,内存的使用率高,flatten()通过复制的方式构建新的数组。

# flatten方法
arr2.flatten()

#> array([ 100.,    2.,    3.,    4.,    3.,   -1.,   -1.,    6.,    5., 6.,    7.,    8.])
# flatten方法
b1 = arr2.flatten()  
b1[0] = 101  # 改变b1的值并未影响arr2
arr2

#> array([[ 100.,    2.,    3.,    4.],
#>        [   3.,   -1.,   -1.,    6.],
#>        [   5.,    6.,    7.,    8.]])
# ravel方法
b2 = arr2.ravel()  
b2[0] = 101  # 改变b2值,相应的改变了arr2值
arr2

#> array([[ 101.,    2.,    3.,    4.],
#>        [   3.,   -1.,   -1.,    6.],
#>        [   5.,    6.,    7.,    8.]])

6、如何通过numpy生成列数(sequence),重复数(repetitions)和随机数(random)

np.arrange函数手动生成指定数目的序列数,与ndarray作用一样。

import numpy as np
# 默认下限为0
print(np.arange(5))  

# 0 to 9,默认步数为1
print(np.arange(0, 10))  

# 递增步数2
print(np.arange(0, 10, 2))  

# 降序
print(np.arange(10, 0, -1))

#> [0 1 2 3 4]
#> [0 1 2 3 4 5 6 7 8 9]
#> [0 2 4 6 8]
#> [10  9  8  7  6  5  4  3  2  1]

上面通过np.arrange设置初始位置和结束位置来生成序列数,如果我们设置数组的元素个数,那么就可以自动计算数组的低增值。

如构建1到50的数组,数组有10个元素,使用np.linspace总动计算数组的递增值。

# 起始位置和结束位置分别为1和50
np.linspace(start=1, stop=50, num=10, dtype=int)

#> array([ 1,  6, 11, 17, 22, 28, 33, 39, 44, 50])

我们注意到上面的例子的递增值并不相等,有5和6两个值,原因是计算递增值采用了四舍五入的算法(rounding)。与np.linspace类似,np.logspace以对数尺寸的当时进行增长。

# 设置数组的精度为小数点后两位
np.set_printoptions(precision=2)  

# 起点为 10^1 and 终点为 10^50,数组元素个数10,以10为底数
np.logspace(start=1, stop=50, num=10, base=10) 

#> array([  1.00e+01,   2.78e+06,   7.74e+11,   2.15e+17,   5.99e+22,
#>          1.67e+28,   4.64e+33,   1.29e+39,   3.59e+44,   1.00e+50])

初始化数组的元素全为1或者全为0.

np.zeros([2,2])
#> array([[ 0.,  0.],
#>        [ 0.,  0.]])

np.ones([2,2])
#> array([[ 0.,  0.],
#>        [ 0.,  0.]])

6.1 如何构建重复的序列数

np.title重复整个的数组或者列表n次,np.repeat重复数组每一项n次。

a = [1,2,3] 

# 重复数组a两次
print('Tile:   ', np.tile(a, 2))

# 重复数组a每项两次
print('Repeat: ', np.repeat(a, 2))

#> Tile:    [1 2 3 1 2 3]
#> Repeat:  [1 1 2 2 3 3]

6.2 如何生成随机数

random模块包含的函数可以生成任一数组形状的随机数和统计分布。

# 生成2行2列的[0,1)的随机数
print(np.random.rand(2,2))

# 生成均值为0方差为1的2行2列的正态分布值
print(np.random.randn(2,2))

# 生成[0,10)的2行2列的随机整数
print(np.random.randint(0, 10, size=[2,2]))

# 生成一个[0,1)的随机数
print(np.random.random())

# 生成[0,1)的2行2列的随机数
print(np.random.random(size=[2,2]))

# 从给定的列表等概率抽样10次
print(np.random.choice(['a', 'e', 'i', 'o', 'u'], size=10))  

# 从给定的列表和对应的概率分布抽样10次
print(np.random.choice(['a', 'e', 'i', 'o', 'u'], size=10, p=[0.3, .1, 0.1, 0.4, 0.1]))  # picks more o's

#> [[ 0.84  0.7 ]
#>  [ 0.52  0.8 ]]

#> [[-0.06 -1.55]
#>  [ 0.47 -0.04]]

#> [[4 0]
#>  [8 7]]

#> 0.08737272424956832

#> [[ 0.45  0.78]
#>  [ 0.03  0.74]]

#> ['i' 'a' 'e' 'e' 'a' 'u' 'o' 'e' 'i' 'u']
#> ['o' 'a' 'e' 'a' 'a' 'o' 'o' 'o' 'a' 'o']

6.3. 如何得到数组独特(unique)的项和个数(counts)

np.unique函数去除数组中重复的元素,设置return_counts参数为True,得到数组每一项的个数。

# 定义范围为[0,10),个数为10的随机整数数组
np.random.seed(100) # 随机种子:限定随机数一致
arr_rand = np.random.randint(0, 10, size=10)
print(arr_rand)

#> [8 8 3 7 7 0 4 2 5 2]
# 得到数组独特的项和相应的个数(计数)
uniqs, counts = np.unique(arr_rand, return_counts=True)
print("Unique items : ", uniqs)
print("Counts       : ", counts)

#> Unique items :  [0 2 3 4 5 7 8]
#> Counts       :  [1 2 1 1 1 2 2]

7、总结

讲解numpy一些核心的用法:
1、如何构建Numpy数组
2、如何观察数组的属性的大小和形状(shape)
3、如何从数组中提取出特定的项
4、如何从现有的数组定义新的数组
5、多维数组的重构(reshaping)和扁平化(flaflattening)
6、如何通过numpy生成序列数(sequences),重复数(repetitions)和随机数(random)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章