numpy 是python科学计算的一个核心模块。它提供了非常高效的数组对象,以及用于处理这些数组对象的工具。一个numpy数组由许多值组成,所有值的类型是相同的。

python的核心库提供了 list 列表。列表是最常见的python数据类型之一,它可以调整大小并且包含不同类型的元素,非常方便。

那么list和numpy array到底有什么区别?为什么我们需要在大数据处理的时候使用numpy array?答案是性能。

numpy数据结构在以下方面表现更好:

1.内存大小—numpy数据结构占用的内存更小。

2.性能—numpy底层是用c语言实现的,比列表更快。

3.运算方法—内置优化了代数运算等方法。

下面分别讲解在大数据处理时,numpy数组相对于list的优势。

1.内存占用更小

适当地使用numpy数组替代list,你能让你的内存占用降低20倍。

对于python原生的list列表,由于每次新增对象,都需要8个字节来引用新对象,新的对象本身占28个字节(以整数为例)。所以列表 list 的大小可以用以下公式计算:

64 + 8 * len(lst) + len(lst) * 28 字节

而使用numpy,就能减少非常多的空间占用。比如长度为n的numpy整形array,它需要:

96 + len(a) * 8 字节

可见,数组越大,你节省的内存空间越多。假设你的数组有10亿个元素,那么这个内存占用大小的差距会是gb级别的。

2.速度更快、内置计算方法

运行下面这个脚本,同样是生成某个维度的两个数组并相加,你就能看到原生list和numpy array的性能差距。

结果如下:

0.00048732757568359375 0.0002491474151611328
numpy is in this example 1.955980861244019 faster!

可以看到,numpy比原生数组快1.95倍。

如果你细心的话,还能发现,numpy array可以直接执行加法操作。而原生的数组是做不到这点的,这就是numpy 运算方法的优势。

我们再做几次重复试验,以证明这个性能优势是持久性的。

结果如下:

0.0029753120616078377
0.00014940369874238968
[0.002683573868125677, 0.002754641231149435, 0.002803879790008068]
[6.536301225423813e-05, 2.9387418180704117e-05, 2.9171351343393326e-05]

可以看到,第二个输出的时间总是小得多,这就证明了这个性能优势是具有持久性的。

所以,如果你在做一些大数据研究,比如金融数据、股票数据的研究,使用numpy能够节省你不少内存空间,并拥有更强大的性能。 ​

到此这篇关于python大数据为啥一定要用numpy array的文章就介绍到这了,更多相关python大数据numpy array内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持www.887551.com!