目录
python数据分析主要处理的是结构化数据(structured data)例如:
- 表格型数据,其中各列可能是不同的类型(字符串、数值、日期等)。比如保存在关系型数据库中或以制表符/逗号为分隔符的文本文件中的那些数据。
- 多维数组(矩阵)。
- 通过关键列(对于sql用户而言,就是主键和外键)相互联系的多个表。
- 间隔平均或不平均的时间序列。
python语言基础
Ipython的一些特性
自省: 在变量、对象或者函数之后使用问号 ? ,可以很方便的显示对象信息,使用??可以显示函数的源码例如:?还有一个用途,就是像Unix或windows命令行一样搜索IPython的命名空间。字符与通配符结合可以匹配所有的名字
%run 命令: 你可以使用%run 命令 运行所有的Python程序,例如有一个文件
text.py
可以通过%run text.py
来运行这个文件 可以在该命令行后面添加命令行参数(可在ays.argv
访问)另外可以使用%load
将脚本导入到代码格中%paste
%cpaste
可以执行剪切板中的代码%cpaste
会给出提示-
键盘快捷键:
魔术命令:
Python语法基础
Python使用空白字符(tab和空格)来组织代码,而不是像其它语言,比如R、c++、JAVA和Perl那样使用括号。看一个排序算法的for
循环
for x in array:
if x < pivot:
less.append(x)
else:
greater.append(x)
冒号标志着缩进代码块的开始,冒号之后的所有代码的缩进量必须相同,直到代码块结束。分号;却可以用来给同在一行的语句切分:a = 5; b = 6; c = 7
万物皆对象: Python语言的一个重要特性就是它的对象模型的一致性。每个数字、字符串、数据结构、函数、类、模块等等,都是在Python解释器的自有“盒子”内,它被认为是Python对象。每个对象都有类型(例如,字符串或函数)和内部数据。并且每个对象都有自己的方法可以通过
.
来访问。注释: 可以通过#来为代码添加注释
-
函数和对象方法的调用: 用圆括号调用函数,传递零个或几个参数,或者将返回值给一个变量通过"."来访问方法:
result = f(x, y, z) result = f(a, b, c, d=5, e='foo') g() obj.some_method(x, y, z)
-
引用与复制: 当在Python中创建变量(或名字),你就在等号右边创建了一个对这个变量的引用。考虑一个整数列表a并将a赋值给一个新变量b:
a = [1, 2, 3] b = a id(a)==id(b)
结果为true 证明其实a和b其实是一个对象 这说明Python其实是允许多个变量名绑定到一个对象的
当你将对象作为参数传递给一个函数时,在函数内使用新的局域变量创建了对原始对象的引用,而不是复制(传值还是传引用这取决于传入的参数是可变对象还是不可变对象)。如果在函数里绑定一个新对象到一个变量,这个变量的变动会反映到上一层。因此可以改变可变参数的内容。假设有以下函数:
def append_element(some_list, element): some_list.append(element) data = [1,2,3] append_element(data,4) data out: [1, 2, 3 ,4]
-
鸭子类型: 经常地,你可能不关心对象的类型,只关心对象是否有某些方法或用途。这通常被称为“鸭子类型”,来自“走起来像鸭子、叫起来像鸭子,那么它就是鸭子”的说法。例如,你可以通过验证一个对象是否遵循迭代协议,判断它是可迭代的。对于许多对象,这意味着它有一个
__iter__
魔术方法,其它更好的判断方法是使用iter
函数:def isiterable(obj): try: iter(obj) return True except TypeError: # not iterable return False
-
字符的输入: Python使用input来获取输入用户的输入信息被看做一个字符串例如:
a = input("please enter a number")
输入3 那么a的类型是str
-
引入: 在Python中,模块就是一个有
.py
扩展名、包含Python代码的文件。假设有以下模块:# some_module.py PI = 3.14159 def f(x): return x + 2 def g(a, b): return a + b
如果想从同目录下的另一个文件访问
some_module.py
中定义的变量和函数,可以:import some_module result = some_module.f(5) pi = some_module.PI
或者:
from some_module import f, g, PI result = g(5, PI)
使用
as
关键词,你可以给引入起不同的变量名:import some_module as sm from some_module import PI as pi, g as gf r1 = sm.f(pi) r2 = gf(6, pi)
-
二元运算符:
.
tips:list会创建一个新的Python列表是复制
-
三元表达式: Python中的三元表达式可以将if-else语句放到一行里。语法如下:
value = true-expr if condition else false-expr
标量类型:
tips:可以在字符串前面加一个r,表明字符就是它自身
字符串对象有
fORMat
方法可以替换格式化的参数为字符串,产生一个新的字符串:
template = '{0:.2f} {1:s} are worth US${2:d}'
- {0:.2f}`表示格式化第一个参数为带有两位小数的浮点数。
{1:s}
表示格式化第二个参数为字符串。{2:d}
表示格式化第三个参数为一个整数。
template.format(4.5560, 'Argentine Pesos', 1) >>>'4.56 Argentine Pesos are worth US$1'
使用str.encode('utf-8')可以将字符串编码为utf-8
-
日期和时间类型:
Python内建的
datetime
模块提供了datetime
、date
和time
类型。datetime
类型结合了date
和time
,是最常使用的:
In [1]: from datetime import datetime, date, time
In [2]: dt = datetime(2011, 10, 29, 20, 30, 21)
In [3]: dt.day
Out[4]: 29
In [5]: dt.minute
Out[6]: 30
strftime
方法可以将datetime格式化为字符串:
In [108]: dt.strftime('%m/%d/%Y %H:%M')
Out[108]: '10/29/2011 20:30'
当你聚类或对时间序列进行分组,替换datetimes的time字段有时会很有用。例如,用0替换分和秒:
In [110]: dt.replace(minute=0, second=0)
Out[110]: datetime.datetime(2011, 10, 29, 20, 0)
因为datetime.datetime
是不可变类型,上面的方法会产生新的对象。
两个datetime对象的差会产生一个datetime.timedelta
类型:
Python控制流
if
后面可以跟一个或多个elif
,所有条件都是False时,还可以添加一个else
可以用continue使for循环提前继续执行,可以用break
跳出for循环break只中断for循环的最内层。
pass是Python中的非操作语句。代码块不需要任何动作时可以使用(作为未执行代码的占位符);因为Python需要使用空白字符划定代码块,所以需要pass
range函数返回一个迭代器,它产生一个均匀分布的整数序列:
In [123]: list(range(10))
Out[123]: [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
assert
lambda表达式
Python支持一种被称为匿名的、或lambda函数。它仅由单条语句组成,该语句的结果就是返回值。它是通过lambda关键字定义的,这个关键字没有别的含义,仅仅是说“我们正在声明的是一个匿名函数”。
def short_function(x):
return x * 2
equiv_anon = lambda x: x * 2
Python的数据结构
元组
元组是一个固定长度,不可改变的Python序列对象。创建元组的最简单方式,是用逗号分隔一列值或者将值放在圆括号内,元组中存储的对象可能是可变对象。一旦创建了元组,元组中的对象就不能修改了:
In [1]: tup = 4, 5, 6
In [2]: tup
Out[2]: (4, 5, 6)
In [3]: nested_tup = (4, 5, 6), (7, 8)
In [4]: nested_tup
Out[4]: ((4, 5, 6), (7, 8))
用tuple
可以将任意序列或迭代器转换成元组
可以用方括号访问元组中的元素下表从0开始
In [8]: tup[0]
Out[8]: 's'
如果元组中的某个对象是可变的,比如列表,可以在原位进行修改:
In [11]: tup[1].append(3)
In [12]: tup
Out[12]: ('foo', [1, 2, 3], True)
列表
列表是可变对象、内容可以被修改。可以用方括号定义,或用list
函数,可以用append
在列表末尾添加元素insert
可以在特定的位置插入元素,insert的逆运算是pop,remove
去除某个值,in
可以检查列表是否包含某个值,用extend
方法可以追加多个元素:
用切边可以选取大多数序列类型的一部分,切片的基本形式是在方括号中使用start:stop
注意左闭右开
字典
字典可能是Python最为重要的数据结构。它更为常见的名字是哈希映射或关联数组。它是键值对的大小可变集合,键和值都是Python对象。创建字典的方法之一是使用尖括号,用冒号分隔键和值{key:value}注意其中的key必须是可哈希性的
集合
集合可以使用set来定义集合的操作如下表
0