python urllib模块的urlopen()的使用方法及实例

Python urllib 库提供了一个从指定的 URL 地址获取网页数据，然后对其进行分析处理，获取想要的数据。

一、urllib模块urlopen()函数：

urlopen(url, data=None, proxies=None)

创建一个表示远程url的类文件对象，然后像本地文件一样操作这个类文件对象来获取远程数据。

参数url表示远程数据的路径，一般是网址；
参数data表示以post方式提交到url的数据(玩过web的人应该知道提交数据的两种方式：post与get)；
参数proxies用于设置代理。

urlopen返回 一个类文件对象(fd)，它提供了如下方法：
read() , readline() , readlines() , fileno() , close() ：这些方法的使用方式与文件对象完全一样;
info()：返回一个httplib.HTTPMessage 对象，表示远程服务器返回的头信息(header)
getcode()：返回Http状态码。如果是http请求，200表示请求成功完成;404表示网址未找到；
geturl()：返回请求的url；

二、实例

1、打开一个网页获取所有内容

from urllib2 import urlopen

doc = urlopen("http://www.baidu.com").read()

print doc

2、获取http头部（头中有编码格式信息）

from urllib2 import urlopen

doc = urlopen("http://www.baidu.com")

print doc.info()

print doc.info().getheader('Content-Type')

3、调用接口，并处理返回值json

import urllib2

 def start_pack(real_match):

         for x in real_match.keys():

                 start_url = 'http://www.google.com/start.do?ips=%s&versionId=%s&operator=dw_%s' % (",".join(real_match[x]), x,os.getlogin())

                 start_html = urllib2.urlopen(start_url)

                 start_json = json.loads(start_html.read())

                 task_url = 'http://www.google.com/TaskId.do?task_id=%s' % start_json['object']['taskId']

                 task_html = urllib2.urlopen(task_url)

                 task_json = json.loads(task_html.read())

                 if start_json['code'] == 0:

                         print "package %s start succees!" % task_json['object'][0]['package_name']

                 else:

                         print "package %s start error!" % task_json['object'][0]['package_name']

                 start_html.close()

                 task_html.close()