python_IT技术网

Python pycurl模块使用总结

pycurl 顾名思义 就是 python 和 curl 的结合体拉 称之为结合体 其实也不是 这只是一个粘合型的python模块 用来调用curl的功能的 pycurl官方网站 然后这个要怎样安装呢? 一般人就想下个exe安装包 然后双击安装 其实好像也可以的。。不过不建议 因为过程我不...

日期:2017-01-22 14:37:17

点击:112

Python使用pycurl获取http的响应时间

最近需要对节点到源站自己做个监控,简单的ping可以检测到一些东西,但是http请求的检查也要进行,于是就研究了下pycurl pycurl是个用c语言实现的python 库,虽然据说不是那么pythonic,但是却很高效,它支持的协议居多: supporting FTP, FTPS, HTTP, HTTPS...

日期:2017-01-22 14:36:47

点击:198

Python程序中如何使用HTTP POST方式上

如果只是要模拟提交一个不包含文件字段的表单,实现起来是很简单的,但涉及到文件上传就有一点小复杂,需要自己对文件进行编码,或者使用第三方模块。 如果机器上有PycURL,那么可以使用 PycURL 来上传文件。 不过,由于 PycURL 需要用到 curl,在 Windows...

日期:2017-01-22 14:36:18

点击:69

Pycurl使用介绍

pycurl A Python interface to the cURL library Pycurl包是一个libcurl的Python接口.pycurl已经成功的在Python2.2到Python2.5版编译测试过了. Libcurl是一个支持FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE 和 LDAP的客户端URL传输库.libcurl也支...

日期:2017-01-22 14:34:58

点击:131

使用python抓取与解析网页

事情的起因是,我做survey的时候搜到了这两本书:Computational Social Network Analysis和Computational Social Network,感觉都蛮不错的,想下载下来看看,但是点开网页发现这个只能分章节下载,晕,我可没时间一章一章下载,想起了迅雷的下载全部链接,试...

日期:2017-01-22 14:33:35

点击:161

使用python通过指定的关键字抓取blogs

以前写的一个网页抓取脚本与大家分享,代码需要用到pycurlhttp://pycurl.sourceforge.net/请自行安装好。 代码功能: 1.设定需要查询的关键字和存储关键字的文件 2.开启50个线程自动抓取google的数据 import sys,Queue,threading,pycurl,re from os import g...

日期:2017-01-22 14:32:46

点击:161

python程序如何使用pycurl实现断点续

把服务器上的文件分n等份,再在准备下载地址按等分一一填充到文件中。 当 下载 等份数据 时如果未能正常结束,从头下载次等份数据。正常结束后线程下载下一等分。 好比: 服务器文件(x): 1111111 待填充文件(y): 0000000 运行1:(2分钟) 文件(x):0101001...

日期:2017-01-22 02:38:28

点击:108

基于OPIC优先策略的Python多线程爬虫

OCIP的字面含义是在线页面重要性计算,可以将其看做是一种改进的PageRank算法。在算法开始之前,每个互联网页面都给予相同的现金(cash),每当下载了某个页面P后,P将自己拥有的现金平均分配给页面中包含的链接页面,把自己的现金清空。而对于待抓取URL队列...

日期:2017-01-22 02:37:12

点击:64

如何使用多线程python扫描二级子域名

日站没什么好办法了往往也会想到其二级域名,于是写了一个比较简陋的扫描二级域名的程序 速度一般般,不过如果线程开多了还是可以的 源程序(subdomain.py): #!/usr/bin/envpython #coding=utf-8 importthreading,Queue,optparse,os importpycurl,StringIO...

日期:2017-01-22 02:36:18

点击:121

PycURL:libcurl 在 Python 中的实现

PycURL 是 libcurl 库的一个 Python 接口,在 Python 程序中,可使用它来获取 URL 对象,类似于 Python 中的 urllib 模块。PycURL 支持大量特性并且成熟、全面,非常快速。 概述 libcurl 是免费而且易于使用的客户端的 URL 传输库,支持 FTP, FTPS, HTTP, HT...

日期:2017-01-22 02:35:55

点击:311

python list列表操作方法总结

list操作:快速创建list、新增item、删除item、重新赋值item、颠倒item顺序、检索item 快捷创建list,两种方式:split方法、list函数和range函数配合使用。 split方法。写一个字符串,字符之间以空格分隔,然后对该字符串使用split方法。 a_list = a b c d e...

日期:2017-01-22 02:35:06

点击:168

python安装包制作方法

python的第三方模块越来越丰富,涉及的领域也非常广,如科学计算、图片处理、web应用、GUI开发等。当然也可以将自己写的模块进行打包或发布。一简单的方法是将你的类包直接copy到python的lib目录,但此方式不便于管理与维护,存在多个python版本时会非常混乱...

日期:2017-01-22 02:34:39

点击:85

Linux系统如何编译安装python

下载了linux版的python 2.7.3的安装包,解压缩,./configuremake和make install,然后python顺利升级至2.7.3,本以为没什么问题。但是在编译源文件目录下Demo/embed目录下的一个C调用python的例子时,报错,提示没有readline库。这才发现问题。 于是make cle...

日期:2017-01-22 02:34:10

点击:176

python新式类的继承原理解析

最近在读《python学习手册》,发现python新式类的继承方式很有意思,而且据说在python3.0里面所有的类都将变成新式类,在此让同是跟我一样在Python2.x入门的人尝个鲜。 在python的普通中类中,继承的模式是深度优先的,也就是说对于一个对象的搜索遵循从左至...

日期:2017-01-22 02:33:42

点击:180

Python类的基础入门教程

defspam(self):self.balance=balancedInstance=ADeriv()printThisisastaticMethod一个类办法便可以经由过程类或它的实例来挪用的办法,不管你是用类来挪用这个办法照样类实例挪用这个办法,该办... def spam(self): self.balance=balance dInstance = ADeriv(...

日期:2017-01-22 02:33:14

点击:80

Python类与继承讲解

相对于C++的继承编写,Python更简洁,而且效率也是很高的,下面编写一个简单Python的继承例子。 classMember: def__init__(self,name,age): self.name=name self.age=age printMemberinit:%s%self.name deftell(self): printName:%s,Age:%d%(self.name,self....

日期:2017-01-22 02:32:48

点击:175

Windows系统下如何为python安装Numpy

http://sourceforge.net/projects/numpy/files/NumPy http://sourceforge.net/projects/scipy/files/Scipy 下载和你Python版本相应对的exe文件安装即可。 Windows下也可以像Linux下一样自己动手编译,不过还没有尝试过。 帮助文档: Linux下编译:http://www...

日期:2017-01-22 02:32:24

点击:195

Windows系统安装python的方法

在 Windows 上,安装 Python 有两种选择。 ActiveState 制作的 ActivePython 是专门针对 Windows 的 Python 套件,它包含了一个完整的 Python 发布、一个适用于 Python 编程的 IDE 以及一些 Python 的 Windows 扩展,提供了全部的访问 Windows APIs 的服务,...

日期:2017-01-22 02:31:58

点击:151

Ubuntu系统中怎么样安装Python

在Ubuntu下安装Python模块通常可以使用apt-get和pip命令。apt-get命令是Ubuntu自带的包管理命令,而pip则是Python安装扩展模块的工具,通常pip会下载扩展模块的源代码并编译安装。 Ubuntu 12.04中缺省安装了Python2.7.3,首先通过下面的命令安装pip,pip是Py...

日期:2017-01-22 02:31:32

点击:200

Python的多继承使用讲解

[写在前]: Python是一门新兴的强大的,简单的面象对象的编程语言,本文主要讨论python在多继承与其它语言(如:java)有哪些区别。 [代码分析]: Java不支持多继承,其多继承通过接口方式实现。下面来看下python中的多继承。 #!/usr/bin/python classFar1: d...

日期:2017-01-22 02:31:04

点击:211

Python的继承与面向对象解析

Python编程 语言是一款功能强大的开发语言,它的最大特点在于其简单易用。而且还具有面向对象特征,可以很好的帮助我们实现一些特定的功能需求。我们今天将会在这里为大家详细介绍一下有关Python继承的相关概念。 下面的代码使用Python2.4,安装后使用idle的...

日期:2017-01-22 02:30:37

点击:196

关于python中多继承的介绍

python和C++一样,支持多继承。概念虽然容易,但是困难的工作是如果子类调用一个自身没有定义的属性,它是按照何种顺序去到父类寻找呢,尤其是众多父类中有多个都包含该同名属性。 classP1 deffoo(self): printp1-foo classP2 deffoo(self): printp2-foo def...

日期:2017-01-22 02:30:13

点击:61

python语言中的继承

面向对象的编程带来的主要好处之一是代码的重用,实现这种重用的方法之一是通过继承机制。继承完全可以理解成类之间的类型和子类型关系。 假设你想要写一个程序来记录学校之中的教师和学生情况。他们有一些共同属性,比如姓名、年龄和地址。他们也有专有的属...

日期:2017-01-22 02:29:46

点击:200

python的list列表中的remove方法使用

这几天在用python写个小程序,发现一个很有意思的问题。 到时我的的情况是这样的,数组中存有函数返回的文件名,我要按照文件名读取其中的内容并在读取后删除(有文件名相同,后缀不同的文件,防止重复读取)。其中有六个文件,分两对(文件名相同),只要读...

日期:2017-01-22 02:29:22

点击:149

python如何清空list列表

so easy: del list[:] 用python也有一段时间了,有了不少体会。平时老写要求效率很高的程序,发现python真的很不错。但是对于超大list的数据,内存经常需要立即释放。我总结了一些有关性能的技巧,看看大家能不能用上。 1。大数据量的list,要进行局部元素删...

日期:2017-01-22 02:28:54

点击:76

python使用smtplib和email模块发送邮

#!/usr/bin/python # encoding=utf-8 # Filename: send_email.py from email.mime.image import MIMEImage from email.mime.multipart import MIMEMultipart from email.mime.text import MIMEText import smtplib class SendEmail: # 构造函数:初始化基本...

日期:2017-01-22 02:28:28

点击:87

python super使用简介

一、问题的发现与提出 在Python类的方法(method)中,要调用父类的某个方法,在Python 2.2以前,通常的写法如代码段1: 代码段1: classA: def__init__(self): printenterA printleaveA classB(A): def__init__(self): printenterB A.__init__(self) printl...

日期:2017-01-22 02:25:25

点击:176

Python函数的嵌套定义

Python语言允许在定义函数的时候,其函数体内又包含另外一个函数的完整定义,这就是我们通常所说的嵌套定义。 实例1: defOutFun():#定义函数OutFun(), m=3#定义变量m=3; defInFun():#在OutFun内定义函数InFun() n=4#定义局部变量n=4 printm+n#m相当于函数I...

日期:2017-01-22 02:24:43

点击:208

python 函数使用详解

函数是重用的程序段。它们允许你给一块语句一个名称,然后你可以在你的程序的任何地方使用这个名称任意多次地运行这个语句块。这被称为调用函数。我们已经使用了许多内建的函数,比如len和range。 函数通过def关键字定义。def关键字后跟一个函数的标识符名称...

日期:2017-01-22 02:24:15

点击:166

Python中property的动态绑定

在Python中可以把property动态的绑定的object的继承类中,并且可以定义带有参数的get和set方法。 比如,我们定义了全局变量g,然后通过两个方法来存取g的内容 def get_g(self): return g def set_g(self, _g): global g g = _g 定义一个object的继承类A: cl...

日期:2017-01-22 02:23:46

点击:68

Python爬虫编写技巧

以前写过一篇使用python爬虫抓站的一些技巧总结,总结了诸多爬虫使用的方法;那篇东东现在看来还是挺有用的,但是当时很菜(现在也菜,但是比那时进步了不少),很多东西都不是很优,属于只是能用这么个层次。这篇进阶篇打算把能用提升到用得省事省心这个层...

日期:2017-01-22 02:23:21

点击:70

python通过paramiko执行ssh命令时设置

经常使用paramiko工具对几百台设备进行管理。主要是每天到上边取文件过来,作为备份。 今天发现程序运行了10个小时还没有结束,就上去看一个究竟。 查看日志,发现在取一台服务器上的文件时卡在那里了。自己手动ssh登录上去,执行了一个ls命令就卡住了, 原...

日期:2017-01-22 02:22:48

点击:107

编写Python程序常见的错误

关于Python Python是一门解释性的,面向对象的,并具有动态语义的高级编程语言。它高级的内置数据结构,结合其动态类型和动态绑定的特性,使得它在 快速应用程序开发 (Rapid Application Development)中颇为受欢迎,同时Python还能作为脚本语言或者胶水语...

日期:2017-01-22 02:22:03

点击:143

python urllib2 代理与NTLM验证

查了许久用urllib2通过代理访问网络的贴子,也写了测试代码,但是一直failed.Error Code: 407 Proxy Authentication Required. The ISA Server requires authorization to fulfill the request. Access to the Web Proxyfilter is denied. (12209) 最后打算放...

日期:2017-01-22 02:20:35

点击:193

卸载python后导致yum无法使用的解决办

由于服务器需要升级python,参照了一篇坑爹的文章卸载了旧版python # 卸载旧的python sudo rpm -evf --nodeps python 导致yum无法使用 # yum -v There was a problem importing one of the Python modules required to run yum. The error leading to this p...

日期:2017-01-22 02:20:01

点击:172

MAC OS X下安装python的pycurl模块

sudoenvARCHFLAGS=-archx86_64 easy_installpycurl 但是因为墙的原因,可能安装不成功。 国内pycurl的下载可能被墙,找个能翻墙的浏览器去下载下来,我下载的是: pycurl-7.19.0.tar.gz 解压(mac os x中双击就可以解压) 命令行到解压的目录执行: sudoenvA...

日期:2017-01-22 02:18:50

点击:139

11个不为人知的Python类库

目前,网上已有成千上万个Python包,但几乎没有人能够全部知道它们。单单 PyPi上就有超过47000个包列表。 现在,越来越多的数据科学家开始使用Python,虽然他们从 pandas, scikit-learn, numpy中获得了不少好处,但我仍想向他们介绍一些年长且非常实用的Py...

日期:2017-01-22 02:18:11

点击:107

Python爬虫多线程如何使用多线程?Pyt

python是支持多线程的,主要是通过thread和threading这两个模块来实现的。thread模块是比较底层的模块,threading模块是对thread做了一些包装的,可以更加方便的使用。 虽然python的多线程受GIL限制,并不是真正的多线程,但是对于I/O密集型计算还是能明显提...

日期:2017-01-22 02:17:24

点击:171

Python爬虫使用动态轮训切换ip防止被

上次有说过,我在新公司有部分工作是负责爬虫业务的,爬虫机器有上百台,节点也要计划迁入了Docker平台上。 这两天遇到一个棘手的问题,就是因为我们为了追求数据量,在某些机房,用docker启动了不少爬虫节点,导致一些傻逼网站,开始封禁我们. (干死他们,...

日期:2017-01-22 02:16:01

点击:168

python执行外部程序的常用方法小结

这篇文章主要介绍了python执行外部程序的常用方法,实例总结了Python使用os模块及commands模块执行外部程序的技巧,非常具有实用价值,需要的朋友可以参考下 本文实例总结了python执行外部程序的常用方法。分享给大家供大家参考。具体分析如下: 在python中我们...

日期:2017-01-22 02:13:29

点击:69