站长资讯网
最全最丰富的资讯网站

浅析怎么使用PHP做异步爬取数据

说到爬虫,很多人就会想到python爬虫,因为它确实有很大的优点。但其实PHP也是可以用来做异步爬取数据的,下面就来给大家介绍一下使用PHP做异步爬取数据的方法。

浅析怎么使用PHP做异步爬取数据

什么是网络爬虫?

网络爬虫是一个自动提取网页的程序,它为搜索引擎从万维网上下载网页,是搜索引擎的重要组成。传统爬虫从一个或若干初始网页的URL开始,获得初始网页上的URL,在抓取网页的过程中,不断从当前页面上抽取新的URL放入队列,直到满足系统的一定停止条件。

爬虫有什么用?

  • 做为通用搜索引擎网页收集器。(google,baidu)

  • 做垂直搜索引擎.

  • 科学研究:在线人类行为,在线社群演化,人类动力学研究,计量社会学,复杂网络,数据挖掘,等领域的实证研究都需要大量数据,网络爬虫是收集相关数据的利器。

  • 偷窥,hacking,发垃圾邮件……

QueryList 简介与特性

QueryList是一套简洁、优雅、可扩展的PHP采集工具(爬虫),基于phpQuery。

特性:

  • 拥有与jQuery完全相同的CSS3 DOM选择器

  • 拥有与jQuery完全相同的DOM操作API

  • 拥有通用的列表采集方案

  • 拥有强大的HTTP请求套件,轻松实现如:模拟登陆、伪造浏览器、HTTP代理等意复杂的网络请求

  • 拥有乱码解决方案

  • 拥有强大的内容过滤功能,可使用jQuey选择器来过滤内容

  • 拥有高度的模块化设计,扩展性强

  • 拥有富有表现力的API

  • 拥有高质量文档

  • 拥有丰富的插件

  • 拥有专业的问答社区和交流群

通过插件可以轻松实现诸如:

  • 多线程采集

  • 图片本地化

  • 模拟浏览器行为,如:提交Form表单

  • 网络爬虫

环境要求

PHP >= 7.0

如果你的PHP版本还停留在PHP5,或者不会使用Composer,你可以选择使用QueryList3,QueryList3支持php5.3以及手动安装。 QueryList3 文档:http://v3.querylist.cc

安装

通过Composer安装:

composer require jaeger/querylist
登录后复制

使用

元素操作

采集「昵图网」所有图片地址

QueryList::get('http://www.nipic.com')->find('img')->attrs('src');
登录后复制

采集百度搜索结果

$ql = QueryList::get('http://www.baidu.com/s?wd=QueryList');  $ql->find('title')->text(); // 获取网站标题 $ql->find('meta[name=keywords]')->content; // 获取网站头部关键词  $ql->find('h3>a')->texts(); //获取搜索结果标题列表 $ql->find('h3>a')->attrs('href'); //获取搜索结果链接列表  $ql->find('img')->src; //获取第一张图片的链接地址 $ql->find('img:eq(1)')->src; //获取第二张图片的链接地址 $ql->find('img')->eq(2)->src; //获取第三张图片的链接地址 // 遍历所有图片 $ql->find('img')->map(function($img){     echo $img->alt;  //打印图片的alt属性 });
登录后复制

赞(0)
分享到: 更多 (0)
网站地图   沪ICP备18035694号-2    沪公网安备31011702889846号