php蜘蛛 爬取采集文章,php 抓取蜘蛛爬虫痕迹的代码分享

本文介绍下php采集类，php实现抓取蜘蛛爬虫痕迹的一段代码，有需要的朋友参考下。

用php代码分析web日志中蜘蛛爬虫痕迹，代码如下：

'googlebot',

'Baidu' => 'baiduspider',

'Yahoo' => 'yahoo slurp',

'Soso' => 'sosospider',

'Msn' => 'msnbot',

'Altavista' => 'scooter ',

'Sogou' => 'sogou spider',

'Yodao' => 'yodaobot'

);

$userAgent = strtolower($_SERVER['HTTP_USER_AGENT']);

foreach ($bots as $k => $v){

if (strstr($v,$userAgent)){

return $k;

break;

}

}

return false;

} //by bbs.it-home.org

//获取哪种蜘蛛爬虫后保存蜘蛛痕迹。

（编辑：威海站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!