数据库
首页 > 数据库> > php-使用Phantomjs进行屏幕抓取,结果存储在MYSQL中

php-使用Phantomjs进行屏幕抓取,结果存储在MYSQL中

作者:互联网

我想刮这个网站:http://www.machinerytrader.com/list/list.aspx?ETID=1&catid=1002

我最初尝试使用PHP来执行此操作,但是发现主体html是加密的.因此,似乎最好使用无头Webkit(例如phantomjs)访问该html.

我的问题是一个普遍的问题:在PhantomJS中抓取这些数据然后在MySQL中存储该数据的最佳方法是什么?

我没有在网上看到任何有关此过渡的示例,因此没有任何工作可做.

更新:

经过一番阅读之后,我认为使用CasperJS及其下载功能在本地存储原始html,然后稍后再使用PHP解析它可能是有意义的……但是这种方法非常round回…

解决方法:

获得信息后,您可以简单地调用由您控制的站点,并使用发布请求将数据存储在数据库中

casper.then(function(){
    casper.open("www.mipage.com/saveIntheDBonPost.php", {
        method: 'post',
        data:{              
            'title': ''+globalInfo.title,
            'body': ''+globalInfo.body
        }
    });
})

标签:phantomjs,casperjs,mysql,php
来源: https://codeday.me/bug/20191031/1978337.html