我使用 Scrapy Framework 制作了一个网络爬虫，从 this website 获取音乐会门票数据.我已经能够成功地从页面上每张票的内部元素中抓取数据，除了只能通过单击“门票”按钮转到门票页面并从门票中抓取票价才能访问的价格在页面上。

经过广泛的谷歌搜索，我发现 Scrapy.js(基于 Splash)可以在 Scrapy 中使用来与页面上的 JavaScript 进行交互(例如需要点击的按钮)。我看过一些关于如何使用 Splash 与 JavaScript 交互的基本示例，但没有一个示例介绍了 Splash 与 Scrapy 的集成(甚至在文档中也没有)。

我一直遵循这样的格式，即使用项目加载器将抓取的元素存储在解析方法中，然后发出一个应该转到另一个链接的请求，并通过调用第二个解析方法从该页面解析 html

(e.g. yield scrapy.Request(next_link, callback=self.parse_price)

但是现在我将使用 Scrapy js，因此代码会有所改变。为了合并 Scrapyjs，我正在考虑使用类似于以下的函数:

function main(splash)
  splash:go("http://example.com")
  splash:wait(0.5)
  local title = splash:evaljs("document.title")
return {title=title}

来自 this site但是由于 javascript 不能直接在 python 程序中编写，我什至如何/在哪里将这种功能合并到程序中以便能够通过单击按钮导航到下一页并解析 html？我显然是网络抓取方面的新手，所以任何帮助都将不胜感激。蜘蛛的代码如下:

concert_ticket_spider.py

from scrapy.contrib.spiders import CrawlSpider , Rule
from scrapy.selector import HtmlXPathSelector
from scrapy.selector import Selector
from scrapy.contrib.loader import XPathItemLoader
from scrapy.contrib.loader.processor import Join, MapCompose
from concert_comparator.items import ComparatorItem

bandname = raw_input("Enter a bandname \n")
vs_url = "http://www.vividseats.com/concerts/" + bandname + "-tickets.html"

class MySpider(CrawlSpider):
    handle_httpstatus_list = [416]
    name = 'comparator'
    allowed_domains = ["www.vividseats.com"]
    start_urls = [vs_url]
    #rules = (Rule(LinkExtractor(allow=('/' + bandname + '-.*', )), callback='parse_price'))
    # item = ComparatorItem()
    tickets_list_xpath = './/*[@itemtype="http://schema.org/Event"]'
    item_fields = {
        'eventName' : './/*[@class="productionsEvent"]/text()',
        'eventLocation' : './/*[@class = "productionsVenue"]/span[@itemprop  = "name"]/text()',
        'ticketsLink' : './/a/@href',
        'eventDate' : './/*[@class = "productionsDate"]/text()',
        'eventCity' : './/*[@class = "productionsVenue"]/span[@itemprop  = "address"]/span[@itemprop  = "addressLocality"]/text()',
        'eventState' : './/*[@class = "productionsVenue"]/span[@itemprop  = "address"]/span[@itemprop  = "addressRegion"]/text()',
        'eventTime' : './/*[@class = "productionsTime"]/text()'
    }


    item_fields2 = {
            'ticketPrice' : '//*[@class="eventTickets lastChild"]/div/div/@data-origin-price]',


   }
    def parse_price(self, response):
            l.add_xpath('ticketPrice','.//*[@class =  "price"]/text()' )
            yield l.load_item()


        def parse(self, response):
            """

            """

        selector = HtmlXPathSelector(response)
        # iterate over tickets
        for ticket in selector.select(self.tickets_list_xpath):

            loader = XPathItemLoader(ComparatorItem(), selector=ticket)
            # define loader
            loader.default_input_processor = MapCompose(unicode.strip)
            loader.default_output_processor = Join()
            # iterate over fields and add xpaths to the loader
            for field, xpath in self.item_fields.iteritems():
                loader.add_xpath(field, xpath)
                yield Request(vs_url, self.parse_result, meta= {
                    'splash': {
                        'args':{
                            #set rendering arguments here
                            'html' :1

                            # 'url' is prefilled from request url
                        },
                        #optional parameters
                        function main(splash)
                            splash:autoload("https://ajax.googleapis.com/ajax/libs/jquery/2.1.3/jquery.min.js")
                            splash:go(vs_url)
                            splash:runjs("$('#some-button').click()")
                            return splash:html()
                        end                    
                        }
                    })
                for field, xpath in self.item_fields2.iteritems():
                    loader.add_xpath(field, xpath)

            yield loader.load_item()

最佳答案

这里的关键点是 scrapyjs 提供了一个 scrapyjs.SplashMiddleware 中间件 你需要configure .然后，每个请求都会有 splash meta key将由中间件处理。

仅供引用，我个人之前曾成功地将 Scrapy 与 scrapyjs 结合使用。

关于javascript - 如何将scrapyjs功能集成到Scrapy项目中，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/31127334/