puppeteer-deep

962 阅读3分钟

首先介绍Puppeteer

  • Puppeteer是一个node库,他提供了一组用来操纵Chrome的API,理论上使用它可以做任何Chrome可以做的事
  • 有点类似于PhantomJS,但Puppeteer由Chrome官方团队进行维护,前景更好
  • Puppeteer的应用场景会非常多,就爬虫领域来说,远比一般的爬虫工具功能更丰富,性能分析、自动化测试也不在话下
  • Puppeteer官方文档请猛戳这里

提下Puppeteer的应用场景, 本项目会针对此做几个可用的DEMO,并附上详解

  1. 高级爬虫(有别于传统爬虫.使用Puppeteer可以拿到渲染后的效果。而传统爬虫相当于只能拿到http response,对字符串进行解析)
  2. UI自动化测试(使用Puppeteer可以模拟用户操作,模拟表单填写)
  3. 页面性能分析 (使用chrome的timeline,等等)

项目Repo && Usage

  1. git clone github.com/zhentaoo/pu…
  2. npm install (puppeteer在win下100+M、mac下70+M,请耐心等候)
  3. npm run sf-juejin (推荐segmentfault的热门文章到掘金)
  4. npm run es6 (爬取了阮一峰老师的《ES6标准入门》并打印PDF)
  5. npm run zhentaoo (打印 www.zhentaoo.com 首页的图片)

废话不多说,先上动图/视频看效果

GIF图片比较大,如果不能加载成功,也可以到微博看下录制的视频 weibo.com/tv/v/FiHMz7…

一、 UI自动化测试--自动推荐segmentfault的热门文章到掘金

1. 爬取 segmentfault 前30篇热门文章

  • 跳转到segmentfault.com/news/fronte…
  • 接着分析SF首页的Dom结构,爬取每篇文章的链接
  • 然后取出每篇文章最重要的 href,title 等信息
  • 具体代码如下:
    await page.goto('https://segmentfault.com/news/frontend')

    var SfFeArticleList = await page.evaluate(() => {
        var list = [...document.querySelectorAll('.news__list .news__item-title a')]
        return list.map(el => {
            return {href: el.href.trim(), title: el.innerText}
        })
    })

    await page.screenshot({path: './sf-juejin/sf.png', type: 'png'});

2. 登录掘金 (这里我事先注册了个测试账号,大家可以替换成自己的)

  • 跳转到掘金,模拟点击登录按钮
  • 接着,会弹出一个的登录dialog,模拟输入用户名密码
  • 模拟点击登录,稍等....嗯...掘金应该把cookie写好了....
  • 代码如下:
      await page.goto('https://juejin.cn')

      var login = await page.$('.login')
      await login.click()

      var loginPhoneOrEmail = await page.$('[name=loginPhoneOrEmail]')
      await loginPhoneOrEmail.click()
      await page.type('18516697699@163.com', {delay: 20})

      var password = await page.$('[placeholder=请输入密码]')
      await password.click()
      await page.type('123456', {delay: 20})

      var authLogin = await page.$('.panel .btn')
      await authLogin.click()

3.推荐文章(使用第一步从SF爬取的文章信息)

  • 模拟点击推荐文章 按钮 “+”
  • 这时从SF拿到的文章信息就派上用场了,随机取出一篇: Math.floor(Math.random() * 30)
  • 模拟填写推荐表单,点击发布
  • 嗯,有时会提示该文章已被分享,那就换一篇吧,再执行一次。
  • 代码如下
      var seed = Math.floor(Math.random() * 30)
      var theArtile = SfFeArticleList[seed]

      var add = await page.$('.main-nav .ion-android-add')
      await add.click()

      var shareUrl = await page.$('.entry-form-input .url-input')
      await shareUrl.click()
      await page.type(theArtile.href, {delay: 20})

      await page.press('Tab')
      await page.type(theArtile.title, {delay: 20})

      await page.press('Tab')
      await page.type(theArtile.title, {delay: 20})

      await page.evaluate(() => {
          let li = [...document.querySelectorAll('.category-list-box .category-list .item')]
          li.forEach(el => {
              if (el.innerText == '前端')
                  el.click()
          })
      })

      var submitBtn = await page.$('.submit-btn')
      await submitBtn.click()

二、高级爬虫--爬取《ES6标准入门》并打印成PDF

1. 运行Puppeteer,使用launch

  puppeteer.launch().then(async browser => {
    ......
    what you want
    ......
  })

2. 跳转至 阮一峰老师的ES6博客,使用goto

  let page = await browser.newPage();
  await page.goto('http://es6.ruanyifeng.com/#README');

3. 分析博客左侧导航栏的dom结构,并拿到所有链接的href、title信息

  let as = [...document.querySelectorAll('ol li a')];
  return as.map((a) =>{
      return {
        href: a.href.trim(),
        name: a.text
      }
  });

4. 使用Puppeteer打印当前页面的PDF,使用pdf

  await page.pdf({path: `./es6-pdf/${aTags[0].name}.pdf`});

结语

  1. 为了效果展示,这里使用的headless: false模式,实际使用时可以同时开n个page,模拟操作,大家可以尝试改改,也可以给我提PR
  2. 目前已经带领大家,使用Puppeteer完成爬虫 和 UI自动化测试,接下来可能会出第三篇,应该会是关于前端性能分析
  3. 其实Puppeteer的应用场景远不止这些,大家也可以使用它在各自的领域大放异彩!!!
  4. 希望掘金小编不会打我....