Javascript抓取京东、淘宝商品数据（商品采集商品详情图片抓取）

之前用的方法：

let temp = []var lists = $('#J_goodsList li.gl-item')$.each(lists,function(idx,item){ temp.push({   id:$(item).data('sku'),   goods_img:$(item).find('img').attr('src'),   goods_name:$(item).find('.p-name em').text(),   market_price:$(item).find('.p-price i').text(), })})console.log(temp)

1. 通过分类查询京东、淘宝的商品，比如搜索“电子产品”，获取到电子产品的列表

2. 通过JavaScript操作页面dom元素，获取到商品信息数组

3. 通过在线工具将json数组转成excel文件

4. 处理图片地址，包裹上img标签，通过浏览器加载并下载图片

   //img13.360buyimg.com/n7/jfs/t1/181788/14/25091/44594/63c0c017F11c3c118/4521648b22e0dd3a.jpg 

   1. 原图片

   2. 将链接中的n7改成n1(尺寸变大)，并且加上img标签

      <img src=https://img13.360buyimg.com/n1/s450x450_jfs/t1/181788/14/25091/44594/63c0c017F11c3c118/4521648b22e0dd3a.jpg />

   3. 将图片下载到本地

5. 将生成的excel文件数据和EDI网站商品数据合并

6. 将商品图片上传到服务器

7. 手动给每个商品添加商品详情，这个是主要的工作量

这种方式主要有两个缺点：

1. 列表获取不到商品详情图片，需要手动去抓取

2. 过程比较繁琐，有很多需要手动操作的地方

优化后直接用API调用，稳定性好，支持高并发。

1、注册账号获取APIkey和密钥，点此注册

2、查看API文档，获取请求参数和响应参数表。