没有合适的资源?快使用搜索试试~ 我知道了~
资源详情
资源评论
资源推荐

Python基于基于pandas实现实现json格式转换成格式转换成dataframe的方法的方法
主要介绍了Python基于pandas实现json格式转换成dataframe的方法,结合实例形式分析了Python使用pandas模
块操作json数据转换成dataframe的相关操作技巧与注意事项,需要的朋友可以参考下
本文实例讲述了Python基于pandas实现json格式转换成dataframe的方法。分享给大家供大家参考,具体如下:
# -*- coding:utf-8 -*-
#!python3
import re
import json
from bs4 import BeautifulSoup
import pandas as pd
import requests
import os
from pandas.io.json import json_normalize
class image_structs():
def __init__(self):
self.picture_url = {
"image_id": '',
"picture_url": ''
}
class data_structs():
def __init__(self):
# columns=['title', 'item_url', 'id','picture_url','std_desc','description','information','fitment'])
self.info={
"title":'',
"item_url":'',
"id":0,
"picture_url":[],
"std_desc":'',
"description":'',
"information":'',
"fitment":''
}
# "https://waldoch.com/store/catalogsearch/result/index/?cat=0&limit=200&p=1&q=nerf+bar"
# https://waldoch.com/store/new-oem-ford-f-150-f150-5-running-boards-nerf-bar-crew-cab-2015-w-brackets-fl34-16451-ge5fm6.html
def get_item_list(outfile):
result = []
for i in range(6):
print(i)
i = str(i+1)
url = "https://waldoch.com/store/catalogsearch/result/index/?cat=0&limit=200&p="+i+"&q=nerf+bar"
web = requests.get(url)
soup = BeautifulSoup(web.text,"html.parser")
alink = soup.find_all("a",class_="product-image")
for a in alink:
title = a["title"]
item_url = a["href"]
result.append([title,item_url])
df = pd.DataFrame(result,columns=["title","item_url"])
df = df.drop_duplicates()
df["id"] =df.index
df.to_excel(outfile,index=False)
def get_item_info(file,outfile):
DEFAULT_FALSE = ""
df = pd.read_excel(file)
for i in df.index:
id = df.loc[i,"id"]
if os.path.exists(str(int(id))+".xlsx"):
continue
item_url = df.loc[i,"item_url"]
url = item_url
web = requests.get(url)
soup = BeautifulSoup(web.text, "html.parser")
# 图片
imglink = soup.find_all("img", class_=re.compile("^gallery-image"))
data = data_structs()
data.info["title"] = df.loc[i,"title"]
data.info["id"] = id
data.info["item_url"] = item_url
for a in imglink:
image = image_structs()
image.picture_url["image_id"] = a["id"]
image.picture_url["picture_url"]=a["src"]
print(image.picture_url)
data.info["picture_url"].append(image.picture_url)
print(data.info)
# std_desc
weixin_38514660
- 粉丝: 6
上传资源 快速赚钱
我的内容管理
展开
我的资源
快来上传第一个资源
我的收益 登录查看自己的收益
我的积分
登录查看自己的积分
我的C币
登录后查看C币余额
我的收藏
我的下载
下载帮助
前往需求广场,查看用户热搜最新资源
- 2019-2019学年第二学期电子商务基础复习指导.doc
- (源码)基于Go语言框架的分布式服务注册与发现系统.zip
- 编程语言实用指南:从基础到高级编译原理
- 素质教育、建构主义与网络教学.doc
- 数据挖掘中的文本挖掘的分类算法综述.doc
- Greenplum开源数据仓库介绍-(1).pptx
- 一级减速器《机械CAD实训》报告.doc
- 利用网络资源提高化学教学效.doc
- 华为eSpace统一通信解决方案介绍.pptx
- 互联网+时代初中数学信息化教学策略探究.docx
- 某通信公司物业管理方案.doc
- 云计算在教育中的应用.docx
- 领域知识图谱的数据采集、处理与可视化研究
- 物联网技术在高校中的应用模式研究.docx
- (源码)基于Jekyll和Bootstrap的个人博客系统.zip
- 大数据做数据分析挖掘-以电信为例.docx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈



安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0