我需要爬取一个网站,该网站使用jquery AJAX函数从服务器获取信息。我已经调查了一段时间的代码,并成功地使用以下代码从服务器获取响应:
data = {'part_number':'1234'}
r = $.ajax({
type : 'GET',
url : 'ajaxurl',
data : data
})
请注意,这是通过 js 控制台完成的,所以我已经登录。当我尝试在 Python 中执行此操作时,当然需要先登录:
import requests
headers = {'User-Agent': 'Mozilla/5.0','Content-Type': 'application/x-www-form-urlencoded; charset=UTF-8'}
payload = {'username':'me','password':'1234'}
link = 'login url'
session = requests.Session()
resp = session.get(link,headers=headers)
cookies = requests.utils.cookiejar_from_dict(requests.utils.dict_from_cookiejar(session.cookies))
resp = session.post(link,headers=headers,data=payload,cookies =cookies)
#until here sucesss!"############
url = "ajaxurl"
my_params={'part_number':'1234'}
r = session.get( url = url, data = my_params, cookies =cookies,headers =headers )
登录的POST请求成功,但获取GET响应时收到了错误请求400。我无法弄清楚如何格式化我的请求。我不知道ajax对我的请求做了什么。有人有任何想法吗?
提前致谢!