python进程池的使用注意
python进程池的使用注意
1、使用注意
(1)使用池时,如果未指定进程数,则默认为CPU核心数。
(2)核心数量对应于计算机的逻辑处理器数量(任务管理器-性能),而不是核心数量(我的计算机有2个核心和4个逻辑处理器,因此这里默认使用4个进程)
(3)进程数可以是几十万,并不意味着开放进程的数量是4。只要使用池(10),就可以同时打开10个进程进行爬网。
(4)但是需要注意的是,无论多线程还是多进程,打开过多都会导致切换耗时,降低效率,所以创建过多的多线程和进程是谨慎的。
2、实例
importrequests
frombs4importBeautifulSoup
frommultiprocessingimportPool,current_process
defget_title(i):
print('start',current_process().name)
title_list=[]
url='https://movie.douban.com/top250?start={}&filter='.format(i*25)
r=requests.get(url)
soup=BeautifulSoup(r.content,'html.parser')
lis=soup.find('ol',class_='grid_view').find_all('li')
forliinlis:
title=li.find('span',class_="title").text
#returntitle
title_list.append(title)
print(title)
return(title_list)if__name__=='__main__':
pool=Pool()
foriinrange(10):
pool.apply_async(get_title,(i,))
pool.close()
pool.join()
print('finish')
以上就是python进程池的使用注意,希望能对大家有所帮助。更多Python学习教程请关注IT培训机构:千锋教育。

相关推荐HOT
更多>>
pythonpython对大小写敏感吗?
python对大小写是敏感的,也就是说,python中是区分大小写的。Python的变量名是区分大小写的,例如:name和Name就是两个变量名,而非相同变量。...详情>>
2023-11-09 23:57:19
python单引号怎么打
实际上在Python中'...'和"..."是完全一样的,但不能出现'..."和"...'这种情况。而将其混合使用会有很多意想不到的效果:具体规...详情>>
2023-11-09 22:41:18
pythonpop什么意思
python中的pop:pop()函数的作用就是用来移除列表中的一个元素(默认最后一个元素),并且返回该元素的值。语法pop()方法语法:list.pop(obj=list...详情>>
2023-11-09 20:54:42
python怎么循环输入
python中的循环语句,可使用for循环,或者while循环。两者的区别是,for循环要求提前知道要循环的次数,而while循环只要满足条件就会循环,直到...详情>>
2023-11-09 16:48:15