天使与魔鬼 发表于 2018-9-27 16:10:56

error: can't start new thread

我有一个网站配置是: Django + mod-wsgi + apache,我发送另一个HTTP请求到另一个服务,并通过python的httplib库解决这个问题。但是有时候这个服务不会得到太长的响应,httplib的超时也不起作用。所以我创建了一个线程,在这个线程中我向服务发送请求,并在20秒后加入它(20秒-请求超时)。它是这样工作的:
class HttpGetTimeOut(threading.Thread):
    def __init__(self,**kwargs):
      self.config = kwargs
      self.resp_data = None
      self.exception = None
      super(HttpGetTimeOut,self).__init__()
    def run(self):

      h = httplib.HTTPSConnection(self.config['server'])
      h.connect()
      sended_data = self.config['sended_data']
      h.putrequest("POST", self.config['path'])
      h.putheader("Content-Length", str(len(sended_data)))
      h.putheader("Content-Type", 'text/xml; charset="utf-8"')
      if 'base_auth' in self.config:
            base64string = base64.encodestring('%s:%s' % self.config['base_auth'])[:-1]
            h.putheader("Authorization", "Basic %s" % base64string)
      h.endheaders()

      try:
            h.send(sended_data)
            self.resp_data = h.getresponse()
      except httplib.HTTPException,e:
            self.exception = e
      except Exception,e:
            self.exception = e
something like this...
And use it by this function:
getting = HttpGetTimeOut(**req_config)
getting.start()
getting.join(COOPERATION_TIMEOUT)
if getting.isAlive(): #maybe need some block
    getting._Thread__stop()
    raise ValueError('Timeout')
else:
    if getting.resp_data:
      r = getting.resp_data
    else:
      if getting.exception:
            raise ValueError('REquest Exception')
      else:
            raise ValueError('Undefined exception')

一切都正常运行,但有时发生这个错误
error: can't start new thread
at the line of starting new thread:
getting.start()
and the next and the final line of traceback is
File "/usr/lib/python2.5/threading.py", line 440, in start
    _start_new_thread(self.__bootstrap, ())
谁能告诉我如何解决吗?

上条把妹之手 发表于 2018-9-27 16:16:56

"can't start new thread" 错误是肯定的,因为你已经在python进程中运行了太多的线程,而且由于某种资源限制,创建新线程的请求被拒绝。您可能应该查看正在创建的线程的数量;您能够创建的最大数量将由您的环境决定,但至少应该是数百个。在这里重新考虑您的架构可能是个好主意;考虑到这是异步运行的,也许您可以使用线程池从另一个站点获取资源,而不是总是为每个请求启动一个线程。另一个需要考虑的改进是线程的使用。加入和Thread.stop;通过向HTTPSConnection的构造函数提供超时值,可能会更好地完成此任务。

强人锁男 发表于 2018-9-27 16:18:13

你启动的线程比系统能够处理的线程多。对于一个进程,可以激活的线程数量是有限制的。你的应用程序启动线程的速度要快于线程完成的速度。如果你需要启动多个线程,则需要以一种更受控制的方式来执行,我建议使用线程池。
页: [1]
查看完整版本: error: can't start new thread