tornado流式接收上傳文件

問題

上傳的文件放在表單上傳如果過大,會導致服務端內存溢出,所以需要客戶端將參數(shù)放到header里,文件放到body里傳輸,服務端流式接收body的內容

  • 客戶端代碼
data = {'file_size':'xxxx','file_md5':'xxxx','file_id':'xxxxx'}
filename=‘xxxxx’
storage_url = "http://xxx" 
with open(filename, 'rb') as f:
    res = requests.post(storage_url, headers=data, data=f)
  • 服務端代碼

    需要使用到 tornado.web.stream_request_body 裝飾器

@tornado.web.stream_request_body
class BigformUploadHandler(web.RequestHandler):
    executor = ThreadPoolExecutor(thread_pool_size)
    save_name = None
    save_seek = 0

    def prepare(self):
        try:
            headers = self.request.headers
            print(headers)
            file_id = headers["file_id"]
            redis_data = loads(redis_ins.get(file_id))
            if redis_data:
                storage_path = redis_data["storage_path"]
                self.save_name = os.path.join(storage_path, file_id)
        except Exception:
            run_log.error(traceback.format_exc())

    def data_received(self,chunk):
        if self.save_name:
            if not os.path.exists(self.save_name):
                with open(self.save_name, 'wb+') as up:
                    pass
            with open(self.save_name, 'rb+') as up:
                up.seek(self.save_seek)
                up.write(chunk)
                self.save_seek = self.save_seek + len(chunk)

    @tornado.web.asynchronous
    @tornado.gen.coroutine
    def post(self):
        values = {}
        result = {"return_code": 500,"error_info":""}
        try:
            headers = self.request.headers
            values["file_md5"] = headers["file_md5"]
            values["file_size"] = headers["file_size"]
            values["file_id"] = headers["file_id"]
            # 從redis獲取存儲路徑
            redis_data = loads(redis_ins.get(values["file_id"]))
            values["storage_path"] = redis_data["storage_path"]
            filename = os.path.join(values["storage_path"], values["file_id"])
            values["filename"] = filename

            result = yield self.do_upload_form(values)
        except Exception:
            run_log.error(traceback.format_exc())
        finally:
            if result["return_code"] == 200:
                self.write(dumps(result))
            else:
                self.set_status(500)

    @run_on_executor
    def do_upload_form(self, values):
        result = {"return_code": 500, "error_info": ""}
        try:
            if os.path.exists(values["filename"]):
                md5 = str(get_md5(values["filename"]))
                if values["file_md5"] == md5:
                    result['return_code']=200
        except Exception:
            run_log.error(traceback.format_exc())
        finally:
            return result
                
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

友情鏈接更多精彩內容