最近学习部署的时候,想到深度学习里面通常用的部署方法是flask做服务端,然后使用nginx做负载均衡,貌似也能做内网穿透。不过我不太懂负载均衡,只想利用本地电脑搭建一个简单的服务器,实现外部调用API服务的功能。所以本文会介绍到的内容有:
flask服务端与客户端的通信ngrok简单地做内网穿透,使得非同一个局域网的电脑能够通过公网IP访问服务国际惯例,参考博客:
flask官方文档
ngrok官方入口
ngrok的官方文档
基于flask写一个上传文件的功能,不管你传输的是图像还是文字,都可以用这个代码接收,然后处理完毕再返回一些信息,比如深度学习的预测结果或者状态信息之类的。
本博客不介绍flask的使用方法,可以去flask官方快速入门章节看到非常详细的教程。
仿照flask官方上传文件的例子,直接写如下内容:
路由:指示通过什么接口(ip+端口+入口)能够访问提供的功能函数功能:接收客户端信息,处理,返回结果信息 @app.route('/upload',methods=['POST'],strict_slashes=False) def api_upload(): file_dir=os.path.join(basedir,app.config['UPLOAD_FOLDER']) if not os.path.exists(file_dir): os.makedirs(file_dir) f=request.files["myfile"] # 从表单的myfile字段获取文件,myfile为该表单的name值 fname = request.form["name"] if f and allowed_file(fname): # 判断是否是允许上传的文件类型 f.save(os.path.join(file_dir,fname)) #保存文件到upload目录 print(url_for('uploaded_file',filename=fname)) return jsonify({"succeed":'True',"msg":"upload succeed"}) else: return jsonify({"succeed":'False',"msg":"upload failed"})这里的操作是:
路由:通过本地ip+端口+/upload访问此服务功能:读取服务端发送的文件和文件名,然后保存在本地,返回状态【注】
额外说一句,有时候我们要修改函数内容,就不得不重启服务,但是如果我们使用
app.run(debug=True,host='0.0.0.0',port=5555)将debug设置为True,就可以不用重启服务,每次修改保存完毕后,服务会自动重启。
有时候会出现一句话:
WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead.改成:
serve(app, host="0.0.0.0", port=5555) #product就没有这个warning了
官方新建了一个html作为服务端,我们也可以使用python写一个客户端
实现的功能就是:
读取文件为二进制数据,并获取文件名将文件和文件名发送到服务器如果想要访问你的服务的人和你在同一个局域网,可以通过ipconfig先看看自己的ip地址,以下内容均假设我的是192.168.3.10
这样就在服务端写一个html的入口,用户访问这个端口的时候,显示一个上传界面,然后进行通信
@app.route('/test/upload') def upload_test(): return render_template('upload.html')但是需要注意,这个html存在一个名为templates文件夹中
<form id="form1" method="post" action="/upload" enctype="multipart/form-data"> <div> <input id="File1" type="file" name="myfile"/> <input id="name" type="text" name="name"/> <input type="submit">提交</input> </div> </form>打开服务端以后,直接在电脑上输入http://192.168.3.10:5555/test/upload就可以进入传输界面
基本就是POST通信方法
def upload_file(file_path): file_bin = open(file_path,'rb').read() upload_content = {"myfile":file_bin} upload_name = {"name":os.path.basename(file_path)} r = requests.post(REST_API_URL,data=upload_name,files=upload_content).json() if(r['succeed']): print("success") else: print("failed")这里有一个REST_API_URL参数,代表的是访问服务器的地址、端口、入口,所以本文的
REST_API_URL = 'http://192.168.3.10:5555/upload'有时候用户和你不在同一个局域网是无法通过上述ip访问到你的服务的(如果用"0.0.0.0"可以让用户访问你的服务,则无需穿透),所以需要将内网提供服务的端口映射到外网,网上有很多内网穿透的工具和教程,我只是Google了一下ngrok,然后进入第一个网址,看着像官方的,然后引入眼帘的就是这样一张图
就是这么简单,直接去下载你电脑对应的可执行文件,然后直接输入
ngrok http 5555 pause这就是将内网的5555端口映射到了http://48a7fd5eedbb.ngrok.io,比如上面的那个html网页,我们可以通过任意一台联网电脑访问,访问地址为
http://48a7fd5eedbb.ngrok.io/test/upload做算法的,能简单的快速验证提供API能力就行啦,至于什么服务分发,交给开发折腾就行。我问了一下身边的大佬,虽然网上说nginx可以做服务穿透,但是它经常用于服务分发,比如有100个用户访问同时同一个服务,部署在一台电脑上可能会炸了,或者造成等待,那么我们可以通过nginx把这些请求分发到不同服务器上去计算。后续有时间再研究。
完整的python脚本实现放在微信公众号的简介中描述的github中,有兴趣可以去找找,同时文章也同步到微信公众号中,有疑问或者兴趣欢迎公众号私信。