[工程] gunicorn下的深度学习api 如何合理分配gpu

景 老大提了一个需求: gunicron 起多个进程的时候,如何保证pytorch的模型均匀分配到不同的gpu上,按道理,如果能拿到类似每个进程的序号,那分配起来应该都是简单的,那核心问题提炼出来了,
大鱼的鱼塘 2018-12-19 16:29:11
linux 所有 cuda flask

[深度学习] 使用Darknet YOLO 模型破解中文验证码点击识别

容 背景 准备 实践 结果 总结 引用 背景 老规矩,先上代码吧 代码所在: https://github.com/BruceDone/darknet_demo 最近在做深度学习相关的项目的时候,了解
大鱼的鱼塘 2018-12-11 17:12:08
所有 爬虫 darknet python3

2016 收获与新起点

节 收获 总结 展望 收获 技术 linux vim shell docker python web flask django spider scrapy pyspider system &
大鱼的鱼塘 2018-10-25 11:25:22
杂记 2016 2017 总结

[技巧] chrome headless 爬虫抓取websoket 数据

录 源起 分析 实践 总结 源起 周末答应了一个朋友帮他看一下一个网站应该怎么爬,费话不说直接先上网站 https://datacenter.jin10.com/price 数据一直在不停的闪,直觉判
大鱼的鱼塘 2018-09-28 10:34:28
所有 爬虫 chrome chrome headless

[工程] pytorch gpu docker 镜像下的无法正常启动应用分析

录 发现 分析 解决 总结 发现 在使用了 nvidia/cuda:9.0-cudnn7-devel-ubuntu16.04 作为底层镜像后,重新构建了pytorch的底层镜像做为应用的基础镜像,一切
大鱼的鱼塘 2018-09-18 20:33:58
linux 所有 杂记 docker

[经验] opencv 不同的视频输出以及文件过大的解决方法

录 发现 分析 解决 总结 发现 目前的一个项目需要使用opencv 录制视频,并且将录制的视频上传到我方服务器上,所以,视频的大小直接影响视频分析的时时性,针对这个情况,需要在不同的压缩格式下进行测
大鱼的鱼塘 2018-08-31 16:11:31
linux 所有 opencv python

[经验]解决使用opencv 高分辨率下的摄像头卡顿不流畅

录 发现 分析 解决 总结 发现 环境 ubuntu 16.04 python 2.7 (anaconda 的环境) cv 版本 3.4 安装方式 pip install opencv-contrib
大鱼的鱼塘 2018-08-30 14:09:53
linux 所有 opencv python

[经验] python下的消息队列选择-rq

录 项目代码所在: https://github.com/BruceDone/web_message_queue_app 背景 准备 实践 总结 背景 某个web api项目需要将api的每次调用情况
大鱼的鱼塘 2018-07-19 17:43:02
linux 所有 celery message queue

[定义] 关于网络状态码的工程标准

容 我相信大多数写http api的时候,关于网络的状态码大家都有各自的定义,现在有一个好的库来定义各种各样的情况,方便大家在写api的时候返回合理的状态码 代码 [crayon-5c6abf9b91
大鱼的鱼塘 2018-07-13 11:27:09
linux 所有 api error

[工程] tmux的一些操作技巧

mux简介 tmux是一个优秀的终端复用软件,类似GNU Screen,但来自于OpenBSD,采用BSD授权。使用它最直观的好处就是,通过一个终端登录远程主机并运行tmux后,在其中可以开启多个控制
大鱼的鱼塘 2018-06-29 10:45:24
linux 所有 tmux ubuntu

[scrapy] images pipeline分析– 下载图片如何上传到阿里云服务

录 源起 准备 分析 实践 总结 源起 现在网上已经有很多方便的云存储了,比如阿里云的oss,亚马逊的s3 ,Azure 的blob,云的储存对于大数据量的文件或者图片来说,绝对是相当的方便,现在我们
大鱼的鱼塘 2018-05-28 11:58:03
所有 爬虫 aliyun oss

[爬虫]python下的xpath清洗数据之html数据清洗

录 源起 分析 解决 总结 源起 现在我们面对一些爬虫数据,特别是对于web网页的爬取的时候,网页总有一些不规整的数据来导致拿数据的麻烦,比如如下这种 [crayon-5c1a01007ea95853
大鱼的鱼塘 2018-05-14 11:21:00
所有 爬虫 lxml python

[系统] 阻塞非阻塞,同步与异步

录 前言 示意 分析 总结 前言 我们在写代码的时候,会遇到大量的IO操作,http请求,读写文件,读数据库,对于IO的操作,我们听到了太多的异步,同步,阻塞与非阻塞的操作,可是我们一直没有去深入的理
大鱼的鱼塘 2018-05-07 11:59:12
linux 所有 async blocking

[工程] linux操作下的利器-tmux

容 源起 使用 注意 总结 源起 某天小伙伴看我正在辛勤的打开一个又一个窗口,然后跑一些长时间任务然后又要开另外一个窗口重新ssh到服务器上的繁琐操作,如下图所示 小伙伴顺口来了一句,你为啥不用tmu
大鱼的鱼塘 2018-05-04 11:07:59
linux 所有 tmux 工程

[tmux] version 2.1 存在缓存bug

录 起因 分析 解决 起因 在tmux session 之中 ,尝试修改一个文件内容,发现于tmux 外部 查看该文件内容压根就没有修改到,只能从外部来进行处理 分析 在folder文件夹下有如下两个
大鱼的鱼塘 2018-03-20 15:31:53
linux 所有 2.1 bug

订阅源