其他分享
首页 > 其他分享> > google colab tensorflow2.6.2-gpu环境部署

google colab tensorflow2.6.2-gpu环境部署

作者:互联网

最近公司需要做深度学习,无奈自己笔记本是什么m2000m,2g显存,查了下,和gtx970差不多水准,这显卡,拿来跑稍微大一点的模型都会爆显存

经过一番查询,发现谷歌提供免费的gpu供深度学习使用,免费用户最长12小时连续运行,超过就会回收

进过一番操作,进入了谷歌的colab,首先看下配置信息,给配了 tesla k80,11g的显存

Tue Nov 16 08:23:37 2021       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 495.44       Driver Version: 460.32.03    CUDA Version: 11.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  Tesla K80           Off  | 00000000:00:04.0 Off |                    0 |
| N/A   71C    P8    35W / 149W |      0MiB / 11441MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

 系统是ubuntu 18.04,内存12.69g 硬盘78g,这配置可以说非常豪华,而且还是免费的,这里给谷歌点个赞

colab使用的是python的Jupyter Notebook,使用起来非常好上手,然后可以使用!+shell指令执行命令,而且直接是root权限

(这里批评下华为的modelarts 里面的codelab,执行个shell命令还要问我root密码,我去哪里找root密码)

colab数据都是暂存,一旦清理,数据都没了,所以需要将数据保存到谷歌云盘,谷歌免费提供了15g的空间,这点够跑跑模型验证了

点击如下按钮即可装载谷歌云盘,而且后续开通新的虚拟机也会自动装载,非常方便,装载好后文件传输就方便了

 

进过检测,系统安装的cuda版本是11.0, cudnn版本是8.0.5, 我这次需要安装tensorflow2.6+,按照对照表,需要cuda版本11.2+cudnn版本8.1.0

 

 

 

 所以需要升级cuda版本和cudnn版本,升级cuda版本很简单,执行如下2个命令即可,这里对应系统ubuntu18.04,其他版本对照nvidia官网

!wget https://developer.download.nvidia.com/compute/cuda/11.2.0/local_installers/cuda_11.2.0_460.27.04_linux.run
!sudo sh cuda_11.2.0_460.27.04_linux.run --toolkit --silent --override

 升级cudnn就比较麻烦了,因为下载cudnn需要注册,自行注册后下载cudnn对应的文件,然后上传到谷歌云盘

 然后执行如下命令即可升级cudnn(路径自行修改)

!sudo dpkg -i "/content/drive/MyDrive/Colab Notebooks/cudnn8.1.0/libcudnn8_8.1.0.77-1+cuda11.2_amd64.deb"
!sudo dpkg -i "/content/drive/MyDrive/Colab Notebooks/cudnn8.1.0/libcudnn8-dev_8.1.0.77-1+cuda11.2_amd64.deb"
!sudo dpkg -i "/content/drive/MyDrive/Colab Notebooks/cudnn8.1.0/libcudnn8-samples_8.1.0.77-1+cuda11.2_amd64.deb"

 

至此,cudnn和cuda都安装好了,接下去安装tensorflow就能跑起来了

!cp "/content/drive/MyDrive/Colab Notebooks/test/train.py" /content/
!cp "/content/drive/MyDrive/Colab Notebooks/test/test.npz" /content/
!python train.py

 总结来说,谷歌的colab其实就是一台ubuntu18.04的服务器,给你root权限,你可以做你想做的任何事情

相对比其他平台来说,就没那么大自由度了,百度的ai studio,只能用paddle框架,华为的codelab,没有root权限,各种不支持

目前已经用colab跑通了模型验证,现在就是正在增加数据跑训练,提升识别率

标签:google,colab,谷歌,content,cudnn,cuda,tensorflow2.6,版本
来源: https://www.cnblogs.com/darkspr/p/15565812.html