当前位置:网站首页 > IOS编程 > 正文

pytorch模型部署到ios(pytorch模型部署到orin)



1.基本流程

 
  

第一部分基本上是下载并运行,这里一定要和github建立ssh链接并用ssh方式进行克隆。

2.CUDA 和 GCC 的关系

2.1. CUDA 和 GCC 的关系
  • CUDA: 是 NVIDIA 提供的并行计算平台和编程模型,用于利用 NVIDIA GPU 进行高性能计算。CUDA 程序通常以 文件格式编写。
  • GCC (GNU Compiler Collection): 是一个编译器集合,主要用于编译 C、C++ 和其他语言的源代码。在 CUDA 中,GCC 被用作编译 CUDA 代码的主机代码部分。

2.2. 谁在谁之上

在编译 CUDA 程序时,CUDA 编译器()负责将 文件编译成可执行文件。 会调用 GCC 来编译主机代码部分。因此,可以认为:

  • nvccGCC 之上,负责整个编译过程。
  • GCC 用于编译 CUDA 程序中的主机代码。
2.3. 文件需要的 GCC 版本

CUDA 对 GCC 的版本有一定的要求。通常,CUDA Toolkit 的文档会列出兼容的 GCC 版本。以下是一些常见的规则:

  • CUDA 10.x: 通常兼容 GCC 5.x 和 7.x,但不支持 GCC 9.x 及以上版本。
  • CUDA 11.x: 通常支持 GCC 7.x 和 9.x。
  • CUDA 12.x: 可能支持更高版本的 GCC,如 9.x 和 10.x。

总结

  • 在编译 CUDA 程序时,使用 来处理 文件,并调用适当版本的 GCC 编译主机代码。
  • 确保使用与您 CUDA Toolkit 版本兼容的 GCC 版本,以避免编译错误。

如果需要特定版本的兼容性信息,可以查看 NVIDIA 的 CUDA Toolkit 文档.

3. gcc版本

这次我们需要对gcc进行降级
gcc多版本安装与切换
在这里插入图片描述

gcc11的问题
gcc9的问题
gcc6的安装

4. 网络失败的报错

ERROR: Cannot unpack file /tmp/pip-unpack-uxmnsi4z/simple (downloaded from /tmp/pip-req-build-wgarvgpm, content-type: text/html;charset=UTF-8); cannot detect archive format ERROR: Cannot determine archive format of /tmp/pip-req-build-wgarvgpm Looking: command not found

直接重新下载就可以

5. 如何查看gpu利用率

 
  

在这里插入图片描述

在这里插入图片描述

6.device参数。

 
  

这两种表述的区别在于,to(device)操作是复制到所有的GPU还是只赋值到一个GPU上。
我们采取上面的写法,否则会报错。
数据并行很简单,核心就是一行,model=nn.DataParallel(model)

 
  

7.git 忽视,错误添加如何回退

没有commit之前,但是已经add了,这些文件如何去除

 
  

8.Tensor board

8.1 安装
 
  
8.2 图片和模型graph
 
  

报了一个ANTIALIAS的错误,重装pillow为较低的版本就可以解决
在这里插入图片描述
在这里插入图片描述
这个是效果图,是一个batch,且归一化之后的结果,我也看不出是啥,关键是我们会用了。


 
  

graph值得一提的是DP之后的模型是不可直接add_graph的,我们智能制造一个没有并行的副本model_print

8.3 loss
 
  

那么需要用这个指令降级protobuf来和tensorboard适配(我的tensorboard 2.14.0)

 
  

统计每10步的平均值,且每10步一输出。

 
  

在这里插入图片描述
在这里插入图片描述

10 redis 安装

回到主线,现在需要安装redis
redis install
在这里插入图片描述
redis有兼容性,直接 就可以了


到此这篇pytorch模型部署到ios(pytorch模型部署到orin)的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • pytorch模型部署到ios(pytorch模型部署到安卓)2026-02-04 10:54:05
  • studio2010ac客服电话(acne studios投诉电话)2026-02-04 10:54:05
  • ios特殊符号大全复制(ios特殊符号大全可复制)2026-02-04 10:54:05
  • github手机端(github手机端iOS版)2026-02-04 10:54:05
  • ios越狱源(ios越狱源推荐)2026-02-04 10:54:05
  • ios越狱源推荐(2021ios越狱源)2026-02-04 10:54:05
  • Ios越狱源 游戏(越狱破解游戏源地址)2026-02-04 10:54:05
  • nat类型检测工具ios(nat类型检测工具怎么用)2026-02-04 10:54:05
  • Ios越狱源 游戏(越狱游戏源地址大全2021)2026-02-04 10:54:05
  • 苹果软件后缀和安卓手机后缀(ios手机软件后缀)2026-02-04 10:54:05
  • 全屏图片