Ubuntu 22.04安装英特尔显卡驱动玩转AIGC

作者英特尔网路与边缘计算事业部开发者关系经理 李翊玮

本文将介绍如何使用EIV 用5行指令在快速搭建含英特尔显卡及OpenVINO的AI开发环境, 并简洁说明如何使用OpenVINO 及英特尔显卡优化文生图模型Stable Diffusion 的速度。

EIV (Edge Insight Vision) 具有一组预集成组件,专为边缘应用的计算机视觉和深度学习推理而设计,并针对英特尔®架构进行了优化。它作为容器化架构或独立运行时实现。

此软件包包含用于在英特尔处理器和英特尔显卡设备上安装英特尔®显卡驱动程序和为 OpenVINO™ 推理设置环境的脚本。

工作原理

EIV是一组预先验证的模块,作为容器化架构或独立运行时实现,用于在边缘部署计算机视觉和深度学习工作负载。该软件包包含面向针对英特尔®架构优化的计算机视觉和深度学习应用的英特尔®发行版 OpenVINO™ 工具套件。

1:视觉边缘洞察模块

EIV 装三大模块

  • Docker
  • Intel® GPU drivers
  • The Intel® Distribution of OpenVINO™ toolkit (OpenVINO™) Docker image 2023.0

入门指南

按照此分步指南在 Linux* 上为您的目标系统安装英特尔® EIV。完成本指南后,您就可以在英特尔®处理器、iGPU 和英特尔®锐炫™显卡上试用示例应用程序了。

建议的系统要求

  • 处理器:
    • 第 10代 - 第 13 代智能英特尔®酷睿™处理器
    • 英特尔®处理器 N 系列
    • 英特尔®酷睿™ i3 处理器 N 系列
    • 英特尔®锐炫™ A 系列显卡
  • 至少 8GB 内存
  • 至少 64GB 硬盘
  • 互联网连接
  • Ubuntu* 20.04 英特尔物联网或 Ubuntu* 22.04 英特尔物联网

准备目标系统

注意:如果主显示器设置为 dGPUUbuntu 22.04 安装将冻结。某些设备,例如ASUS IoT PE3000G具有默认的dGPU作为主显示器。在 BIOS 菜单中,选择高级 -> 图形配置 -> 主显示器,然后选择“IGFX”。保存更改并重新启动系统。接下来,继续安装 Ubuntu 22.04 EIVEIV安装完成后,如果您希望使用dGPU作为主显示器,请转到BIOS并切换回“PEG插槽

确保目标系统具有全新的操作系统安装。请按照以下步骤安装 Ubuntu 操作系统:

将适用于英特尔硬件的 Ubuntu v20.04-IoT or Ubuntu v22.04-IoT Desktop ISO file下载到开发人员工作站。

  1. 使用映像应用程序(如 balenaEtcher 应用程序)创建可启动闪存驱动器。
  2. 刷新 USB 闪存驱动器后,关闭目标系统的电源,插入 USB 闪存驱动器,然后打开目标系统的电源。如果目标系统未从 USB 闪存驱动器启动,请在系统 BIOS 中更改启动优先级。
  3. 按照提示安装具有默认配置的操作系统。有关详细说明,请参阅本指南。
  4. 在代理环境中,请确保已在 /etc/环境中设置代理。

显卡驱动安装EVI

(如已安装Ubuntu 22.04 请直接从此处安装)

在目标系统上运行以下命令以安装 EIV。

1. 安装 git 和 git 将 EIV 存储库克隆到 Ubuntu 系统中。

sudo apt -y install git

Git clone https://github.com/intel/edge-insights-vision.git

2. 更新系统上的软件包。

sudo apt-get update

3. 安装 python3-pip。

sudo apt-get -y install python3-pip

4. 将目录更改为edge-insights-vision并安装需求包。

cd edge-insights-vision

pip3 install -r requirements.txt

2:安装需求包

5. 安装 EIV。

如果您的系统具有 dGPU,它会将您的内核升级到 6.2.8,并且您的系统将在安装过程中重新启动。重新启动后如果没有跑到100%, 请重复执行此命令 (由于需要重启,请在开始安装之前保存您的工作。)

python3 eiv_install.py

PS. 中国区用户请将eiv_install.py 档第·25行  def connect(host='http://google.com'): 改成def connect(host='https://baidu.com'):

6. 安装完成后重新启动系统。

图3:成功安装EIV

如果 GPU 驱动程序未显示版本,请重新启动系统并运行此命令以查看驱动程序版本。

clinfo | grep 'Driver Version'

运行 Jupyter 笔记本教程

按照以下步骤启动 Jupyter 笔记本并运行基本教程以验证目标系统是否正常工作。

1. 成功安装后,将launch_notebooks.sh脚本更改为可执行文件并运行启动器脚本,如下所示

cd edge-insights-vision

chmod +x launch_notebooks.sh

./launch_notebooks.sh

2. 打开浏览器并粘贴下面突出显示的 URL 以打开 Jupyter 笔记本。

4: Output of launch_notebooks.sh

3. 如果您在浏览器中看到以下页面代表所有 OpenVINO notebooks都可以用了

5: Jupyter Notebook in the browser

4. 如果打开“notebooks”文件夹,则可以看到所有可用笔记本的列表。

5. 选择 notebook 236-stable-diffusion-v2/236-stable-diffusion-v2-optimum-demo-comparison.ipynb

6. 它允许从文字描述生成图像,并有助于比较在 CPU 和独立 GPU 上运行不同管道时的性能。

7. 在“显示可用设备信息”步骤中,您可以看到所有设备,这些设备可用于在此PC上进行推理。由于我的电脑中安装了独立的 GPU,因此列表中有 GPU.1 Intel (R) Arc (TM) Pro A40/A50。

8. 在此notebook中执行的第一个模型是托管在 Hugging Face 上的预训练 Pytorch 模型。 https://huggingface.co/stabilityai/stable-diffusion-2-1 在此单元中,使用standard Stable Diffusion Pipeline在CPU上执行。

9. 它通过文本描述生成图像,如下所示,在我的电脑上推理大约需要 2 分钟。

10. 下一步使用OpenVINO进行稳定扩散 为此,将同一模型转换为 OpenVINO IR(Intermediate Representation)格式,并使用 OpenVINO 稳定扩散管道。 CPU 用于推理。

对比于使用前已有了显着速度的改进,只需 1 分 16 秒。因此,仅应用 OpenVINO Stable Diffusion Pipeline,性能就提高了近 2 倍。

11. 最后一个实验是在刚装好的显卡上运行Stable Diffusion。将 GPU 设置为推理设备并运行这几行代码

可以在森林中看到新的红色汽车和进一步的性能改进!这次只需要43秒, 对比于原来的2分钟有了60%以上的提升

总结

本文介绍如何使用EIV 用5行指令在快速搭建含英特尔显卡及OpenVINO的AI开发环境。并借由文生图模型Stable Diffusion说明了OpenVINO如何优化其推理速度

如果您有兴趣生成更多图像,学习OpenVINO并评估设备上生成AI的性能,我鼓励您访问 https://github.com/intel/edge-insights-vision 并尝试自己运行OpenVINO!文章来源地址https://www.uudwc.com/A/aYDo8/

原文地址:https://blog.csdn.net/gc5r8w07u/article/details/132684831

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请联系站长进行投诉反馈,一经查实,立即删除!

上一篇 2023年09月26日 14:10
Kafka 监听器详解
下一篇 2023年09月26日 14:10