深度学习环境配置(二)
Conda 配置 CUDA/CuDNN/PyTorch 环境
计划重新调整服务器 Python / Pytorch / CUDA / CuDNN 版本。旧的环境为了兼容一些旧项目 (点名 TVM) 而使用了较早版本,导致新项目各种兼容性问题。在 Conda 中重配。
安装 Anaconda3
12345678910111213root@pve:~/share/project/.env/Anaconda3# chmod 777 Anaconda3-2024.10-1-Linux-x86_64.sh root@pve:~/share/project/.env/Anaconda3# ./Anaconda3-2024.10-1-Linux-x86_64.sh ...Do you accept the license terms? [yes|no]>>> yes...You can undo this by running `conda init --reverse $SHELL`? [yes|no][no] >>> no...Thank you for ...
常用命令(二)
Basis
Misc
Linux 查看显卡
1lspci | grep VGA
NVIDIA / DCU
1[nvidia|hy]-smi
CUDA Version
1nvcc --version
CPUs / Core(s) per socket
12nproclscpu | grep 'Core(s) per socket'
查看 Pytorch 版本
1pip show torch torchvision
查看 Nvidia 驱动
1ls /usr/src | grep nvidia
查看内核 Nvidia 驱动
1cat /proc/driver/nvidia/version
内核驱动版本重编
12apt-get install dkmsdkms install -m nvidia -v <version>
Nvidia 驱动卸载
123apt-get purge nvidia-*apt-get updateapt-get autoremove
搜索安装包
1apt search nvidia
安装 Nvidia 驱动 [源的问题,加不了 v ...
双卡 3090 环境配置
双卡 3090 环境配置
Setup
其实是内核问题,有人做实验换了一个有问题的内核。最后相当于升级了一下 Nvidia 驱动。
过程不详述,摘要如下。
检查 lspci | grep VGA 有设备,但 nvidia-smi 报错
准备环节。apt update && apt upgrade
执行 2. 报错,换源 + 更新 GPG Key
卸载旧驱动 v535.183
查找可用驱动
这里 apt install nvidia-driver-535 安装不了,应还是源的问题。把 535 去掉,默认安装最新 v535.216
重新测试 nvidia-smi 报错。排查,内核和显卡驱动版本不一致,仍为 v535.183
重新编译
执行 8. 报错,根据日志,切换为 GCC 12
编译后 reboot 再检查 nvidia-smi 成功点亮。
检查输出
References
NVIDIA 驱动失效简单解决方案 NVIDIA-SMI has failed because it couldn‘t communicate with the NVIDIA dr ...
论文阅读 - 压缩感知
Compressive Sensing
Papers | 优化
论文
简介
ISTA-Net
参考 [1] [2] [3] [4]。DNN 用于稀疏基 (变换) 矩阵之开山作,必读。
AMP-Net
当采样矩阵 A\textbf{A}A 服从高斯分布,迭代优化过程可以看作是一种去噪 (denoising) 过程。
CSNet
正则项使用带残差块的网络建模。
OCTUF
有一个惯性项,可以加速收敛。
Papers | Diffusion
Diffusion 逐时间步去噪的过程与 DUNs 将迭代阶段 (phase) 映射到网络块的过程是类似的,近年的工作尝试将其用于压缩感知重建。
论文
简介
IDM
见 Reduction/IDM/
DMP-DUN
参考 [5]。
阅读笔记
合集 - Compressive Sensing
关于论文《ISTA-Net》的研究心得-CSDN博客 ↩︎
【论文阅读笔记 2】ISTA-Net: Interpretable Optimization-Inspired Deep Network ...
论文阅读 - 图像修复与复原
Image Inpainting & Restoration
综述
论文 | 经典 | 最新
图像修复(Inpainting)技术的前沿模型与数据集资源汇总_image inpainting-CSDN博客
Papers | Inpainting
论文
简介
Context Encoder
开山作
GSDM
Diffusion-based / 针对 STR + HTR
MxT
Mamba + Transformer
Papers | Restoration
论文
简介
Instruct-IR
引导的图像复原
LIR
网络结构优化
阅读笔记
合集 - II & IR
ThinkPad T490 清灰换硅脂
ThinkPad T490 清灰换硅脂
25.04.15
前言
买了新笔记本之后,这台从 19 年开始陪伴我的 ThinkPad 便成了牛夫人。当年的工程师神机,如今只是沙盒 + 下载器。而购置六年,从未清灰,终于在最近开始频繁开机蓝屏重启。探出风口,烫手且无风,清灰已是迫在眉睫。
工具
下次记得买压缩气瓶。
硅脂 | 霍尼韦尔 7950,后来看大家推荐利民 TF7 更多一些
螺丝刀,刮片
气吹,毛刷,清洁布
记录
参考 [1] [2] 进行操作。拆 D 壳 → 拔电源插线 → 放静电。T490 的风扇、热管和导热板是一体的,拔完风扇插线,按标号顺序倒序拆卸螺丝即可取下。
清灰。很多灰是油性的,顽固粘在鳍片上。没有买气瓶是败笔,只能刷子刷起浮灰再用气吹吹走,如此反复。或用纸和清洁布,总之处理许久,肉眼可见的灰是清完了。
涂硅脂。
插回电池后开机测试,风扇运行正常。装机前记得清理 D 壳进出风口,这个就没怎么娇贵了,硬毛刷也可以。重新开机运行,从出风口久违地感受到气流。
总结
至此,清理完成。逐渐熟悉拆装机,预感下次效率会大大提升。旧电脑放着吃灰怪可惜的,目前能想到的用 ...
CV 基础(一)
Basis Ep.1
摘录自网页。
Classification & Regression
In classification, the goal is to assign input data to specific, predefined categories. The output in classification is typically a label or a class from a set of predefined options.
In regression, the goal is to establish a relationship between input variables and the output. The output in regression is a real-valued number that can vary within a range.
In both supervised learning approaches the goal is to find patterns or relationships in the ...
CV 基础(二)
常用
损失函数
BCE Loss
二值交叉熵(Binary Cross Entropy, 简称 BCE)损失函数是二值图像分割中的常用损失函数之一。它用于衡量模型预测的二值输出与实际标签之间的差异。下面是对 BCE 损失函数的详细解释。
Lbce=−1N∑i=1N(yi⋅log(y^i)+(1−yi)⋅log(1−y^i))\mathcal{L}_{bce} = - \frac{1}{N} \sum_{i=1}^{N} (y_i \cdot \log(\hat{y}_i) + (1 - y_i) \cdot \log(1 - \hat{y}_i))
Lbce=−N1i=1∑N(yi⋅log(y^i)+(1−yi)⋅log(1−y^i))
基于交叉熵的概念,交叉熵是一种衡量两个概率分布之间差异的指标。在二值图像分割中,真实标签 yiy_iyi 和预测概率 y^i\hat{y}_iy^i 可以被看作两个二元分布。其中
yiy_iyi 是第 iii 个像素的真实标签(0 或 1)。
y^i\hat{y}_iy^i 是模型预测的第 iii 个像素属于前 ...
CV 基础(三)
机制与模块
简化通道注意力 (Simplified Channel Attention)
简化通道注意力是一种通过关注特征通道的重要性来增强模型表达能力的方法。该技术的基本思路是通过学习每个通道的权重,来动态调整输入特征图中不同通道的重要性。具体来说,模型会计算各个通道的统计信息(如均值或最大值),并通过一个小的神经网络生成每个通道的注意力权重,这些权重随后会被用来加权特征图的各个通道。这样,模型能够更有效地利用重要的特征信息,抑制不重要的通道。
门控技术 (Gating)
门控技术是一种通过引入可学习的门控机制来控制信息流动的方法。它通常用于处理序列数据或特征选择。门控结构可以决定哪些信息应该被保留,哪些应该被丢弃。例如,LSTM(长短期记忆网络)中的门控机制可以根据当前输入和历史状态动态调整信息的传递。通过这种方式,模型可以在复杂的任务中更好地捕捉长距离依赖关系和关键信息,从而提升模型的性能。
这两种技术的结合使用,有助于增强模型的表现能力,特别是在处理复杂数据和特征时。
MetaTransformer
?
Inverted Residual Block
?
关于 Tr ...
内存体系结构(一)
Memory Organization
Linux Swap Memory
Swap memory, also known as swap space, is a section of a computer’s hard disk or SSD that the operating system (OS) uses to store inactive data from Random Access Memory (RAM). This allows the OS to run even when RAM is full, preventing system slowdowns or crashes.
以下引用来自于 All About Linux Swap Space:
Linux 将物理内存分为内存段,叫做页面。交换是指内存页面被复制到预先设定好的硬盘空间(叫做交换空间)的过程,目的是释放这份内存页面。物理内存和交换空间的总大小是可用的虚拟内存的总量。
swap 支持由 Linux 内核和来自 util-linux 包 软件包的用户空间实用程序提供。
What is ...