现在很多大模型越训练越丧失随机性或者说创造性。这篇论文提出了一个简单且无需训练的方法，只需要加一句提示词，就解决了LLM在经过对齐训练（比如RLHF）后出现了”模式坍塌“（Mode Collapse）问题，即模型的输出变得单一、缺乏创造力。

因为WSL2是运行在win环境中的。我对于WSL2能使用中文字体的需求主要来自于python画图的时候能和win下使用相同的代码（使用相同的字体文件）而不乱码。所以最好的方法当然是直接使用win的 C:\Windows\Fonts 目录下的字体文件啦。

对于一台从未安装过wsl的win11系统，在命令行中输入 wsl --install 即可开始安装。

一年前，我写下“一蓑烟雨任平生”，那句话里，失落和不甘远大于豁达。毕竟，“成功参赛奖”五个字，对我这个一头扎进数模、渴望着“集训队”光环、渴望着获奖的人来说，打击太大了。而一年后，当“国家二等奖”这五个字到来时，我却出奇地平静。

Linux服务器部署0.64.0版本frp并配置systemctl，Windows安装frpmgr管理多服务器多连接。

增加WSL虚拟硬盘大小

绪言

今天在WSL上训练模型，训练到Epoch [17/40]时出现了

1
2
3
4
5

"/home/xxx/anaconda3/envs/tjjm/lib/python3.12/site-packages/torch/serialization.py", line 784, in __exit__

    self.file_like.write_end_of_file()

RuntimeError: [enforce fail at inline_container.cc:626] . unexpected pos 35558976 vs 35558864

发现是保存模型权重文件时失败了。

1
2
3
4
5

(tjjm) xxx@xxx:~$ df -h
Filesystem      Size  Used Avail Use% Mounted on
drivers        1000G  871G  130G  88% /usr/lib/WSL/drivers
/dev/sdc        251G  239G     0 100% /
C:\            1000G  871G  130G  88% /mnt/c

发现是WSL硬盘满了。但是此时WSL所在的C盘仍然有空间。

查资料大概得知，大概是这么个回事。

AI时代，一些普普通通的游戏卡的价格也开始越发魔幻；在大显存的需求下，魔改卡也层出不穷。到底哪张卡最值得购买？哪张卡溢价严重？这次我想从一个购买者的角度出发，不考虑显卡的零部件成本，只考虑性价比，来估算目前市面上的“高性价比显卡”到底是否真的那么有性价比。

这篇文章其实内容不多，难度不大，只是自己记录一下。Arisu拷打了我几次我在阿里云上花钱购买SSL证书一事。最近，一年将至，阿里云已经天天给我发邮件提醒我续费了。今天下午有点时间，就干脆换成Let's Encrypt吧。

起初的原因是，想要跑一个用到了mamba-ssm的项目，故尝试在wsl中配置mamba-ssm库。提示需要pip install mamba-ssm后报错频繁，遇到了许多问题。查阅了很多blog和issue，安装了很多次环境，仿佛已经对注意事项倒背如流，但是就是无法解决最后的selective_scan_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol: ZN3c107Warning……

你知道的，我一直是qwen的粉丝；
至于ds，在r2出来之前我祝他好运。