技术视野记录Ubuntu KDE 24.04美化过程
1. 先安装neofetch命令，观察自己的Plasma版本，目前主流应该是5，未来可能会出6，如果自己下载其它主题，注意主题兼容的Plasma版本。 2. 安装ocs-url。打开网站，点击右侧的Download，选择deb文件下载，然后安装一下这个deb文件。 3. 安装主题。打开网站，去下载一个Appl
3 分钟阅读829 字阅读全文
TOPIC COLLECTION · 8 篇文章
默认分类
一些有用的发现，一些值得记录的尝试。
默认分类
每一次探索，都值得被记录huggingface离线加载评价指标
1. 打开huggingface,搜索要下载的离线指标。可以点一下下面的按钮来展示所有指标。 2. 以rouge为例，找到rouge的图标块，点击一下进去。 3. 点一下右上角的files 4. 再点一下，获取克隆仓库命令。 5. 执行刚刚获取的克隆代码命令。 6. 安装它的依赖。网络不好的用户，第一行eva
1 分钟阅读165 字阅读全文
datasets离线加载huggingface数据集方法
使用场景 - 服务器能上国内网不能连外网（指外面的国际网），例如国内的阿里云服务。 - 或者没有联网功能（但是可以通过文件上传），比如具有保密功能的局域网服务器。 方法1 - 前提：本机能连外网（如果本机也连不上外网，那就可以试试看第三方镜像站有没有对应数据集了） - 思路：本地在线加载数据集，然后导出数据集
6 分钟阅读1,843 字阅读全文
Ubuntu24.04版本下实现gcc版本的快速切换
背景 - 本文将介绍如何在Ubuntu24.04版本下实现gcc版本的快速切换。 - 由于cuda12.1不支持最新的gcc-13，所以我们需要手动安装gcc-11/g++-11，并且在使用cuda时候将默认gcc版本切换成gcc-11，但是在更新内核或者nvidia驱动时有需要还原到gcc-13，否则lin
5 分钟阅读1,626 字阅读全文
利用llamafile构造傻瓜式，支持多平台启动的大模型
编译llamafile 1. 准备工作：Ubuntu 22.04系统，make/gcc/g++/wget/unzip已安装，如果有独显，可以安装好独显驱动（例如英伟达显卡可以安装一下cuda） 2. 下载源码，目前最新版是0.6.2 3. 修改源码，默认配置是llama的，我准备用qwen1.5,所以将默认的
3 分钟阅读713 字阅读全文
VSCode调试huggingface LLM
很多小伙伴在用vscode的时候发现无法给huggingface下载的LLM断点调试，主要原因是，huggingface的transformers包，在加载模型的时候，会copy一份模型到系统cache路径，所以你在自己下载的模型路径那里打断点是没用的，因为这个地方代码就没执行，执行的是它的克隆兄弟。 当然，
4 分钟阅读1,200 字阅读全文
上传并发布包文件到PyPI
参考链接 1. https://segmentfault.com/a/1190000008663126 2. https://packaging.python.org/en/latest/tutorials/packaging-projects/ 教程 1. 去官网注册一个账号，记住你的用户名和密码。pypi
1 分钟阅读227 字阅读全文
默认分类发布日期未收录
python调试 pybind对应的c++代码
- 参考链接 准备工作 1. 安装好Vscode 2. 安装好python, python extend, c++, c++ extend插件 3. 安装python C++ Debugger插件 4. 安装好gdb, pybind-dev 5. 以下代码均适用于ubuntu,理论上windows也可以用，但
2 分钟阅读404 字阅读全文