留言板

新年快乐

𝟚𝟘𝟚𝟝 顺风顺水 送走穷厄，好运登门，六六大顺。 愿往后的每一步都畅通无阻，万事顺利，未来一片光明。

再次记录： 我试了下14b的，我的6g小显存也能跑，但每秒2个字的速度，14b的感觉还行，我给了它我之前自己写的通知等模板材料，让它模仿我的框架和风格基于我提出的新的需求的情况下生成一个新的通知，14b能1次写的很像，思考过程比7b的详细很多。未蒸馏的qwen2.5-7b第一次没写好，需要给他指出问题让他重新再写个两次才行。我主要馋deepseek在回答问题时能把思考的过程显示出来，有时候遇到问题了向它提问，看它尝试解决问题的思考过程的体验很奇妙，因为某些情况下会遇到一些实在无法解决的问题（叫天天不应叫地地不灵），只能抱着“死马当活马医”问AI找灵感，deepseek展现思考过程的方式在我遇到问题时又给我扩宽了一种解决问题的途径，目前好像也只有deepseek能这样。最后我还是打算把deepseek本地蒸馏的模型用起来，虽然蒸馏的过程类似将大模型回答的答案传授给小模型，小模型的内核还是小模型本身，不算真正的deepseek大模型，但是蒸馏过的小模型在回答问题时终归是会进入深度思考并且呈现思考过程，所以在线上无法使用或因某些情况不能用时可作为备选方案。 感觉线下模型的优势主要在于：1.长文本无限制。2.api接口免费。3.性能足够情况下本地的回复速度会很快。4.一些隐私原因的需求可以无顾及提出。

这两天折腾来折腾去，下面详细说下体验感受，我rtx2060显卡，6g显存，来来回回折腾最后还是用回了未被deepseek蒸馏的qwen2.5模型。我的配置跑蒸馏后的7b-q4或8b-q4都不卡顿，回复速度挺快，主要问题就是被deepseek蒸馏后的模型回答质量不太理想，它确实会模仿deepseek深度思考的过程，但它的深度思考过程类似“画虎不成反类犬”，思考的方向很多时候都是错乱的，并且有时候会出现答非所问的情况，很像“老年痴呆、精神分裂者”，值得注意的是我发现它一般在最初回答问题时会模仿deepseek进行深度思考，但如果你连续进行提问的话，它不会进入深度思考模式，有时候会只回一句话或一个文号应付你，我怀疑这可能和我的模型规模有关，32b的蒸馏模型应该不会有这种情况。总之个人感觉8b及以下被deepseek蒸馏的模型不建议使用，推荐qwen2.5-7b模型，我测试同等规模和普通硬件配置情况下，qwen2.5不会出现“老年痴呆、精神分裂、追问答非所问、回答问题质量不佳”的问题，反而效果出奇的好，测试了好几个平常想问的问题都能回答上来，只是相比联网版的答案内容少一些。

Raid5可以炸一块，raid6可以炸两块，还说飞牛有raid6选项吗？

原来年少无知，raid5（4盘）炸了一块儿后，直接换新重建，结果还没重建完就又炸了一块儿

我已经考虑自建NAS，奈何没有选好系统，之前想使用飞牛的，但飞牛一只不支持虚拟机，无法满足需求~

Vm虚拟机不管怎么说 确实很实用 确实强

我嘞个去，竟然有麒麟用户啊！

这个系统听过 但没研究过😂

哇这么详细 我一般要查的时候都是软件一键查询 哈哈

请问那个openj9文件放在哪里解压

谢谢小新笔记坊的介绍，建议你把软件下载链接附一下，方便我们下载使用~😜

容器开机自启 docker update --restart=unless-stopped 容器ID

请问小新笔记坊，必应搜索和百度搜索哪个更好用、更全面呀？

已添加贵站 望互换链接🤳 站点名称：慢慢懂の分享站 站点介绍：记录，分享。 站点地址：https://blog.manmandong.top/ 站点logo：https://s2.loli.net/2024/12/07/U2LliTK4OmVgeWH.png

已添加贵站友链，欢迎有空回访。 ```yml - name: 凡梦星尘空间站 desc: 再平凡的人也有属于他的梦想！ avatar: https://lisenhui.github.io/imgs/avatar.png link: https://lisenhui.cn ```

2024年都还没结束，小新笔记坊的个人总结怎么就写出来啦？

都开始写年终总结啦·

写的很好，已赞赏