llm-模型评估
LLM评估框架模块建立了多维度、全覆盖的大模型评估生态系统，涵盖通用能力测评、RAG系统评估和隐私安全检测。权威评测平台：CLiB中文大模型榜单（128个模型全覆盖，包含ChatGPT、GPT-4o、Gemini、文心一言、通义千问等商用模型，以及Qwen2.5、Llama3.1、GLM4、InternLM2.5等开源模型）、OpenCompass司南（全方位能力评估）、魔塔EvalScope（流水线式评测框架）。 ...
技术
LLM训练推理加速框架+部署
LLM推理框架+部署模块打造了全方位的大模型推理加速与部署生态，整合21+高性能推理引擎和部署平台。顶级加速框架：vLLM伯克利（业界标杆）、SGLang（超越TensorRT-LLM性能）、LMDeploy书生（工业级部署）、DeepSpeed-MII（微软推理优化）等。便捷部署工具：Ollama（本地模型管理）、LM Studio（图形化界面）、FastChat+vLLM（分布式服务）、Xinference（多模型统一接口）、OpenLLM（云端部署）等。API网关服务：LiteLLM（100+ LLM APIs统一格式）、One-API（接口管理分发）、Xi-API等。托管平台包括Together AI、Replicate、SiliconFlow硅基流动等。配套Huggingface Accelerate、llama-cpp-python等底层加速库，以及Jan.ai、LocalAI、text-generation-webui等用户友好界面，实现从本地部署到云端服务的全场景覆盖。 ...
大模型训练框架
LLM训练框架模块构建了覆盖全栈的大模型训练生态系统，集成20+专业训练框架和工具。核心框架包括：魔塔ms-swift（支持500+ LLMs和200+ MLLMs的全参数/PEFT训练）、Unsloth（2-5倍加速，80%内存节省）、英伟达Megatron-LM（超大规模transformer训练）、微软DeepSpeed（ZeRO优化器）、ColossalAI（高性能分布式训练）、Meta FairScale、LLaMA-Factory（WebUI界面，支持100+模型）、书生XTuner等。 ...
轻松掌握Anthropic官方给的五种"多Agent协作"模式
Anthropic上周发了一篇博文，标题不长，信息量极大。 核心观点只有一句话：别上来就选最复杂的架构。从最简单的能跑通的模式开始，看它在哪里卡住，再升级。 ...
Why Your “AI-First” Strategy Is Probably Wrong 为什么你的“AI 优先”策略很可能错了
99% of our production code is written by AI. Last Tuesday, we shipped a new feature at 10 AM, A/B tested it by noon, and killed it by 3 PM because the data said no. We shipped a better version at 5 PM. Three months ago, a cycle like that would have taken six weeks.我们 99%的生产代码都是由 AI 编写的。上周二，我们上午 10 点上线了一个新功能，中午进行了 A/B 测试，下午 3 点因为数据显示效果不佳而下线，下午 5 点上线了更好的版本。三个月前，这样的周期需要六周时间。 ...
达尔文.skill正式发布，一个无限进化的skill系统！
女娲.skill发布一周，GitHub star破了9000+ 前两天接受新京报记者采访的时候，她问我这个skill花了多长时间制作完成的，我有点不好意思的说实际完成初步设计的过程只有2-3小时，但其实在这个过程中经过了无比多轮的迭代，而这个迭代单纯靠我自己完全没能力做到。 ...
为什么你的“AI 优先”策略很可能错了
99% of our production code is written by AI. Last Tuesday, we shipped a new feature at 10 AM, A/B tested it by noon, and killed it by 3 PM because the data said no. We shipped a better version at 5 PM. Three months ago, a cycle like that would have taken six weeks. We didn’t get here by adding Copilot to our IDE. We dismantled our engineering process and rebuilt it around AI. We changed how we plan, build, test, deploy, and organize the team. We changed the role of everyone in the company. ...
RAG 消失之路
RAG 消失之路 总结 新结构 M-FLOW 倒锥图路由 免嵌入 Embedding Free 文件检索 树状推理 PageIndex 无检索 【2026-2-27】阿里 Sirchmunk 结束 rag 终会消失 RAG 每个环节都藏着工程”暗伤”： 切片策略是玄学：按段落切？按 Token 数切？重叠多少？切片粒度直接影响检索质量，却没有银弹。 Embedding 是黑盒：换个 Embedding 模型，检索效果可能天差地别。而且向量只是原文的一个”有损压缩”，信息必然丢失。 索引更新是噩梦：文档改一行，可能需要重新切片、重新 Embedding、重新写入。实时性？基本别想。 基础设施是成本：Milvus、Qdrant、Pinecone……光是向量数据库的选型、部署、运维就能消耗大量精力。 详见站内专题： 大模型应用技术之RAG，检索增强生成 ...
告别复制粘贴：浏览器一键剪藏到 Obsidian
前几篇教程教大家装好了 Obsidian，接上了 AI，笔记终于有了个家。 但用着用着你会发现一个问题：刷 Twitter 或者网站看到一篇好文章，想存到 Obsidian 里 — 怎么弄？ ...