LLM基础设施 LLM 技术栈 2025年5月27日，蚂蚁开源在第⼗届技术⽇上，重磅发布了《2025 ⼤模型开源开发⽣态全景与趋势》报告（以下简称“报告”），其中，生态全景图收录了包括智能体应⽤层和模型基础设施层的 135 个项目。 ...

从CPU到GPU再到TPU 总结 【2020-10-28】CUDA编程入门极简教程 简介 2006年，NVIDIA公司发布了CUDA，CUDA是建立在NVIDIA的CPUs上的一个通用并行计算平台和编程模型，基于CUDA编程可以利用GPUs的并行计算引擎来更加高效地解决比较复杂的计算难题。 ...

我花了六个月构建了一个没人想要的东西。 不是因为我懒。我拼命工作。熬夜。周末也干。全情投入。 问题在于我构建的是我"应该"构建的东西。我看了看我这个领域其他人都在做什么，然后做了一个版本。复制了模式。跟了模板。 ...

1 背景知识 1.1 Ceph简介 Ceph是当前非常流行的开源分布式存储系统，具有高扩展性、高性能、高可靠性等优点，同时提供块存储服务(rbd)、对象存储服务(rgw)以及文件系统存储服务(cephfs)。目前也是OpenStack的主流后端存储，和OpenStack亲如兄弟，为OpenStack提供统一共享存储服务。使用Ceph作为OpenStack后端存储，具有如下优点： ...

1 背景知识 1.1 OpenStack Cinder简介 OpenStack Cinder为OpenStack提供块存储服务，其功能类似AWS的EBS服务，目前使用最多的是为OpenStack Nova虚拟机提供虚拟硬盘功能，即把volume挂载到虚拟机中，作为附加弹性硬盘使用，关于OpenStack Cinder volume挂载到虚拟机的过程分析可以参考之前写的博客OpenStack虚拟机挂载数据卷过程分析，这篇博客也是了解本文内容的基础。 ...

写在前面 从2013年开始折腾OpenStack，到目前Pike版本已经发布，也有好几年的时间了。在使用过程中，我发现有很多很有用的操作，但是却很少被提及。这里我不直接点明我要介绍什么，直接抛出以下几个问题： ...

1 关于OpenStack OpenStack是一个IaaS开源项目，实现公有云和私有云的部署及管理，目前已经成为了最流行的一种开源云解决方案。其中提供计算服务组件Nova、网络服务组件Neutron以及块存储服务组件Cinder是OpenStack的最为核心的组件。这里我们重点关注Nova和Cinder组件，Neutron组件将在下一篇文章中详细介绍。 ...

1 Mistral背景 Mistral是一个OpenStack生态圈中比较新的项目，该项目的目标是： The project is to provide capability to define, execute and manage tasks and workflows without writing code. 截至到目前开发还不到2年，最初是由Mirantis公司贡献给Openstack社区的工作流组件，提供Workflow As a Service服务，类似AWS的SWS(Simple Workflow Serivce)，Hadoop生态圈中的oozie服务。它虽然没有Nova、Cinder等核心组件那么流行，部署率也不是很高，社区Pike版本的统计还没有出来，Ocata统计中Mistral的成熟度为1/7，部署率为5%，参考OpenStack Mistral，但还是得到很多开发者和用户关注，项目活跃度还是比较高的。 ...

1 OpenStack基础 1.1 OpenStack组件介绍 OpenStack是一个IaaS层的云计算平台开源实现，其对标产品为AWS。最开始OpenStack只有两个组件，分别为提供计算服务的Nova以及提供对象存储服务的Swift，其中Nova不仅提供计算服务，还包含了网络服务、块存储服务、镜像服务以及裸机管理服务。之后随着项目的不断发展，从Nova中根据功能拆分为多个独立的项目，如nova-volume拆分为Cinder项目提供块存储服务，nova-image拆分为Glance项目，提供镜像存储服务，nova-network则是neutron的前身，裸机管理也从Nova中分离出来为Ironic项目。最开始容器服务也是由Nova提供支持的，作为Nova的driver之一来实现，而后迁移到Heat，到现在已经独立为一个单独的项目Magnum，后来Magnum的愿景调整为主要提供容器编排服务，单纯的容器服务则由Zun项目接管。最开始OpenStack并没有认证功能，从E版开始才加入认证服务Keystone。 ...

写在前面的话 自今年3月份以来就没有写过博客了，主要是由于工作的原因，加上拖延症，中断了大约半年时间。今天重新捡起来,准备好好总结反省这5个月时间的所得多学，记录下来防止以后又忘了。 ...