背景介绍近年来以Docker为首的容器技术迅猛发展，OpenStack成立了专门的容器技术小组，负责容器与OpenStack的整合工作。经过Nova-docker和Heat-driver两次不算十分成功的实践后，社区将重点投入到Magnum项目，也就是OpenStack的Containers as a Service项目。Magnum和其他OpenStack项目一样， 利用了Nova、Keystone、Heat等已有的服务，结合了容器调度系统Kubernetes、Mesos和Swarm等，为OpenStack（公有或私有）云提供多租户、安全、灵活的容器服务。相比直接使用容器搭建集群，Magnum提供虚拟机级别的安全隔离，而与Nova-docker相比，Magnum有充分利用了容器轻量以及易迁移的特点，因此Magnum一度成为2015年温哥华OpenStack Summit的焦点项目。目前Magnum项目仍在开发中，预计2015年下半年可以正式Release，在此之前UnitedStack将带你提前体验下一代的容器服务。在UOS体验Magnum由于Magnum依赖Nova、Neutron、Keystone和Heat等OpenStack子项目，为了快速搭建Magnum环境，我们将使用社区提供的devstack。devstack是OpenStack官方维护的最小化单机版OpenStack ...继续阅读 (43)

背景介绍近年来以Docker为首的容器技术迅猛发展，OpenStack成立了专门的容器技术小组，负责容器与OpenStack的整合工作。经过Nova-docker和Heat-driver两次不算十分成功的实践后，社区将重点投入到Magnum项目，也就是OpenStack的Containers as a Service项目。Magnum和其他OpenStack项目一样， 利用了Nova、Keystone、Heat等已有的服务，结合了容器调度系统Kubernetes、Mesos和Swarm等，为OpenStack（公有或私有）云提供多租户、安全、灵活的容器服务。相比直接使用容器搭建集群，Magnum提供虚拟机级别的安全隔离，而与Nova-docker相比，Magnum有充分利用了容器轻量以及易迁移的特点，因此Magnum一度成为2015年温哥华OpenStack Summit的焦点项目。目前Magnum项目仍在开发中，预计2015年下半年可以正式Release，在此之前UnitedStack将带你提前体验下一代的容器服务。在UOS体验Magnum由于Magnum依赖Nova、Neutron、Keystone和Heat等OpenStack子项目，为了快速搭建Magnum环境，我们将使用社区提供的devstack。devstack是OpenStack官方维护的最小化单机版OpenStack ...继续阅读 (21)

优秀的开源项目正在改变传统IT，OpenStack名头最响，已经成为了IaaS的事实标准。Ceph同样颇有建树，通过其三大存储接口满足了企业的多样需求。UnitedStack有云把OpenStack和Ceph等一众开源项目的优势结合，搭建出全球最好用的高性能OpenStack云服务平台。在这个过程中，UnitedStack有云工程师对开源项目有许多的理解和分析，我们将陆续发布这些内容与大家共享，希望能够帮助大家更快的认识这些项目，避免掉进那些我们曾趟过的坑。同时，也希望大家与我们共同探讨，为更优秀的代码和架构努力。这是我们Ceph系列文章的第四篇，之前推出的三篇Ceph文章由浅入深，受到了广泛好评，我们的Ceph系列将继续深入下去，希望能给感兴趣的人带来帮助。RGW目前支持直接使用CivetWeb作为WebServer，实现HTTP请求的接受和回复，而不需要配置复杂的FCGI和WebServer了。1创建存储池通过ceph -s命令确认你的Ceph集群已经正常运行，并且集群状态是OK。运行以下命令创建rgw所需的存储池：ceph osd pool create .rgw 64 64ceph osd pool create .rgw.root 64 64ceph osd pool create .rgw.control 64 64ceph osd pool create .rgw.g ...继续阅读 (21)

优秀的开源项目正在改变传统IT，OpenStack名头最响，已经成为了IaaS的事实标准。Ceph同样颇有建树，通过其三大存储接口满足了企业的多样需求。UnitedStack有云把OpenStack和Ceph等一众开源项目的优势结合，搭建出全球最好用的高性能OpenStack云服务平台。在这个过程中，UnitedStack有云工程师对开源项目有许多的理解和分析，我们将陆续发布这些内容与大家共享，希望能够帮助大家更快的认识这些项目，避免掉进那些我们曾趟过的坑。同时，也希望大家与我们共同探讨，为更优秀的代码和架构努力。这是我们Ceph系列文章的第四篇，之前推出的三篇Ceph文章由浅入深，受到了广泛好评，我们的Ceph系列将继续深入下去，希望能给感兴趣的人带来帮助。RGW目前支持直接使用CivetWeb作为WebServer，实现HTTP请求的接受和回复，而不需要配置复杂的FCGI和WebServer了。1创建存储池通过ceph -s命令确认你的Ceph集群已经正常运行，并且集群状态是OK。运行以下命令创建rgw所需的存储池：ceph osd pool create .rgw 64 64ceph osd pool create .rgw.root 64 64ceph osd pool create .rgw.control 64 64ceph osd pool create .rgw.g ...继续阅读 (363)

写在前面的话：大家都知道使用开源软件的好处很多，但是能够把开源软件用好的却并不多。这是一篇InfoQ采访UnitedStack有云技术负责人余兴超的采访文章，从使用实践出发中谈如何使用，给希望采用开源的人带来帮助。前两天，InfoQ上有一篇关于开源如何影响数据库市场的报道。文中谈到，2014年，商业的关系型数据库仅增长了5.4个百分点，而开源数据库市场却增长了31%，可谓后劲十足。现在越来越多的企业在商业软件和开源软件之间都选择了开源。使用开源软件最明显的优势之一就是成本降低，比如我们使用开源的MySQL、PostgreSQL数据库根本不用花一分钱。但开源软件的使用门槛并不低，比如在使用之前企业需要做好调研工作，在使用过程中，企业需要知道如何与社区版本进行同步、互惠互利。UnitedStack有云是一家基于开源技术的商业公司，为了了解他们在开源软件方面的实践经验，我们采访了他们的技术负责人余兴超。InfoQ：企业在使用开源软件是应该如何选型？自研和开源之间如何抉择？余兴超：在2011年，我们决定开始做一个IaaS平台，当时考虑了OpenStack、CloudStack、Eucalyptus。名称OpenStackCloudStackEucalyptus协议Apache 2.0Apache 2.0GPL v3成熟度不成熟较成熟成熟社区活跃度非常活跃较活跃活跃语言PythonJavaJ ...继续阅读 (18)

写在前面的话：大家都知道使用开源软件的好处很多，但是能够把开源软件用好的却并不多。这是一篇InfoQ采访UnitedStack有云技术负责人余兴超的采访文章，从使用实践出发中谈如何使用，给希望采用开源的人带来帮助。前两天，InfoQ上有一篇关于开源如何影响数据库市场的报道。文中谈到，2014年，商业的关系型数据库仅增长了5.4个百分点，而开源数据库市场却增长了31%，可谓后劲十足。现在越来越多的企业在商业软件和开源软件之间都选择了开源。使用开源软件最明显的优势之一就是成本降低，比如我们使用开源的MySQL、PostgreSQL数据库根本不用花一分钱。但开源软件的使用门槛并不低，比如在使用之前企业需要做好调研工作，在使用过程中，企业需要知道如何与社区版本进行同步、互惠互利。UnitedStack有云是一家基于开源技术的商业公司，为了了解他们在开源软件方面的实践经验，我们采访了他们的技术负责人余兴超。InfoQ：企业在使用开源软件是应该如何选型？自研和开源之间如何抉择？余兴超：在2011年，我们决定开始做一个IaaS平台，当时考虑了OpenStack、CloudStack、Eucalyptus。 名称OpenStackCloudStackEucalyptus协议Apache 2.0Apache 2.0GPL v3成熟度不成熟较成熟成熟社区活跃度非常活跃较活跃活跃语言PythonJava ...继续阅读 (25)

OpenStack社区概况OpenStack的官方项目已经有154个项目，总代码行数累计超过四千万行，庞大的社区需要良好的文档来维护。OpenStack社区的文档可以说是任何开源项目都无法媲美的，每个组件都有详细的文档介绍，分别定义了格式良好的RESTful接口，甚至每个接口的参数都有详尽的解析。那我们如何通过文档来参与OpenStack社区呢？官方文档地址 http://docs.openstack.org/OpenStack文档规范OpenStack是一组Python项目的集合，而Python最常用的文档工具是Sphinx，OpenStack也不例外。通过规范的RST文件格式，开发者可以轻易地编辑和修改，并生成格式良好的文档网站。以OpenStack镜像服务Glance为例，所有文档都源文件都托管在GitHub上，就像这样。在OpenStack官方网站的服务器上，获得Glance项目的源码后，通过一行命令`sphinx-build -b html source html`就可以将所有RST文件转化成标准格式的HTML文件，然后托管到Web服务器上。开发者在 http://docs.openstack.org/developer/glance/ 就可以看到最新的文档内容了。OpenStack所有文档都是通过reStructuredText格式编写的，文件后缀为rst。这种轻量级标 ...继续阅读 (19)

OpenStack社区概况OpenStack的官方项目已经有154个项目，总代码行数累计超过四千万行，庞大的社区需要良好的文档来维护。OpenStack社区的文档可以说是任何开源项目都无法媲美的，每个组件都有详细的文档介绍，分别定义了格式良好的RESTful接口，甚至每个接口的参数都有详尽的解析。那我们如何通过文档来参与OpenStack社区呢？官方文档地址 http://docs.openstack.org/OpenStack文档规范OpenStack是一组Python项目的集合，而Python最常用的文档工具是Sphinx，OpenStack也不例外。通过规范的RST文件格式，开发者可以轻易地编辑和修改，并生成格式良好的文档网站。以OpenStack镜像服务Glance为例，所有文档都源文件都托管在GitHub上，就像这样。在OpenStack官方网站的服务器上，获得Glance项目的源码后，通过一行命令`sphinx-build -b html source html`就可以将所有RST文件转化成标准格式的HTML文件，然后托管到Web服务器上。开发者在 http://docs.openstack.org/developer/glance/ 就可以看到最新的文档内容了。OpenStack所有文档都是通过reStructuredText格式编写的，文件后缀为rst。这种轻量级标 ...继续阅读 (14)

“通过引入OpenStack这一中间层，实现了云平台统一的管理调度支配向上交付，解决了业务的灵活性问题。但是在抹平下层物理硬件差异的问题上，还不够彻底。”UnitedStack有云产品副总裁袁冬表示，“OpenStack配合超融合架构，就彻底解决了硬件的灵活性问题，很好的实现了通过标准的服务器和通用网络设备交付所有资源的目标。”超融合架构解决了什么问题？与传统架构相比，超融合架构最大的特点是所有节点的硬件是完全对等的。这样带来的好处是性能上实现线性扩展，服务能够持续更新。“除了IT资源的数量上的变化，更重要的是在业务增长的过程中，要求资源的形式也会发生变化。”袁冬说，“在这种情况下，超融合架构的价值会得到更大体现。”通过超融合架构抹平所有物理硬件之间的差异之后，用户就可以从必须关注每一台物理设备变为只需要在虚拟机出问题的时候，中止问题虚机新建虚机就可以了。OpenStack联合超融合架构，好处归结起来有三点：开源、开放、低成本。因为采用开源软件、通用硬件、第三方厂商，可以让用户对系统取得更大的自主可控能力；同时在采购成本、运维成本和替换成本方面都优于传统IT架构；但是在实施周期、扩容周期和更新周期等时间成本方面却要优于传统架构。统一存储带来的惊喜当通用硬件成为基本选择的时候，软件就变成系统差异的核心。UnitedStack有云通过两年多的时间，打磨出一套由操作系统CentOS、计算 ...继续阅读 (16)

“通过引入OpenStack这一中间层，实现了云平台统一的管理调度支配向上交付，解决了业务的灵活性问题。但是在抹平下层物理硬件差异的问题上，还不够彻底。”UnitedStack有云产品副总裁袁冬表示，“OpenStack配合超融合架构，就彻底解决了硬件的灵活性问题，很好的实现了通过标准的服务器和通用网络设备交付所有资源的目标。”超融合架构解决了什么问题？与传统架构相比，超融合架构最大的特点是所有节点的硬件是完全对等的。这样带来的好处是性能上实现线性扩展，服务能够持续更新。“除了IT资源的数量上的变化，更重要的是在业务增长的过程中，要求资源的形式也会发生变化。”袁冬说，“在这种情况下，超融合架构的价值会得到更大体现。”通过超融合架构抹平所有物理硬件之间的差异之后，用户就可以从必须关注每一台物理设备变为只需要在虚拟机出问题的时候，中止问题虚机新建虚机就可以了。OpenStack联合超融合架构，好处归结起来有三点：开源、开放、低成本。因为采用开源软件、通用硬件、第三方厂商，可以让用户对系统取得更大的自主可控能力；同时在采购成本、运维成本和替换成本方面都优于传统IT架构；但是在实施周期、扩容周期和更新周期等时间成本方面却要优于传统架构。统一存储带来的惊喜当通用硬件成为基本选择的时候，软件就变成系统差异的核心。UnitedStack有云通过两年多的时间，打磨出一套由操作系统CentOS、计算 ...继续阅读 (41)

作为主要和磁盘、网络打交道的分布式存储系统，序列化是最基础的功能之一，今天我们来看一下Ceph中序列化的设计与实现。1 Ceph序列化的方式序列化（ceph称之为encode）的目的是将数据结构表示为二进制流的方式，以便通过网络传输或保存在磁盘等存储介质上，其逆过程称之为反序列化（ceph称之为decode）。 例如对于字符串“abc”，其序列化结果为8个字节（bytes）：03 00 00 00 61 62 63其中头四个字节（03 00 00 00）表示字符串的长度为3个字符，后3个字节（61 62 63）分别是字符“abc”的ASCII码的16进制表示。 Ceph采用little-endian的序列化方式，即低地址存放最低有效字节，所以32位整数0x12345678的序列化结果为78 56 34 12。由于序列化在整个系统中是非常基本，非常常用的功能，Ceph将其序列化方式设计为一个同一的结构，即任意支持序列化的数据结构，都必须提供一对定义在全局命名空间上的序列化/反序列化（encode/decode）函数。例如，如果我们定义了一个结构体inode，就必须在全局命名空间中定义以下两个方法：encode(struct inode, bufferlist bl);decode(struct inode, bufferlist::iterator bl);在此基础上，序列化的使用就 ...继续阅读 (51)

如果非要在整个Ceph中，找出一个类最重要，我觉得非Bufferlist莫属了，原因很简单，因为Bufferlist负责管理Ceph中所有的内存。整个Ceph中所有涉及到内存的操作，无论是msg分配内存接收消息，还是OSD构造各类数据结构的持久化表示（encode/decode），再到实际磁盘操作，都将bufferlist作为基础。Ceph中bufferlist的设计还是有些复杂的，其中包含三个主要的内buffer::raw（bufferraw）、buffer::ptr（bufferptr）和buffer::list（bufferlist）。这三个类都定义在common/buffer.h中，都是buffer类的内部类，而buffer类本身没有任何内容，只起到了一个命名空间的作用。这三个类的职责各有不同：buffer::raw：对应一段真实的物理内存，负责维护这段物理内存的引用计数nref和释放操作。buffer::ptr：对应Ceph中的一段被使用的内存，也就是某个bufferraw的一部分或者全部。buffer::list：表示一个ptr的列表（std::list），相当于将N个ptr构成一个更大的虚拟的连续内存。buffer这三个类的相互关系可以用下面这个图来表示：图中蓝色的表示bufferlist，橙色表示bufferptr，绿色表示bufferraw。在这个图中，实际占用的 ...继续阅读 (37)

“原生的OpenStack并不支持统一存储，云主机服务Nova、镜像服务Glance、云硬盘服务Cinder的后端存储各不相同。这样的设计缺乏合理的横向扩展性，当系统压力增大时，必然会出现各种问题。”UnitedStack资深存储研发工程师孟圣智在51CTO举办的WOT活动中表示，“这也是我们在构建云平台的时候，重新对存储进行设计，实现了统一存储的初衷。目前，UOS云平台所有的数据都在Ceph的资源池里，包括创建虚拟机，迁移，扩容，缩容等所有的操作都可以避免数据的传输。”优化的效果每个云硬盘最大支持 6000 IOPS和170 MB/s的吞吐率，95%的4K随机写操作的延迟小于2ms。所有数据都是三副本，强一致性，持久性高达10个9。创建、删除、挂载、卸载实现秒级操作。实时快照。提供两种云硬盘类型，性能型和容量型。统一存储架构的再设计“原生的OpenStack中缺乏统一存储，后果是内耗严重，单纯从创建虚拟机虚拟机这一操作来看，通常需要1~3分钟。” UnitedStack通过将Ceph统一作为Nova/Glance/Cinder的存储后端，基于COW的卷创建和快照操作，实现了虚机的秒级创建。除此之外，还解决了虚机漂移和启动风暴等问题。如何优化操作系统和Qemu“除了架构设计将存储统一到Ceph，实现资源池化之外。对于操作系统和QEMU的优化也非常必要。”具体的优化主要包括以下方面： ...继续阅读 (17)

Ceph从2004年提交了第一行代码，至今为止已经10年了。这个起源于Sage博士论文，最早致力于开发下一代高性能分布式文件系统的项目，现在也成为了开源社区众人皆知的明星项目。特别是随着云计算的发展，Ceph乘上了OpenStack的春风，受到各大厂商的待见，Intel、DreamHost、SanDisk、CISCO、Yahoo等公司都或多或少的参与其中。RedHat更是一掷千金，直接砸了1.75亿美金将Sage创建的Inktank公司及其Ceph团队收入囊中，将其作为IaaS三大组件计算、网络、存储之一。在这十年的发展过程中，Ceph似乎越来越向着云计算的方向靠拢，最先的CephFS文件系统已经不再是开发重点，甚至开发已经陷入了停滞状态。而与虚拟化相关的RBD、RGW则成了发展重点，成为发展最快的模块。但是从代码中仍然能够看到各种遗迹，似乎在告诉后来人这段饶了一个大弯的历史。Ceph发展现在仍然快的眼花缭乱，让我们暂时停下脚步，看看经过十年发展后，现在Ceph的优势与缺点。一、优势CRUSH算法CRUSH算法是Ceph最初的两大创新之一（另一个是基于动态子树分区的元数据集群），也是整个RADOS的基石，是Ceph最引以为豪的地方。CRUSH在一致性哈希基础上很好的考虑了容灾域的隔离，能够实现各类负载的副本放置规则，例如跨机房、机架感知等。同时， CRUSH算法支持副本和EC两种数 ...继续阅读 (16)

本文转自CloudTechTime，作者宁川，编者在此深表感谢！2014年1月1日上午，程辉把共同创业的20余小伙伴聚集到由小区民居三室一厅改成的办公室。他静静的开场：“我们创业失败了”。这时距离公司成立仅仅8个月。程辉接下来一个小时分享了对未来方向的想法，然后说“我们开始第二次创业”。现场从头到尾除了程辉再无一人说话。程辉坚持发工资，只有资金补上前的最后一个月工资打了个折。就在资金链要断的时候，新的投资进来了，于是就有了今天的UnitedStack。1987年出生的程辉是湖北人，个子不高的他天生就有一股子韧性。程辉是开源云项目OpenStack最早的实践者、OpenStack基金会董事、中国OpenStack领域最活跃的布道者。2009年，程辉在新浪参与了国内第一个商用云平台SAE（Sina APP Engine，新浪应用服务引擎）的技术及运维。同时，他还在新浪组建了中国第一个专业的OpenStack团队，上线了国内第一个OpenStack云服务。2013年2月，程辉离开新浪，创立了UnitedStack，这是中国第一家专注于OpenStack开源云计算创业公司，也运营着中国第一家OpenStack公有云。如果不知道OpenStack的话，简单来说，OpenStack就是云时代的Linux。OpenStack为开源爱好者提供了一整套自由代码，可实现几乎所有类型的云环境，其目标是提 ...继续阅读 (18)