调研
*勇洪逸群
撰写
洪逸群
“
近年来,由于开源和国产数据库的崛起、分布式和云计算技术的广泛应用以及企业的数字化需求愈加复杂等因素的驱动,数据库管理和运维的重要性与日俱增。数据库管理平台能够有效解决当下数据库管理和运维中的痛点问题,从而获得了众多大型企业的部署和使用。由此,传统的商业数据库厂商靠其生态垄断市场的局面已经结束,数据库管理平台厂商将与开源和国产数据库厂商合作共生,共同构成新的数据库生态体系。数据库管理平台市场空间广阔,对于该市场中的参与者,产品、技术和商业化三方面的能力将会是其成功的关键要素。
数据库作为现代数字基础设施的核心,支撑了企业对数据存储和处理的各种需求。而用户需求在不同时期的变化,加上技术的进步,则推动了数据库产品和生态经历了不同的发展阶段。
年左右之前,在数据库市场被关系型数据库主导的阶段,用户使用数据库通常只能选择厂商将“DBMS+工具+服务”绑定的方式。当时以Oracle、IBM以及微软为代表的几家商业数据库厂商,凭借着领先的数据库产品,以及完善的原厂或第三方工具和服务,几乎垄断了市场。
然而近年来,数据库市场已经呈现出各种关系型与非关系型数据库、开源与商业化数据库并存的局面,数据库的使用方式也发生了很大变化。一方面,众多厂商基于开源技术向市场推出了数据库产品;另一方面,越来越突出的数据库管理和运维难题,也推动了数据库管理平台这一新品类工具的出现和发展。
为了探明数据库管理平台在国内的发展机会,爱分析将通过分析数据库管理平台发展的驱动因素以及市场趋势,阐明国内数据库管理平台市场的独特价值与发展空间。
01
多重因素驱动下,数据库管理和运维的重要性与日俱增
通常,从用户需求的角度而言,一个完整的数据库解决方案需要包括三个方面的内容:核心的数据库管理系统(DBMS),支持用户做数据库开发、管理和效率提升的周边工具,以及针对数据库的部署和运行的支持服务。
在传统的“DBMS+工具+服务”数据库生态下,用户愿意为使用数据库付费的主要原因并不是看重数据库产品本身的软件授权,而是为了获得与其配套且绑定的工具和服务所带来的易用、安全等特性。因为完善的原厂或第三方工具和服务能够保障系统的稳定性与安全性,遇到故障能够及时解决,系统出现问题也能得到外部的兜底处理。
然而最近十多年来,数据库的种类与数量、企业的IT体系、以及数字化转型的业务要求都发生了重大变化。这些变化冲击了传统的数据库生态,在新的市场格局下,数据库产品与周边的工具和服务不再绑定;为数据库提供统一管理和运维的平台型工具也逐渐走向台前,变得越来越重要。
首先是开源和国产数据库的崛起带来数据库的多样化,以及相关工具和服务的缺失。
近年来,开源数据库已经成为了业界共识。根据全球数据库管理系统排名网站DB-Engines的数据,开源数据库的流行度逐年上升,从年1月的35.53%上升到目前年7月的51.35%,并在年1月首次超过了商业数据库。与此同时,截至年7月,开源数据库的种类数量达到了个,超过商业数据库的个。
图1:开源和商业数据库流行度趋势
图2:开源和商业数据库数量对比
从企业用户的角度而言,开源数据库的崛起,一方面是由于企业在数据存储和处理需求剧增的情况下,难以承受使用商业数据库越来越高的成本,而开源产品使用成本很低甚至免费;另一方面是由于企业数据应用的场景日益复杂,传统的关系型数据库不能很好地支持这些场景,众多新型的关系型和非关系型数据库应运而生,而它们通常都诞生于开源社区。
然而开源数据库也有明显的弊端。因为缺乏完善的工具和服务,企业需要投入较高的人力和时间成本去实施和部署软件,需要自行考虑数据安全、效率、审计等管理方面的问题,运行中出现的系统问题也难以保证及时有效地解决。尽管目前有不少商业化公司基于开源技术推出了带有企业级特性的数据库,但其工具和服务通常只针对自己的产品,很难覆盖如此多数量的开源数据库。
此外,国内“信创”要求也进一步促进了数据库的多样化及其管理难题。“信创”作为一项为保障信息安全的国家战略,对国内的IT基础设施等领域的国产化替代产生了重要的推动作用,尤其在近年来新基建的背景下,这种效应愈发明显。具体到数据库领域,国内最近几年涌现出了一大批国产数据库公司,根据中国信通院的统计,截至年5月,国内数据库厂商达到了80家。与此同时,国内金融、制造、能源等重要行业纷纷在数据库改造中选择国产产品。
图3:国产数据库厂商成立时间分布
其次是分布式、云计算技术的广泛采用增加了数据库多节点和云端管理的难度。
传统关系型数据库的集中式架构缺乏弹性伸缩能力,因此在数据量爆发式增长,数据结构非常复杂,并且数据分析的实时性和智能化要求越来越高的当下,传统数据库在容量、计算性能、使用成本、以及应对业务需求等方面出现了明显的瓶颈和不适应。
分布式数据库将数据的存储和计算分散在多个节点,因此具备很高的扩展能力、使用成本较低,同时能够满足用户对海量异构数据高并发、实时性的处理需求,从而被企业用户所认可,并越来越多地使用。云计算技术由于可以帮企业实现资源池化,具备多模式、多租户的特点,缓解了企业的节点数急剧增加带来的扩展性、可用性不足的问题,因此更进一步促进分布式数据库的使用。
但与此同时,分布式架构下企业节点数的急剧增长,以及云端部署将数据库的运行环境从物理主机转变为各种虚拟化、私有云、公有云甚至容器带来的管理的复杂性,也为数据库的管理和运维带来了新的挑战。
最后是数字化转型背景下,企业对数据处理的敏捷性、安全性和可用性提出了更高的要求。
在业务数字化已经无所不在的当下,企业对数据处理的能力也提出了更高的要求。比如需要数据平台具备敏捷性以快速响应各种业务应用,需要高可用性以保障“7*24小时”的不间断服务,需要数据底座具备更高的安全性以应对监管要求,以及保障用户数据的安全。这些要求也需要更完善,更强大的数据库管理和运维能力来支撑。
国内企业对私有云和混合云的广泛采用,则造就了国内外数据库市场的根本差异。
在对云服务的采纳方面,国外市场以公有云为主导,因此企业在从本地部署的传统关系型数据库Oracle、DB2等逐渐过渡到公有云平台的过程中,数据库的管理和运维需求基本都能够被公有云厂商所提供的DBaaS和dbPaaS层很好地满足。
然而国内市场因为受*策监管、行业特性以及观念等因素影响,私有云和混合云长期占据重要位置将会是中国云计算市场的特色。中长期来看,国内的金融、电信、*府、国有大型企业等用户都会主要采用私有云,而零售、制造等行业偏中小型公司则会构成国内公有云的用户主力。
综上所述,开源数据库已经超越商业数据库成为主流,并且随着时间的推移,开源数据的市场份额将有望进一步提高,这推动了国内外一众商业化公司围绕开源技术提供相应的企业级产品。与此同时,类型众多、但工具和服务相对缺失的开源数据库,以及分布式数据库和云计算技术应用下,企业节点数急剧增长带来的管理和运维难题,加上数字化企业对安全性、可靠性等方面更高的要求,给企业带来了远超以往的数据库管理和运维的需求。
而中国市场的差异,一方面使得数据库市场存在大量国产替代的需求,各种类型的国产和开源数据库会被广泛使用;另一方面,私有云和混合云会是国内长期的主流模式。这些差异凸显出了国内数据库管理和运维的长期重要性,并催生出数据库管理平台这一独立的细分市场。
02
数据库管理平台将改变数据库生态,其市场空间广阔
数据库管理平台,或称数据库云管理平台(dbPaaS),是当前业内数据库战略中的一种重要产品形态。其通过平台化的产品和工具整合多种类型数据库资源,将数据库的管理、运维、审核、安全管控等工作从传统的手工分散模式,转变为对数据库资源统一和精细化地管理模式。
数据库管理平台统一化、平台化、系统化、自动化的能力有效解决了新格局下数据库管理的痛点。
1)通过提供多基础设施的整合能力,将多种类型的数据库纳入管理的范围,并将所有零散的数据库工具整合起来为企业提供统一服务,从而降低系统复杂性,避免重复实施建设、提高运行效率。
2)平台化的工具能够覆盖数据库全生命周期,以及涵盖多种功能的管理。数据库管理平台包含监控、性能分析、巡检、审核、运维、安装部署、变更、SQL执行、数据迁移、安全管控等众多功能模块,这样的平台体系可以满足客户多种多样的管理需求。
3)能够将数据库的运维流程、运维规范等流程制度标准化,并为企业建立完善的数据库管理体系,从而可以让数据库运维更加精细、风险更低、效率更高,也可以使企业发现和跟踪各种重要非紧急类问题,填补传统监控系统的不足。
4)通过AI技术实现自动化、智能化管理。传统的数据库运维采用的是半手工半脚本式的模式,在数据库种类不断丰富、数据节点急剧增加的当下,传统模式已经不能支撑企业的需求。通过机器学习、RPA等AI技术可以将部署、巡检、数据采集、审核等流程自动化或半自动化,减少重复的人力劳动;同时问题分析,监控预警等方面的智能化,让机器能够在海量的监控指标中发现人力难以发现的深层次问题,并实现自动故障诊断和一键故障处理等能力。
金融、制造、能源等行业正在率先积极实践数据库管理平台的搭建和使用。
对于拥有数据库数量众多,IT系统极其庞杂的金融、制造等行业企业而言,数据库管理平台对他们的重要性与日俱增。例如银行业,一些理念先进的大型银行早在几年前就开启了平台搭建工作。
根据互联网公开资料,某大型股份制商业银行自起在业内率先着手建设dbPaaS统一数据库管理平台,已于生产环境纳管了数千不同类型的商业和开源数据库实例,经过近3年的持续建设,搭建起一套标准化、自动化、集中化、智能化的统一数据库管理平台。该平台显著提升了数据库运行质量和效率,提供了更便捷的运维工作方式;建立了完善的数据库性能容量分析和问题管理体系,发现和跟踪解决各类问题;建立起面向开发、测试和运维人员的自助式平台,有效提升数据库相关代码开发质量;提高了软硬件资源的利用效率,加快交付,同时降低了无效占用;与企业内部整体IT管理运维和安全管控系统整合,让数据库不再成为孤岛;更为重要的是整个数据库管理平台的确立,为下一个十年打下良好基础,使得企业可从容面对复杂的IT基础环境变化和长远的数字化转型挑战。
同时,根据爱分析的调研,国内有诸多金融、制造、电信和能源等行业头部企业已经完成或正在分阶段建设数据库管理平台体系,并且取得了不错的效果。
数据库管理平台与开源流派数据库将共同构成新的数据库生态体系。
传统的几家商业数据库厂商靠其生态垄断市场的局面已经结束,由于IT体系的变化、各种功能的开源数据库越来越多,企业的业务需求越来越复杂,以及国内外市场的差异等原因,国内独立的第三方数据库管理平台将会越来越重要。
爱分析认为,国内数据库市场未来将会分化为以开源流派为主的数据库厂商与数据库生态软件即管理平台厂商在两个方向上发力,共同服务于国内的数据库市场。在这个过程中,企业对数据库的使用方式也会从选择单个厂商的“DBMS+工具+服务”生态模式,切换成选择“开源和国产数据库+数据库管理平台“的模式,并且成为国内市场的主流。而传统的数据库服务中大部分人力工作都会被软件产品的自动化能力替代,模式也会发生变化。
图4:数据库生态体系演进趋势
数据库市场规模巨大,数据库管理平台有机会占据比数据库核心产品更大的份额。
数据库作为数字基础设施的核心,其市场空间巨大。根据中国信通院的数据,中国数据库市场规模在年达到了.9亿元,预计到年,市场规模将达到亿元,年复合增长率(CAGR)为23.4%。
图5:中国数据库市场规模及增速
在传统的数据库生态模式下,用户使用数据库的成本主要包括了数据库产品的软件授权,以及配套工具和维护服务的费用,形成了一个有机互补的体系。
而在新的生态体系下,开源数据库的授权费用很低甚至被完全免除。但使用开源软件并不意味着企业用户对数据库服务能力的需求会有所减弱,相反,用户对数据库原厂商或者以数据库管理平台厂商为主体的生态体系的依赖性反而会显著增强。因此,随着开源逐渐成为基础软件的主导力量,用户原先在数据库软件授权上的费用投入将会大量转向数据库管理平台这类生态体系产品。
基于上述原因,爱分析认为,随着数据库市场的进一步发展,数据库管理平台在未来将会占据整个数据库市场愈来愈多的份额,甚至是主要的份额。
03
数据库管理平台关键成功要素分析与典型厂商介绍
数据库管理平台的关键成功要素
经过近几年的发展,数据库管理平台在国内已经形成了一个初步的市场,进入快速发展期,并吸引了越来越多的专业厂商加入。
由于数据库管理平台市场还处于相对早期的阶段,格局未定。为了理解在这个市场中,什么样的厂商能够占据主导地位,爱分析通过对市场需求和行业实践进行分析,并结合对业内专家的调研结果,从产品、技术和商业化三个层面总结出了数据库管理平台市场的关键成功要素。
1)产品层面。厂商需要对数据库关键技术和大型软件架构有着非常深刻的理解,并且需要具备企业级基础软件研发能力,以形成平台化的dbPaaS层,从而提供对多类型数据库的全生命周期管理能力。与此同时,厂商需要能够提供多样性和复杂性都远超传统工具类应用的产品功能,并能不断扩展。
2)技术层面。厂商需要具备数据库底层相关核心技术,能够提供企业级的基础平台框架,支撑海量的数据提取、运算和交互,解决大数据和云计算环境下数据库管理所面临的各种难题,同时能够支持深度智能化分析和优化能力。
3)商业化层面。厂商产品需要能够获得头部标杆用户的广泛认可和采用,并获得较高的复购率;能够通过标准化的产品,实现轻交付,达到软件产品的最大价值。
典型厂商新数科技介绍
在国内市场,新数科技在业内率先提出了数据库管理平台的概念,并且已经积累了大量标杆客户案例。同时,其核心团队大都是曾就职于IBM、Oracle的数据库资深专家,有着丰富的数据库软件研发经验,对行业有着深刻理解和技术积累。因此新数科技在产品、技术和商业化能力上都具有一定的行业代表性。
在产品层面,新数科技能够为用户搭建一体化的数据库云管理平台ShinDataDMP,其产品体系采用微服务架构,能够将所有功能模块化,支持用户灵活使用;平台包含的功能模块众多,目前平台有20多个模块,基本完全覆盖了企业现阶段对数据库管理平台的功能要求;并且目前支持接入的数据库种类众多,在业内领先。此外,新数科技也在基于管理平台布局拓展相关数据库软件产品的开发,推出了数据迁移复制平台、数据库安全管控平台以及基于开源和云的数据库解决方案产品ShinDB。
图6:新数科技产品矩阵
在技术层面,新数科技给用户提供了一个PaaS平台级的成熟开发框架,具有很强的扩展性,用户可以在平台上根据需要自行添加定制监测指标,取数逻辑,运维流程和可视化页面展现等;AI和大数据分析技术的深度应用,实现了数据库变更运维、巡检报表等方面的自动化,以及性能容量分析、问题诊断和故障自愈等方面的智能化;同时,新数科技研发团队不断研发和积累了大量数据库底层技术,包括数据库中间件、高可用集群、容器云和基于日志解析的数据同步和比对等,并将其应用于开源和云计算等技术场景,为用户提供更具通用化、稳定性、安全性、高承载和高性能的企业级软件产品。
在商业化层面,新数科技的商业化路径清晰,其早期重视产品打磨和行业标杆客户的确立,后续则重点在行业内深入推广。目前已经服务过了上百家银行、保险、制造、消费零售等行业内的企业客户,且获得了老客户的高复购率,产品能力已得到充分验证。同时,结合多年的研发投入和落地实践,新数科技产品化率持续提高,ShinSight和DMP等产品可以完全通过标准化方式对客户实现轻交付,并且支持云上类SaaS化和私有化两种部署模式。此外,新数科技也积极拥抱信创和开源,已完成各项信创产品兼容认证,支持和应用多项开源技术,并反馈开源社区。
04
长期目标的一致,决定了数据库生态领域内的厂商会殊途同归
数据库生态领域里不同类型厂商的目标在当前会各有侧重,但在长期则会趋于一致。
从中短期来看,随着企业的数字基础设施越来越庞大和复杂,数据库管理平台的价值会逐渐凸显。在此过程中,数据库管理平台会不断完善其功能,并成为未来数据库生态的主要入口之一。同时,数据库厂商也会专注在数据库产品的核心能力上,不断优化提升产品。
长期来看,市场各参与方会显著意识到数据库管理平台这类产品的价值。随着开源化的持续演进,数据库产品的重要厂商会逐渐把重心从中心的数据库产品转向外围的管理平台,并建立和完善自己的数据库生态体系;而数据库管理平台厂商在各项生态软件功能逐步完善后,也会切入数据库产品,成为基于开源体系的数据库全栈软件提供商。两类厂商会长期合作共生,但也会相互渗透乃至逐渐趋同。
数据库生态里不同类型的厂商最终会往一个方向收敛,但无论通过哪种路径前进,都印证了在未来很长的一段时间内,数据库生态类厂商,尤其是数据库管理平台厂商会成为这个市场中的重要组成力量。
注:点击左下角“阅读原文”,可浏览新版爱分析