上一篇文章介绍到云存储项目,下一个做的项目就是统一日志。这一个项目前前后后做了一年多,版本迭代更新了很多版本,架构升级都做了3次以上。做这一个项目是收获最大的,我在这一个项目中锻炼了大型分布式系统的架构设计能力,也从0开始完全自主研发和设计的一个分布式系统。里面涉及到了很多技术,例如日志实时抓取和采集技术、数据实时传输、数据压缩、软负载均衡、zookeeper等。统一日志项目从最开始的3个人到最多的时候19人,到最后又只剩下3个人。从每天除了几GB的数据到每天处理每天几百TB的数据,从每天处理几千条日志到每天处理上百亿条日志数据。可以说做统一日志项目的每一天都是快速成长的一天,刚开始求着别人使用我们的日志平台,到后面全部都主动要求接入、到最后成为日志的标配系统,所有系统都必须接入。当时我们的口号就是让日志触手可及,我们内部的项目名称叫做loghub。在做这个项目的过程中,大家一起经常加班到凌晨,但是精神都还是很好的,下班后大家还要一起去宵夜,一起吃烧烤喝啤酒,在一起聊聊工作和技术,聊聊人生和理想。久而久之大家都非常的熟悉了,就这样大家开始逐渐建立了深厚的友谊,虽然后面大家都散到各个项目或离开了,但是还是每年组织几次活动。做每一个项目都有不同的感受和经历,这个项目我逐渐的意识到技术创新和发明的重要性,在这一个项目中我也写了很多技术发明专利,并且专利局目前已经授权了2篇。如果做技术你就
...
继续阅读
(45)