网技联年会(哈尔滨)总结

在最冷的冬天被派去哈尔滨参加网技联年会,室外太冷,室内还是挺热火的。

听同行的分享,和同行交流,学到不少东西。

第一天的会议大多是一些厂商的推广,听着比较乏味,有两场还是值得关注下,一场是腾讯资深运维专家周小军的《中国互联网有史以来最大的用户调度》,另外一场是东方网周诚分享的东方网在大数据方面的应用

周小军分享的《中国互联网有史以来最大的用户调度》,实际上是指2015年8月12日,发生在天津市滨海新区货柜码头集装箱连串爆炸事件导致腾讯某一核心数据中心受损,从而将天津数据中心的业务调度到其它数据中心以保障用户正常使用。

天津数据中心内含腾讯社交核心业务,包括QQ、空间、相册及音乐等业务。社交核心业务主要按深圳、天津和上海三地来分布部署,各支撑中国三大区域的用户访问。 其中天津数据中心承载北方用户流量,高峰期在线用户超过1亿。如果天津数据中心停运,将有30%以上的QQ用户服务受到影响。

当然,有如此大体量的腾讯肯定是做了很多措施避免单机房故障,但是当故障发生时这么大用户量的迁移工作还是很艰难的,经过24小时的技术应急大调度,QQ用户服务最终无感知地在线迁移到深圳和上海,完成中国互联网史上最大规模的用户调度。

这一复杂的技术我们可能用不到,但是听着还是有用,深层的技术原理也没有讲到,知道方案就行。

QQ及业务服务以SET的标准化方式部署(SET是一个标准化的服务模块集群),SET之间是无状态的,可随时实现横向扩容,也就是通过增加SET数量来支持业务流量。QQ SET内各模块解耦,100多个核心模块分成接入中心、状态中心、消息中心、同步中心四个中心。在此基础之上

,QQ核心服务做了三地分布(深圳天津上海),单一地区服务故障时核心服务可迅速调度到另二个区域。

1

2

通过SET部署实现了多地分布和容灾,那当故障发生时还得实现调度才行。QQ服务的调度分为外网调度和内网调度

外网调度有基于域名解析的GSLB域名调度,QQ的IP调度和APP的WNS(内部代号维纳斯)调度三种调度方式。内网调度是通过L5和CMLB内网名字服务实现。

当然这些调度方式腾讯也是有专业的运维系统实现一键调度的。这就是大公司啊,内部系统也是很强大的,附个截图

3

其实我还是比较关心数据的异地同步是如何实现的。这方面估计和阿里的都差不多。周小军的PPT将同步分了三个部分:QQ状态同步、QQ DB数据的主备同步、同步中心。

QQ状态包含了用户在离线状态、登陆终端等信息,在各个区域都是全量存储。QQ通过同步系统来完成状态信息同步,同步系统完成存储本地双份数据,还负责三地的状态数据同步。同步系统从接入中心手机状态信息,然后按照Shard组织单元汇总这些信息、然后去重,再同步给其它系统。当然这里面还有很多技术,比如同步队列、断点续传、数据延时或数据源故障导致的数据不一致性、TCP同步流容忍延时丢包、减少TCP拥塞算法、流量控制、业务过载保护等,挑战性还是挺大的。

QQ DB采用的是内部研发的分布式KV存储系统Grocery,采用类似MySQL的主从复制实现主备冗余和异地备份,跟MySQL的方式一样,支持一主多备,主负责读写,从负责读。然后另外两个异地部署两个从数据库实现备份,当主数据库出现问题时某地的从数据库提升为主数据库。

QQ空间采用的是内部研发的分布式KV存储系统CKV,通过同步中心实现多地同步。同步中心是一套消息队列服务,应用层先写数据到同步中心,然后各地区的同步读进程从队列服务中读取同步数据,并写入本地的SET。

———————————分割线————————————-

下面是东方网分享的在大数据方面的应用。

东方网分享的产品是东方头条,东方头条是2015年5月上线的新闻类产品,涵盖了PC端、移动端H5、移动APP,与今日头条类似。东方头条对大数据的应用主要是个性化推荐和自动配图。目前在生产环境中有680多台服务器,其中大部分是hadoop和hbase,也就是大多数是用在了大数据处理和存储上,这规模还是比较让人震撼的。

东方头条通过图片识别为每一篇新闻配图,在配图中,还通过人脸识别、场景识别等自动裁剪缩略图。听着还是挺新颖的。东方头条目前的分词有十几万个。

在现场我下载了东方头条的APP,发现做的还是挺好的,不过这种投入,恐怕是其它大多数同行都无法达到的。

来一张东方头条的技术架构图:

 4

———————————分割线————————————-

第二天的分享大多数是同行,听着还是比较有趣的,记得的分享主要有:合肥论坛分享的微信运营、华声在线分享的网络安全话题、龙虎网分享的技术发展历程、光明网分享的跨平时配解决方案、央视网分享的两微平台。

合肥论坛周涛宏分享的是在微信运营方面的经验,合肥论坛在微信运营方面的收入2015年是1050万,其中微信平台广告收入460万,微信代运营收入590万,这个成绩相当不错。合肥论坛的微信运营很受启发。值得学习。

合肥论坛的微信运营方向是矩阵化运营、多点布局、多点发力,运营帐号主要有两个龙头号、12个行业频道号、4个个人号和两个产品号,帐号如下图:

5

合肥论坛的微信公众号开发了多种实用功能,比如用户互动、便民服务、微信爆料、微直播等业务。在内容运营上,合肥论坛采用了用过用户调研为运营指明方向;结合本地特性,合肥论坛官方微信每日推送8条内容,以正能量的话题为主,适合网友传播;在选题策划和内容模板上都有一定的规范,使得内容符合用户口味 、符合用户阅读习惯;在推送时间上也摸索出一定规律(每日推送时间17:0020:00,网友主要阅读时间18:0023:00)。

个人感觉比较有特色的是运营者个人号,直接拉近了与用户之间的距离,毕竟公众号面对的是一个冰冷冷的机构,而个人号面对的是活生生的人。合肥论坛的个人号的数据也是很不错,好友数都在5000左右。这种个人号转化率肯定高。

此外在微信代运营方面,合肥论坛做的也是很用心。规范的发布流程、高效的对接流程、月报周报反馈,截几张PPT的图感受一下吧。

6 7 8

7

8

———————————分割线————————————-

龙虎网是南京的主流新闻媒体,龙虎网的孙迎军给我们分享了龙虎网技术的发展历程,也是很有参考意义。

龙虎网的技术部门在2010-2012年叫技术设计部,17人;2013-2015年叫技术中心,发展到36人;而2016年之后,分为了两个部门:技术中心和移动研发中心,55人。看来龙虎网的技术是不断在发展在,去年开始非常重视移动端。

龙虎网的技术在以前是一直做专题,这几年转型,主要精力放在做产品,做了投票软件、OA、CRM、CMS等一系列产品,龙虎网也是非常重视专利保护,申请软件著作权共12项,发明专利1项,并取到了双软企业的认证。

龙虎网重点分享了他们去年做的重点产品“我们家”——为南京本地家庭用户打造的 一款生活服务平台类APP,我们家从2014年底发布了第一个版本,目前注册人数近25万,日活跃用户突破20%,单周最高发帖量3000帖。用户覆盖南京3254小区,占全市小区数的80%,提供家庭生活商品及服务1000余件(种),日均销售200余单。这个数据对一个地域性APP来看非常不错了,不过他们也是投入了大量的研发,据说是有30多人的研发团队封闭式开发。

———————————分割线————————————-

光明网的李洪帅分享了他们在跨屏适配方面的方案,光明网的技术团队目前看来也算是一个小而美的团队,团队的构成如下图:

9

居然还有10人的产品团队,这在我们这种媒体单位算是奢侈的了吧?确实没法跟人家比。

光明网的跨屏适配也是比较简单的,只是在HTML代码的head头部加入一行javascript代码。回来后我分析了下光明网的页面,发现使用的其实就是云适配提供的方案。了解了一下这个产品,使用也比较简单,只要会网页制作基础的大概都会,制作流程分为:建立模板,拖曳模块——配置模块数据采集——发布,生成js——在页面引用js,具体可以参考云适配官网。

———————————分割线————————————-

央视网的心安分享了他们的CCTV两微平台,技术架构是现在比较主流的web架构,产品是两微矩阵平台Matrix,也算是比较常见的微信第三方平台,这个早在2013年底我们就提出过,只是一直没有资源去做这件事,央视网做的产品看着还是不错,只是没有实际的体验不知效果如何。

———————————分割线————————————-

文中全部图片来自网技联年会分享PPT的截图

文中部分文字来自网技联年会分享PPT的内容

如若涉及到侵权问题,请联系我处理,邮箱:gww0426@163.com