日均互动时长突破20亿分钟 即构科技做对了什么
艾媒咨询的数据显示,2020年复工期间,中国有超过1800万家企业采用**远程办公模式,共有超过3亿用户使用远程办公应用。与此同时,约有2亿学生使用**课程进行远程教育。无论是远程办公、视频会议还是**教育系统,都离不开底层技术实时音视频的支持。
实时音视频技术包括实时语音、实时视频和连续交互。在此之前,直播可能是实时音视频熟悉的应用场景。受疫情影响,音视频技术带来的其他行业和场景的远程非接触服务实现了快速增长。
X+音视频aPaaS全行业接入,即构日均通话时长突破20亿
针对疫情期间*发的多行业远程服务需求,音视频云服务商即启建科技迅速推出了TalkLine视频会议和小易帮**艺考两个SaaS平台,以及多个远程aPaaS方案。音视频技术通过易用、发展迅速的优势,应用范围从直播社交娱乐迅速延伸到教育、办公会议、艺考、政务、医疗、金融等行业,覆盖了政务民生的各个领域。
合作的**远程服务应用呈*发式增长,即作为底层技术服务提供商,平台数据也在上升。据了解,2020年初,即刻平台整体流量增长近4倍,日均音视频互动时长提升至20亿分钟。
即iTech的合作客户覆盖了大量泛娱乐和**教育行业的头部平台,如映客、喜马拉雅、酷狗、荔枝、好未来、作业帮、易作网、一对一主等。这两个行业恰好是2020年初流量增长第二大的行业。很多平台的使用量增长了数倍,某国内顶级**教育平台更是实现了百倍的使用量增长。
流量的激增给平台带来了大量的用户,但同时也会给平台的稳定性带来更大的压力,可能导致平台的崩溃和服务的不可用。在家里蹲着的日子里,大家都经历了多个app的宕机。那么,日均20亿分钟的交互,高达数千万的并发,在流量激增的情况下,基础设施技术如何保证稳定的服务?
千万高并发架构+后台服务机制,保障平稳服务
要支持千万级高并发,首先要有一个支持千万级并发的底层架构。即架构的核心创始团队来自腾讯,团队成员大多参与了QQ产品从百万到上亿用户的跨越式发展。所以平台底层架构的高并发设计是有先见之明的。通过过去海量用户运营的经验积累和近20年音视频技术的沉淀,5年前成立之初设计底层架构时,并发的要求就达到了千万级。
在随后的几年里,依健科技不断打磨技术,不断优化服务器单点负载能力、集群系统智能调度算法和构建多云多网融合虚拟网络,实现了弹性伸缩,让用户无损耗、无感知地无缝伸缩。2019年年中,后台统计的日均音视频互动时长已经超过6亿分钟。
千万级并发基础设施,要实现一波又一波流量高峰后的平滑稳定服务,也离不开预警、限流、应急扩容等后台服务机制的保障。
吉剑科技后台媒体服务组负责人Jack向我们介绍了吉剑的一系列后台服务机制是如何运作的:
首先,对于每一个企业客户,机构都会提供实时流量监控和预警服务。后台的技术人员会监控当前的容量水平,当该客户的服务器负载超过一定阈值时,会自动触发预警,提醒re
其次,当出现短时突增时,后台服务会通过限流机制保证客服的可用性。即该结构的限流机制是基于不影响现有用户体验。前段时间,比如一个即时通讯服务的教育平台,在客户没想到的时候,客户平台的使用量突然跳了好几倍,触发了即时通讯限流机制。开启限流后,本平台已开课的师生服务不受影响;后期用户涌入,即会牺牲部分用户体验,通过降低推拉流的码率和分辨率来保证服务的可用性。然后,立即启动应急扩容机制。10分钟后扩容完成,然后恢复进入的师生的速率分辨率。
第三,构建的应急扩容机制可以在10分钟内实现数百台服务器的扩容。这些服务器资源可以支持一个**教育平台增加10W老师开课,或者接近100万学生上课。
当架构和后台服务机制准备就绪,即还提供一对一的技术支持,帮助客户提前规避,及时解决流量上升可能带来的问题。
服务前置+一对一支持,即构让所有用户获得佳体验
技术支持是一项非常细致的工作。当平台的使用量激增时,对技术支持工作提出了巨大的挑战。我们都是24小时随叫随到,全程支持客户装车扩容。这是技术支持主管Tina的原话。
不同于大家印象中技术支持遇到问题才解决问题,也就是机构倡导客户成功导向,映射到技术支持工作上,就是机构会提前提供服务,也就是提前帮助客户规避可能的风险。
2月初,教育部发出了停课学习的倡议。预计**教育平台的使用率将快速增长,即技术支持人员将对每个教育平台进行回访。请客户对自己平台的使用情况进行预估,判断用户当前的服务器资源是否足够。并细化到具体的应用场景,如大班、一对一小班、一对多小班或AI班、跨国教育等。并为每个平台制定一对一的服务计划。
方案制定后,技术支持人员会立即与后台服务人员对接,确认服务器资源,提前部署。也就是说,它将在客户提供的估计量之上提供一定量的冗余资源,以确保客户稳定性。
从客户的加载到高的使用峰值,再到使用量的下降,都需要技术人员的全力支持。不同的行业有不同的高峰期。比如**教育平台的使用量,早上开始攀升,下午或者晚上达到。
才达到高峰;而跨国教育或出海平台,使用高峰在后半夜之后;而即构服务的某Top级金融平台,通过即构SDK实现了3万销售人员的远程企业内训,其使用量在早上7点就开始上涨,整个上午时段的用量大。这意味着,技术支持人员需要24小时无休全天轮值。除了针对客户使用量上涨所做的保障工作,技术支持还需对客户的常规问题进行排查,以保障客户使用的佳体验。我们经常帮助客户排查问题到凌晨1-2点,但这些努力都是有回报的,我们开心的是一天结束后,客户在对接群里说的一句:今天平台运行良好,感谢大家的支持,辛苦了Tina分享道。
单日互动时长突破20亿分钟的背后,是无数客户对即构技术和服务的肯定。即构也遇到过棘手的难题。线上用户增速快的那段时间,全网服务器资源紧张。一方面是用户急需扩容保障服务,一方面是供应商资源的短缺。即构科技拿完了已有供应商所有可提供的资源后,陆续向其他的云商采购。
我们本来就是支持多云商的架构,不同厂商的物理机、云主机我们都做了兼容和支持,因此服务器资源不受单一供应商限制,可以在短时间内调用更多的资源,所以服务器资源紧张的问题并没有困扰我们太久,即构后台媒体服务组负责人Jack说到。
即构强调利他共生的价值观,大程度的支持客户成功,与客户共同成长。坚持 将技术做极致,不浪费客户的每一分钱的原则,通过持续不断优化服务器负载能力,从根源上优化客户的云服务成本。
同时,针对不同时期不同客户,即构会推出不同的让利举措,在疫情期间用户对远程办公协同有大量需求,即构自研的视频会议平台TalkLine,针对每个新注册用户赠送5000分钟使用时长,目前已累计赠送了约10亿分钟。
浪潮涌来,即构为客户提供大的支撑;潮水过后,与客户一起细水长流。