如何保障API测试场景尽量完备、不遗漏、不引起严重现网问题?这是当前人们遇到的经典难题,而其中常见的瓶颈主要如下:
当前接口测试设计依赖人员经验,测试数据构造手段单一,难以反应现网真实应用数据分布场景;
面对成千上万的API接口,可构成上万甚至十几万的操作路径,E2E场景测试编排工作量巨大;
现有的API接口测试生成工具,基本采用Fuzz测试+基于代码覆盖目标引导的SBST,或基于现网数据的单接口回放,不感知接口业务上下文,对于多接口功能交互场景,生成有效性较差且效率低。
▶华为云ATGen:感知API接口上下文,自主生成API全场景测试,变革人机交互模式
ATGen (APITestGenerator) 是一种基于上下文感知(Context-aware)的API场景级零代码自主测试生成服务,实现应用API场景级测试全自动设计、生成、执行和判定,整个过程无需编写一行代码。
传统的测试设计和执行交互模式,需要人工理解设计文档、编排测试方案、测试自动化开发,这要求参与者熟知产品或服务业务及接口文档,熟练掌握测试技术、测试自动化框架、测试自动化代码编写。
如今,在自主设计、自主生成、自主执行、自主判定的AI算法加持下,API场景级测试的人机交互模式已发生了巨大的转变。
在测试过程中,机器自主解析文档和数据,自动生成API场景级操作依赖ODG(OperationDependencyGraph)图,测试人员只需做适量修订,机器便可自主探索遍历ODG图执行,并同步完成结果的判定和报告的生成,测试人员只需按类批量确认结果。
华为云ATGen基于正向API接口定义文档,自动挖掘API测试上下文操作依赖图(ODG),探索遍历ODG自主生成API测试序列,实时构造并下发API测试请求,判定API测试响应结果,动态修正ODG图,优化下一轮生成。
解析接口定义Yaml文档,挖掘API接口间出参与入参的上下文传参依赖,以及CRUD增删改查依赖,生成接口操作序列依赖图ODG;
探索遍历ODG批量生成测试序列,自动下发执行,依据响应反馈动态修正ODG图;
支持接口上下文自动传参、复用字典取值、enum值、example值、example变异值、边界值、中间值、随机值等13种测试数据生成方法;
支持按照业务返回码、相似子序列,参数生成类型对测试结果分层聚类,便于测试人员按类别批量确认失败,并一键提单;
对于新成立的产品服务团队,或无专职测试人员的全功能团队,可实现少人参与或无人参与的零代码全自动接口全场景级测试,快速构建起接口级和功能场景级测试基础质量防护网;
对于有专职测试人员、测试专家、成熟度较高的测试团队,可以极大提升测试设计效率, 低成本实现更高的测试场景覆盖率和缺陷拦截率;
可与现有流水线集成,加固现有冒烟测试门禁,进一步拦截业务逻辑深度缺陷;
可以在API正常场景测试基础上实现异常场景 (可靠性测试)和并发场景(性能压力模型)的全自动化生成,完全替代现有接口fuzz测试,实现接口全场景测试零代码。
华为云ATGen在华为内部已规模部署30+产品服务日常应用,按三个维度来度量业务应用效果:
面对云化产品版本的快速迭代,应用场景的日益丰富,产品功能渐趋复杂,完全依靠人员测试经验来保障质量变得越来越困难,自主生成全场景功能测试机器人ATGen应运而生,可实现低成本、零代码、高覆盖、低误报的API全场景测试,持续为开发者提供优质服务。