客户端和服务器端实验中的 QA 可确保结果准确可靠。12 位专家就如何简化 QA 以实现全栈方法的完美执行进行了探讨。
要点:
整体的 QA 方法可确保实验的每一层(从用户界面到后端数据跟踪)均按预期运行。
客户端 QA 专注于面向用户的问题,例如布局和性能,而服务器端 QA 处理后端流程,例如 API 调用和数据完整性。
功能标志允许控制推出和隔离测试,这使得它们对于客户端和服务器端 QA 都非常有价值。
发布后监控和重新测试是发现实验上线后可能出现的问题的关键最后步骤。
是否曾有隐藏的错误毁掉你的整个实验?
想象一下后端断开连接导致数据不同步 美国手机号 或前端闪烁导致在页面加载之前显示控制版本。
这些看似微不足道的问题可能会彻底破坏测试结果的完整性,并使数周的努力付诸东流,更不用说动摇利益相关者对您的实验计划的信心。
这就是实验中的 QA 发挥作用的地方。但是,尽管许多人只关注客户端 QA,但服务器端方面却常常被忽视。
在本指南中,我们借鉴了 12 位产品、CRO 和营销专家及其团队的集体实际经验,以提供完整的方法。我们将超越常规检查,确保变体在全渠道生态系统中的外观和行为符合预期,并深入研究服务器端 QA。
让我们开始吧。
实验中的质量保证 (QA) 是什么?
实验中的质量保证 (QA) 是一个全面的过程,可确保实验的每一层(无论是客户端还是服务器端)都按预期运行。在这种情况下,QA 可确保测试的完整性,从测试的外观到测试上线时的功能,以及最重要的,测试的衡量方式。
在本文中,我们将从全栈意义上来讨论实验 QA。这意味着我们不仅要确保事物的外观和行为符合设计,还要确保引擎盖下的引擎(如数据测量和控制)正常运行。
秉承这种想法,我们的一些贡献者甚至强调实验者应该对谁可以参与 A/B 测试进行精细控制。促进这种控制水平的同一系统也可用于对客户端和服务器端部署进行 QA。
该系统是功能标记。
了解更多:探索在产品实验中使用功能标志和推出。
在产品开发和实验中,这并不那么陌生,也不再是事后想法,因为敏捷模型已经将 QA 注入了软件开发的 DNA 中。
功能标记对于 QA 来说已经变得非常有价值。原因如下:
它们允许您使用相同的实验交付平台向 QA 测试人员公开变体,而无需额外的代码。
使用功能标记,您可以模拟触发测试的分段和特定条件(位置、浏览器类型等)。因此,它超越了随机检查执行中的错误,成为一种战略性的部署前反馈选择。
功能标志可以切换特定功能以进行独立的 QA,而不会产生冲突的影响。
实验人员还可以在不同的环境中进行 QA 测试,例如暂存环境和测试环境。
现在,实验的 QA 与即将发布的产品功能的传统 QA 有何不同?
首先,实验中的 QA 是关于复杂系统内的验证,而不仅仅是功能。虽然产品 QA 的重点是验证功能,但实验 QA 可确保变体在更广泛的用户行为和数据测量生态系统中按设计执行。
您不仅要测试某些东西的运作方式,还要测试谁能看到它以及它如何影响转化、点击和参与度。
到目前为止,我们已经在实验中的 QA 与软件开发实践之间得出了很多相似之处。但是……
软件测试不能取代实验 QA
本首席顾问 - 产品实验)、Christian Knoth(前端工程师)和René Link(质量管理主管)的见解主导。
首先,QA 的目的是什么?QA 流程为何如此重要?
我们都同意 QA 令人不舒服。开发软件、发布新功能和改进用户体验都令人兴奋,但处理副作用、潜在问题和错误却令人不快。
这就是许多人回避它的原因——它不受欢迎,会减慢发布过程,并且需要额外的步骤。许多人以“没有资源”为借口,而忽略了潜在的后果。
因此,他们通常只关注软件测试(如果有的话),因为这些可以自动化,从而产生一种虚假的安全感。
但如果没有适当的 QA 测试,您将面临以下风险:
长期负面的产品认知:当产品不能按预期运作时,用户就会对产品的可靠性产生怀疑,这会产生长期的负面影响。
可疑结果:如果目标(例如跟踪用户操作和 KPI)没有得到正确测试,结果将变得不可靠。目标由错误操作触发、触发太晚或放置在错误的部分等问题都可能导致跟踪不准确。完全忘记跟踪某些目标只会使问题恶化。在 A/B 测试场景中,这会影响不同版本之间目标的可比性,从而难以确定哪个版本的效果更好。
因此,一个伟大的成功公式是将软件测试与 QA 方面的探索性测试结合起来。它们的内容不同,但遵循类似的流程。
QA 测试主要关注用户体验和界面完整性。这包括检查一切是否按预期工作且在视觉上到位。布局是否按预期显示?必须站在用户的角度,创造性地思考他们的旅程,确保跟踪和逻辑比较每个目标。
QA 测试涉及的一些关键任务包括:
检查视觉完整性(例如填充、按钮位置)
确保目标跟踪准确
进行逻辑比较
发挥创造力来模拟不同的用户旅程
同时,软件测试(具体来说,组件测试)将验证和确认页面上特定元素的功能。例如,按钮是否按预期执行?
软件测试在每个阶段环境中都已经与部署同时或之后运行(取决于您使用的模型),直到到达实时服务器,这确保可以避免功能问题并尽早发现。
对于大型电商部门来说,软件测试是必不可少的,尤其是在原生环境中进行测试时。软件测试可确保表单、按钮和加载速度等核心元素的稳定性,从而影响整体页面性能。
软件测试的重点领域包括:
检查各个元素(例如按钮、表格)的性能
在本地环境中进行测试
持续运行测试以发现正在进行的测试中的问题
虽然探索性 QA 有时可以涵盖软件测试所涉及的领域,但反过来的情况很少。自动化软件测试的独特价值在于它为特定页面元素提供的便利性和准确性。
以人为本、以用户为中心的实验质量保证不可或缺
虽然软件测试至关重要,但它们无法取代 QA 带来的细微差别和洞察力。例如,信任是只有人类才能评估的东西。以用户为中心的 QA 流程不仅检查目标是否实现,还检查目标在上下文中是否合理。
并非所有用例都是黑白分明的,许多用例都需要解释。某些问题的出现是因为概念上的误解或模糊的用户旅程,而这些旅程一开始并不总是很清楚。这就是以用户为中心的方法如此有价值的原因——与软件测试那样遵循固定路径不同,以用户为中心的测试旨在突破典