行业与实践 · 研究与基准测试

最新优先最早优先

我们自己跑的基准，和对公开数据的核对。结论附带方法与局限。

查看全部

研究与基准测试2026-09-2715 分钟
用大语言模型对照自然语言需求做代码静态验证：一份工业经验报告
大语言模型（LLM）越来越多地被用来生成需求规格、设计文档、代码和测试用例。相比之下，一个更难的保障问题得到的关注少得多：静态地验证已实现的代码是否满足用自然语言写成的需求。Coverity、SonarQube 这类传统
研究与基准测试2026-09-2728 分钟
LLM 与人工单元测试：在真实 Python 缺陷上的故障检测能力
大型语言模型（LLM）在自动化单元测试生成方面已展现出相当大的潜力，但相对于人工编写测试的实际有效性仍然缺乏充分理解。现有评估通常依赖于面向覆盖率的基准测试，这些基准并不直接评估故障检测能力。我们提出了一项对 LLM 生
研究与基准测试2026-09-2730 分钟
ATLAS：通过 LLM 引导的抽象和自动机学习发现智能体策略
基于大语言模型（LLM）的智能体正越来越多地用于复杂任务，如软件测试和网络安全评估。虽然这些智能体展现出令人印象深刻的能力，但它们的行为难以理解、解释和分析。现有评估主要集中在任务成功率和执行轨迹上，对智能体所采用的策略
研究与基准测试2026-09-2735 分钟
使用大语言模型进行自动化基于模型的测试生成的实证评估
大语言模型（LLM）在自动化、分析和解释软件工程任务（如软件测试）方面展现出强大的潜力。基于模型的测试（MBT）是一种软件测试技术，其广泛的规模化挑战阻碍了工业界的采用。本文提出了一项关于使用大语言模型进行自动化基于模型
研究与基准测试2026-09-2742 分钟
使用模型检查作为预言机的基于大语言模型的事后解释器自动化测试
大语言模型（LLMs）被用作序列决策策略的事后解释器，生成关于为何选择某个动作的自然语言解释。然而，LLMs 经常生成看似合理但不正确的陈述，而且目前没有方法系统性地测试这些解释是否忠实于底层环境。两个经典的软件测试挑战
研究与基准测试2026-09-2732 分钟
代码大语言模型中健全且对抗性测试生成的两阶段强化学习
强化学习（RL）通过可执行反馈显著推进了代码大语言模型（LLM）的发展。针对编程问题的反馈主要来自特定测试用例，而高质量测试用例往往稀缺，因为它们必须同时具备健全性（sound）和判别力（discriminative）。
研究与基准测试2026-09-2742 分钟
从资源流到可执行测试：Petri 网指导的并发有状态 Rust API 大语言模型测试生成
并发有状态库 API 通过不断演变的资源所有权、生命周期状态和竞争的交错执行来暴露其行为。大型语言模型可以合成可执行的 Rust 测试，但其输出常常违反 API 前置条件、保持浅层状态，或将并发性退化为偶然的顺序追踪。相
研究与基准测试2026-09-2749 分钟
评估基于大语言模型的端到端 CLI 工具场景中的从零到一软件生成
大型语言模型（LLM）的演进催生了向意图驱动软件开发范式的转变，其中自主智能体被期望从头开始设计并交付完整的、可运行的软件系统。然而，由于两个根本性局限，现有基准测试未能充分评估这种从零到一的生成能力。首先，它们依赖于预
研究与基准测试2026-09-2744 分钟
先写代码再测试的风险：一项关于基于大语言模型的测试生成工作流的实证研究
大语言模型（Large Language Models, LLMs）正越来越多地用于软件工程工作流，以自动生成源代码及其对应的测试套件。这种双重能力催生了新的开发范式，包括测试先行工作流与智能体工作流：由同一个模型负责产
研究与基准测试2026-09-2751 分钟
自然语言断言的忠实自动形式化
形式化契约对软件测试与验证至关重要，但编写它们仍然费力且容易出错。大语言模型（LLM）为自动形式化提供了一条有前景的路径：从自然语言规约综合出可执行断言，从而弥合开发者的非正式意图与形式化可执行规约之间的鸿沟。我们提出
研究与基准测试2026-09-2767 分钟
重新思考智能体生成测试对基于大语言模型的软件工程智能体的价值
大语言模型（Large Language Model，LLM）代码智能体越来越多地通过迭代编辑代码、调用工具并验证候选补丁，来解决仓库级问题。在这些工作流中，智能体常常即兴编写测试，但这一行为的价值仍不清楚。例如，GPT
研究与基准测试2026-09-2755 分钟
CornerCase：协议实现的自动化极值测试
许多网络协议实现中的软件缺陷出现在规范边界附近，例如刚好落在允许范围之内或之外的输入，或者单独看来合法、但在给定状态下非法的报文。从 SSL Heartbleed 漏洞到 TCP 圣诞树数据包，边界输入一再暴露关键弱点，
研究与基准测试2026-09-2760 分钟
ReProAgent：从问题报告生成缺陷复现测试的工具增强多阶段智能体方法
复现测试帮助开发者确认所报告的问题，并为问题修复提供可执行反馈，但开源项目中的问题报告很少包含这类测试。近期研究探索了用大语言模型从问题报告生成问题复现测试，但现有方法大体依赖基于提示的流水线：检索文本上下文并生成测试。
研究与基准测试2026-09-2763 分钟
通过人类测试启发工作流实现单元测试生成的多智能体大语言模型协作
近年来，大语言模型（Large Language Models, LLMs）的出现推动了自动化单元测试生成研究的迅速增长，取得了令人瞩目的性能，并减少了人工投入。然而，现有基于大语言模型的方法仍存在两项主要局限：（1）它
研究与基准测试2026-09-2720 分钟
面向代码重排序的置信度门控直推式测试生成
测试用例合成对于评估与排序大语言模型（LLM）生成的程序至关重要。然而，构造高质量测试用例仍然困难，因为可靠的期望输出往往难以获得。我们提出置信度门控直推式测试生成（Confidence-Gated Transducti
研究与基准测试2026-09-2741 分钟
通过测试生成探测基于大语言模型的代码生成中的隐私泄露
大规模代码数据集的广泛可得，推动了面向代码相关任务的大语言模型（large language models，LLMs）快速发展。这些数据集可能包含敏感的个人可识别信息（personally identifiable in
研究与基准测试2026-09-2728 分钟
上下文至关重要：提升基于大语言模型的单元测试生成的实用可靠性（经验论文）（上篇）
自动化单元测试生成近来受益于大语言模型（LLM）的进展，但我们的工业部署表明，有前景的研究结果与实际可用性之间仍存在持续差距。在具有复杂框架与跨文件依赖的真实项目中，LLM 生成的测试经常无法编译、需要高成本的人工修复，
研究与基准测试2026-09-2746 分钟
上下文至关重要：提升基于大语言模型的单元测试生成的实用可靠性（下篇）
上下文至关重要：提升基于大语言模型的单元测试生成的实用可靠性（下）（中文全译）
研究与基准测试2026-09-2728 分钟
LLM 生成测试套件的覆盖率与变异分数是否与其有效性相关？（可复现性研究）（上篇）
大语言模型（LLM）的最新进展，推动了利用 LLM 自动生成测试的研究兴趣。既有工作通常用代码覆盖率、变异分数等代理指标来评估所生成的测试套件。然而，Inozemtseva 等人以及 Papadakis 等人的研究表明：
研究与基准测试2026-09-2746 分钟
LLM 生成测试套件的覆盖率与变异分数是否与其有效性相关（下篇）
LLM 生成测试套件的覆盖率与变异分数是否与其有效性相关（下）（中文全译）