当前位置: 首页 > article >正文

别再只盯着Network面板了!用Python 3分钟自动解析Chrome导出的.har文件,提取关键请求数据

3分钟用Python自动化解析.har文件告别低效手动分析每次面对几十个.har文件时你是否还在逐个点击Network面板查看请求作为开发者我们经常需要分析接口性能、监控错误请求或统计API调用情况。手动处理这些数据不仅耗时还容易遗漏关键信息。本文将带你用Python快速构建自动化工具直接从.har文件中提取URL、状态码、耗时等关键指标甚至实现请求重放和异常检测。1. 理解.har文件结构与核心数据.har文件本质是JSON格式的网络请求记录包含完整的请求/响应数据和时序信息。通过Python的json模块我们可以轻松访问这些结构化数据。以下是典型.har文件的核心结构{ log: { version: 1.2, entries: [ { request: { method: GET, url: https://example.com/api, headers: [...] }, response: { status: 200, content: {...} }, timings: { wait: 150.42, receive: 5.31 } } ] } }关键数据字段说明字段路径数据类型说明log.entries[].requestobject包含HTTP方法、URL、请求头等信息log.entries[].responseobject包含状态码、响应内容等信息log.entries[].timingsobject包含DNS、SSL等各阶段耗时提示实际项目中建议先检查.har文件的log.version字段确保兼容不同版本的格式差异。2. 基础解析提取关键请求指标让我们从最简单的场景开始——批量提取请求的基本信息。以下代码演示如何加载.har文件并获取每个请求的URL、方法和状态码import json def parse_har_basic(har_path): with open(har_path, r, encodingutf-8) as f: har_data json.load(f) results [] for entry in har_data[log][entries]: req entry[request] res entry[response] results.append({ url: req[url], method: req[method], status: res[status], time: entry[time] }) return results # 示例用法 metrics parse_har_basic(network_log.har) for m in metrics[:5]: # 打印前5条记录 print(f{m[method]} {m[url]} - {m[status]} ({m[time]}ms))常见需要扩展的解析场景过滤特定状态码如只分析4xx/5xx错误请求统计API耗时计算平均响应时间或识别慢请求提取特定域名请求只关注后端API的调用情况3. 高级技巧请求重放与性能分析.har文件的真正价值在于可以基于历史请求进行二次分析。以下示例展示如何重放请求并比较响应时间import requests from urllib.parse import urlparse def replay_requests(har_path, domain_filterNone): with open(har_path, r) as f: har_data json.load(f) stats [] for entry in har_data[log][entries]: req entry[request] if domain_filter and domain_filter not in req[url]: continue # 准备请求参数 headers {h[name]: h[value] for h in req[headers]} params {q[name]: q[value] for q in req.get(queryString, [])} # 发送请求并计时 start time.time() try: resp requests.request( methodreq[method], urlreq[url], headersheaders, paramsparams, datareq.get(postData, {}).get(text, ) ) elapsed (time.time() - start) * 1000 # 转为毫秒 stats.append({ url: req[url], original_time: entry[time], replay_time: elapsed, diff: elapsed - entry[time] }) except Exception as e: print(f请求失败: {req[url]} - {str(e)}) return stats这个高级功能可以用于API性能监控比较历史请求与当前响应的耗时差异回归测试验证接口行为是否发生变化压力测试批量重放大量请求模拟真实流量4. 实战案例构建自动化分析工具结合上述技术我们可以创建一个完整的.har分析工具。以下是一个包含常用功能的类实现class HarAnalyzer: def __init__(self, har_path): with open(har_path, r) as f: self.har_data json.load(f) self.entries self.har_data[log][entries] def filter_entries(self, statusNone, methodNone, url_containsNone): filtered [] for entry in self.entries: req entry[request] res entry[response] match True if status and res[status] ! status: match False if method and req[method] ! method.upper(): match False if url_contains and url_contains not in req[url]: match False if match: filtered.append(entry) return filtered def get_slow_requests(self, threshold1000): return [e for e in self.entries if e[time] threshold] def export_to_csv(self, output_path, fieldsNone): default_fields [url, method, status, time] fields fields or default_fields with open(output_path, w, newline) as f: writer csv.DictWriter(f, fieldnamesfields) writer.writeheader() for entry in self.entries: row { url: entry[request][url], method: entry[request][method], status: entry[response][status], time: entry[time] } writer.writerow(row)典型使用场景analyzer HarAnalyzer(user_flow.har) # 找出所有失败的API调用 errors analyzer.filter_entries(status500) # 识别性能瓶颈 slow_requests analyzer.get_slow_requests(threshold2000) # 导出数据供进一步分析 analyzer.export_to_csv(requests.csv, fields[url, method, status, time])5. 效率提升技巧与避坑指南在实际使用中有几个关键点可以大幅提升.har文件分析的效率批量处理多个文件from pathlib import Path def process_har_files(directory): har_files Path(directory).glob(*.har) all_results [] for har_file in har_files: analyzer HarAnalyzer(har_file) all_results.extend(analyzer.filter_entries(status404)) return all_results内存优化技巧对于超大.har文件考虑使用ijson库流式解析只加载需要的字段避免内存浪费常见问题排查时间格式不一致某些工具生成的.har使用不同时间表示法缺少关键字段不是所有.har文件都包含完整的timings数据编码问题处理非ASCII内容时确保指定正确的编码注意重放请求时要小心处理敏感信息如Authorization头或Cookie。建议在测试环境使用脱敏数据。通过将这些技术组合使用我曾经将一个原本需要半天的手动分析工作缩短到3分钟完成。关键在于根据具体需求选择合适的解析策略并构建可复用的工具链。

相关文章:

别再只盯着Network面板了!用Python 3分钟自动解析Chrome导出的.har文件,提取关键请求数据

3分钟用Python自动化解析.har文件:告别低效手动分析 每次面对几十个.har文件时,你是否还在逐个点击Network面板查看请求?作为开发者,我们经常需要分析接口性能、监控错误请求或统计API调用情况。手动处理这些数据不仅耗时&#xf…...

5分钟掌握猫抓Cat-Catch:高效解决网页媒体资源捕获难题

5分钟掌握猫抓Cat-Catch:高效解决网页媒体资源捕获难题 【免费下载链接】cat-catch 猫抓 浏览器资源嗅探扩展 / cat-catch Browser Resource Sniffing Extension 项目地址: https://gitcode.com/GitHub_Trending/ca/cat-catch 在数字化内容时代,你…...

如何使用docsify构建沉浸式3D文档空间:从入门到精通的完整指南

如何使用docsify构建沉浸式3D文档空间:从入门到精通的完整指南 【免费下载链接】docsify 🃏 A magical documentation site generator. 项目地址: https://gitcode.com/gh_mirrors/do/docsify docsify是一款神奇的文档网站生成工具,它…...

豆瓣Top250电影数据爬取保姆级教程:从UA伪装到数据清洗,新手避坑指南

豆瓣Top250电影数据爬取实战:从零开始避开99%新手陷阱 第一次尝试用Python爬取豆瓣电影数据时,我盯着屏幕上那个刺眼的418状态码整整半小时。和大多数新手一样,我以为只要几行代码就能轻松获取数据,却没想到连第一道门都进不去。本…...

FPGA高速收发器设计避坑:搞懂GTPE2_COMMON、QPLL与你的AURORA IP配置

FPGA高速收发器设计实战:GTPE2_COMMON资源优化与AURORA IP配置精要 在Xilinx FPGA的高速串行通信设计中,GTPE2_COMMON资源冲突是许多开发者遇到的典型痛点。当你在Vivado中看到"Place Check 30-6401"错误时,往往意味着QPLL资源分配…...

ctypes.sh安全编程实践:避免shell崩溃和内存泄漏的终极指南

ctypes.sh安全编程实践:避免shell崩溃和内存泄漏的终极指南 【免费下载链接】ctypes.sh A foreign function interface for bash. 项目地址: https://gitcode.com/gh_mirrors/ct/ctypes.sh ctypes.sh作为bash的外部函数接口,让开发者能够直接在sh…...

告别HttpCanary!手把手教你用Python搭建Frida RPC服务器,实现Burp实时篡改加密请求

用Python构建Frida RPC网关:Burp与移动端加密流量的深度交互方案 移动应用安全测试中,最令人头疼的莫过于遇到加密流量。当你发现HttpCanary能捕获请求而BurpSuite却束手无策时,传统解决方案往往需要在多个工具间频繁切换,效率低下…...

C语言运算符优先级记不住?一张图+5个LeetCode实战案例帮你搞定

C语言运算符优先级实战指南:5个LeetCode案例与可视化记忆法 在算法面试和日常编程中,C语言的运算符优先级常常成为代码质量的隐形杀手。一个看似简单的表达式a|b&c可能因为对优先级理解不足而产生完全不符合预期的结果。本文将通过独创的优先级可视化…...

风控规则灰度发布怎么做才稳?白名单、比例放量、效果观察、快速回滚全讲清

风控规则灰度发布怎么做才稳?白名单、比例放量、效果观察、快速回滚全讲清 这篇直接按线上风控发版来拆,不只讲“先小流量再全量”,而是把版本、白名单、观察指标、回滚链路讲具体。 目标是你看完后,能把风控规则灰度从一句流程话…...

如何用Python脚本绕过百度网盘限速:从技术原理到实战应用

如何用Python脚本绕过百度网盘限速:从技术原理到实战应用 【免费下载链接】baidu-wangpan-parse 获取百度网盘分享文件的下载地址 项目地址: https://gitcode.com/gh_mirrors/ba/baidu-wangpan-parse 在当今数字资源分享时代,百度网盘作为国内主流…...

wemake-django-template 安全配置清单:保护你的 Django 应用

wemake-django-template 安全配置清单:保护你的 Django 应用 【免费下载链接】wemake-django-template Bleeding edge django template focused on code quality and security. 项目地址: https://gitcode.com/gh_mirrors/we/wemake-django-template wemake-…...

从Shader报错到性能优化:深入理解Unity中的法线变换与矩阵求逆

从Shader报错到性能优化:深入理解Unity中的法线变换与矩阵求逆 当你在Unity中编写自定义Shader时,是否遇到过这样的场景:明明模型看起来位置正确,但光照效果却异常扭曲?这种问题往往源于一个容易被忽视的细节——法线变…...

Gemini-CLI:在终端中无缝集成Google大模型,提升开发运维效率

1. 项目概述:当Gemini大模型遇上命令行 如果你和我一样,日常工作中大量时间都在和终端打交道,那么你肯定理解那种在浏览器、代码编辑器、终端之间反复切换的割裂感。尤其是在需要快速查询一个技术概念、生成一段代码片段,或者分析…...

Yew Context API:组件间数据传递的终极指南

Yew Context API:组件间数据传递的终极指南 【免费下载链接】yew Rust / Wasm framework for creating reliable and efficient web applications 项目地址: https://gitcode.com/gh_mirrors/ye/yew Yew是一个基于Rust和WebAssembly的现代Web框架&#xff0c…...

Angular-drag-and-drop-lists 与其他拖拽库对比分析:何时选择HTML5原生拖拽

Angular-drag-and-drop-lists 与其他拖拽库对比分析:何时选择HTML5原生拖拽 【免费下载链接】angular-drag-and-drop-lists Angular directives for sorting nested lists using the HTML5 Drag & Drop API 项目地址: https://gitcode.com/gh_mirrors/an/angu…...

八大网盘直链下载神器LinkSwift:告别限速,开启高速下载新时代!

八大网盘直链下载神器LinkSwift:告别限速,开启高速下载新时代! 【免费下载链接】Online-disk-direct-link-download-assistant 一个基于 JavaScript 的网盘文件下载地址获取工具。基于【网盘直链下载助手】修改 ,支持 百度网盘 / …...

Windows驱动管理终极指南:DriverStore Explorer完整教程

Windows驱动管理终极指南:DriverStore Explorer完整教程 【免费下载链接】DriverStoreExplorer Driver Store Explorer 项目地址: https://gitcode.com/gh_mirrors/dr/DriverStoreExplorer 还在为Windows系统驱动管理而烦恼吗?DriverStore Explor…...

国央企如何推动内部技术创新与外部合作?

观点作者:科易网-国家科技成果转化(厦门)示范基地 一、现状概述:国央企科技创新的双重困境 在数字经济时代,技术创新与外部合作已成为国央企提升核心竞争力、实现高质量发展的关键路径。然而,当前国央企在推…...

政府如何提升科技成果转化效率?

观点作者:科易网-国家科技成果转化(厦门)示范基地现状概述:成效与短板 在科技创新驱动高质量发展的新时代,科技成果转化已成为衡量区域创新能力和产业升级水平的关键指标。近年来,我国政府高度重视科技成果…...

别再用串口了!用STM32F7的IrDA硬件模块,轻松实现红外遥控器升级(附完整代码)

用STM32F7的IrDA硬件打造智能红外遥控器:从配置到实战 在智能家居日益普及的今天,红外遥控器仍然是控制家电的主力军。但面对家中堆积如山的各种遥控器,你是否想过打造一个万能遥控器?本文将带你利用STM32F7系列微控制器的IrDA硬件…...

杰理之LVGL修改文本控件颜色【篇】

参照杰理LVGL指南和LVGL官方手册配置就可以,其中lv_example_label_4()是有幻彩色字体输出,但是使用的是画布储存,占用了(长宽颜色数据量)RAM和CPU,非常占用资源,推荐使用…...

揭秘PostCSS Parser:从CSS文本到AST节点树的完整转换指南

揭秘PostCSS Parser:从CSS文本到AST节点树的完整转换指南 【免费下载链接】postcss Transforming styles with JS plugins 项目地址: https://gitcode.com/gh_mirrors/po/postcss PostCSS是一个强大的CSS处理工具,其核心功能之一就是通过Parser解…...

Compose LazyList状态管理全解:从滚动监听、恢复,到与Paging3的完美集成

Compose LazyList状态管理全解:从滚动监听、恢复,到与Paging3的完美集成 在构建现代移动应用时,列表是最常见也最复杂的UI组件之一。Jetpack Compose通过LazyColumn和LazyRow提供了声明式的列表实现,但真正让列表变得健壮和高效的…...

在Ubuntu上5分钟搞定OpenHarmony 4.0轻量系统到QEMU RISC-V的编译(附Python 3.10报错修复)

在Ubuntu上5分钟搞定OpenHarmony 4.0轻量系统到QEMU RISC-V的编译(附Python 3.10报错修复) 如果你是一位急于体验OpenHarmony轻量系统的开发者,却被繁琐的环境配置和报错困扰,这篇文章正是为你准备的。我们将从实战角度出发&#…...

别再纠结选哪个了!Asterisk、FreeSWITCH、Kamailio、OpenSIPS四大开源SIP服务器保姆级对比(附选型指南)

四大开源SIP服务器深度横评:从架构设计到实战选型 当你需要为企业通信系统或呼叫中心搭建语音基础设施时,开源SIP服务器的选型往往令人眼花缭乱。Asterisk、FreeSWITCH、Kamailio和OpenSIPS这四大主流方案各有千秋,但选择不当可能导致后期架构…...

终极Material Design Lite CI/CD指南:使用GitHub Actions实现自动化构建与测试

终极Material Design Lite CI/CD指南:使用GitHub Actions实现自动化构建与测试 【免费下载链接】material-design-lite Material Design Components in HTML/CSS/JS 项目地址: https://gitcode.com/gh_mirrors/ma/material-design-lite Material Design Lite…...

基于模板驱动的PPT自动化生成:解放重复劳动,实现高效办公

1. 项目概述:从重复劳动中解放,让PPT制作自动化如果你和我一样,经常需要基于公司或团队的固定PPT模板,批量生成内容相似但数据不同的演示文稿,那你一定对“复制粘贴、改数字、调格式”这套流程深恶痛绝。每次季度汇报、…...

CentOS 7.9 保姆级教程:从零到一搞定ClickHouse离线RPM包安装与配置

CentOS 7.9 离线部署ClickHouse全流程实战指南 在企业级生产环境中,离线部署数据库系统是许多运维团队面临的常见挑战。本文将手把手带你完成CentOS 7.9系统下ClickHouse的离线安装与配置全过程,特别针对没有外网连接的安全隔离环境。 1. 离线部署前的…...

Piranha CMS 模板引擎详解:创建自定义主题和布局

Piranha CMS 模板引擎详解:创建自定义主题和布局 【免费下载链接】piranha.core Piranha CMS is the friendly editor-focused CMS for .NET that can be used both as an integrated CMS or as a headless API. 项目地址: https://gitcode.com/gh_mirrors/pi/pir…...

告别LabVIEW!用Python+PyVISA搞定示波器自动化,保姆级代码解析

从LabVIEW到Python:PyVISA实现示波器自动化的工程实践 在电子测试测量领域,LabVIEW长期占据主导地位,但越来越多的工程师开始寻求更灵活、经济的替代方案。Python凭借其开源生态和丰富的科学计算库,正成为仪器自动化的新选择。本文…...