第四篇: 用Python和SQL在BigQuery中进行基础数据查询

用Python和SQL在BigQuery中进行基础数据查询

在大数据分析领域，Google BigQuery 提供了一种快速且经济高效的数据处理方式。对于想要使用SQL查询大规模数据的读者来说，BigQuery的公共数据集资源丰富、操作简便，是学习和实践SQL基础操作的理想平台。

以下是一个通过Python和BigQuery进行基础SQL查询的实际案例，我们将使用Google的一个公共数据集，并以一个简单的查询示例来演示SQL在BigQuery中的应用，涵盖查询、过滤、排序和聚合操作。

1. 准备工作：选择数据集

在BigQuery中，有多个免费的公共数据集可供选择。这里我们选择了一个大家容易理解的公共数据集——Google Analytics的ecommerce数据集。该数据集包含电商网站的访问记录，包括访问者的地理位置、设备类型、访问时间以及产品销售情况等信息，非常适合用来进行电商数据分析。

示例：电商产品销售分析

假设我们是一家在线零售商，我们想要了解不同国家的销售情况，并分析销售额较高的市场。这个分析有助于公司决定将更多营销资源投入到哪些国家市场中。

2. 使用SQL进行基础查询

我们将从数据集中选择所需的字段并进行简单查询。以下是一个基本SQL查询：

SELECT geoNetwork.country AS country,SUM(totals.transactionRevenue) AS total_revenue
FROM `bigquery-public-data.google_analytics_sample.ga_sessions_20170801`
WHERE totals.transactionRevenue IS NOT NULL
GROUP BY country
ORDER BY total_revenue DESC
LIMIT 10;

查询解释

• geoNetwork.country: 查询国家字段，以便知道每个交易来自哪个国家。
• totals.transactionRevenue: 使用总收入字段来计算每个国家的总销售额。
• WHERE totals.transactionRevenue IS NOT NULL: 排除没有销售额的记录，使得查询只关注实际交易。
• GROUP BY country: 按国家分组，统计每个国家的总销售额。
• ORDER BY total_revenue DESC: 按总销售额从高到低排序，以便查看销售额最高的国家。

3. 在Python中执行查询

接下来，我们将通过Python代码在BigQuery中执行此查询，并提取结果以进行进一步分析。我们将使用Google的BigQuery Python客户端库来实现这一目标。以下是Python代码示例：

from google.cloud import bigquery# 创建BigQuery客户端
client = bigquery.Client()# 定义查询
query = """SELECT geoNetwork.country AS country,SUM(totals.transactionRevenue) AS total_revenueFROM `bigquery-public-data.google_analytics_sample.ga_sessions_20170801`WHERE totals.transactionRevenue IS NOT NULLGROUP BY countryORDER BY total_revenue DESCLIMIT 10;
"""# 执行查询
query_job = client.query(query)
results = query_job.result()# 输出结果
for row in results:print(f"{row.country}: {row.total_revenue}")

代码运行结果示例：

United States: 8301950000
Finland: 2990000Process finished with exit code 0

4. 分析和解释结果

运行查询后，我们可以看到每个国家的总销售额。通过这些数据，我们可以得出一些商业见解：

• 识别高价值市场：在销售额最高的几个国家中，可以发现潜在的高收益市场，并优先考虑投入资源。
• 优化广告投放：基于这些数据，公司可以在销售额较高的国家增加广告预算，从而提升整体收益。
• 区域趋势分析：分析不同国家的消费模式，帮助制定个性化的市场策略。

5. 小结

本文介绍了如何使用BigQuery和SQL进行电商数据分析，展示了通过简单的SQL查询、数据过滤、排序和聚合来获取商业洞见的基本方法。这种分析可以应用于更多实际场景，例如用户行为分析、广告投放效果评估等。对于数据科学家和数据工程师来说，BigQuery是一种非常实用的工具，它让处理大规模数据变得更为简便和高效。