基于Django的博客系统之用HayStack连接elasticsearch增加搜索功能（五）

上一篇：搭建基于Django的博客系统数据库迁移从Sqlite3到MySQL（四）
下一篇：基于Django的博客系统之增加类别导航栏（六）

功能概述

1. 添加搜索框用于搜索博客。

需求详细描述

1. 添加搜索框用于搜索博客

• 描述： 在博客首页添加搜索框，用户可以通过关键词搜索博客文章。
• 功能要求：
  • 搜索框位置：导航栏或页面顶部。
  • 支持根据标题和内容进行搜索。
  • 搜索结果显示匹配的博客列表。
• 用户故事：
  • 作为用户，我希望能够通过搜索框快速找到感兴趣的博客文章。

技术结构

实现一个博客搜索功能，可以同时使用 Elasticsearch 和 MySQL 各自的优势。以下是如何区分和结合使用这两种技术的方法：

使用 MySQL 的部分

1. 数据存储：
   • 存储博客文章的基本信息，如标题、作者、发布时间、分类等。
   • 存储用户信息、评论、标签等结构化数据。
2. 基础查询和管理：
   • 进行常规的 CRUD 操作，如创建、读取、更新、删除博客文章。
   • 进行简单的过滤和排序，如按发布时间、作者、分类等查询文章。

使用 Elasticsearch 的部分

1. 全文搜索：
   • 存储和索引博客文章的全文内容，以支持全文搜索功能。
   • 对用户搜索的关键词进行快速匹配，返回相关的文章列表。
2. 复杂查询：
   • 支持复杂的查询需求，如模糊搜索、布尔搜索、按相关性排序等。
   • 支持自动补全、拼写纠错等高级搜索功能。

集成 MySQL 和 Elasticsearch

1. 数据同步：
   • 需要将 MySQL 中的博客文章数据同步到 Elasticsearch 中，以确保搜索功能能够使用最新的数据。
   • 可以使用定时任务或实时数据同步机制来保持两者数据的一致性。例如，使用工具如 Logstash、Beats 或自定义的同步程序。
2. 搜索接口设计：
   • 提供一个统一的搜索接口，前端用户提交搜索请求时，后台从 Elasticsearch 中查询搜索结果。
   • 查询到的搜索结果中包含文章的基本信息，从 Elasticsearch 返回文章的 ID，然后从 MySQL 中获取详细信息（如作者、评论等）。

实现步骤

要在 Django 博客应用中添加搜索框，以便用户可以搜索博客内容，可以按照以下步骤进行：

1. 安装 Django 搜索库

首先，确保你已经安装了 Django 搜索库。一个常用的选择是 django-haystack 库，它提供了与多个搜索引擎（如 Elasticsearch、Solr 和 Whoosh 等）集成的功能。

pip install django-haystack

2. 配置搜索引擎

选择并配置你想要使用的搜索引擎。例如，如果选择使用 Whoosh 搜索引擎，需要在 settings.py 文件中配置 Haystack 设置：

# settings.pyINSTALLED_APPS = [# 其他应用...'haystack',
]HAYSTACK_CONNECTIONS = {'default': {'ENGINE': 'haystack.backends.elasticsearch_backend.ElasticsearchSearchEngine','URL': 'http://localhost:9200/',  # Elasticsearch 服务器的 URL'INDEX_NAME': 'haystack',  # Elasticsearch 索引的名称},
}HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'

3. 创建搜索索引类

为你的博客模型创建一个搜索索引类，告诉 Haystack 如何索引你的数据。假设你有一个名为 Post 的博客模型：

# search_indexes.pyfrom haystack import indexes
from .models import Postclass PostIndex(indexes.SearchIndex, indexes.Indexable):text = indexes.CharField(document=True, use_template=True)def get_model(self):return Post

在这个示例中，我们使用 text 字段来索引博客内容。你可以根据需要添加更多的字段。

4. 创建搜索模板

在你的博客模板文件夹中创建一个模板文件，用于显示搜索结果。这个模板将根据搜索结果显示匹配的博客文章。

<!-- templates/search/post_text.txt -->{{ object.title }}
{{ object.content }}

同步索引：运行 Django 的管理命令来创建或更新搜索索引。

python manage.py rebuild_index

5. 更新 URL 配置

将搜索视图添加到你的 URL 配置中，以便用户可以访问搜索页面并执行搜索。

# urls.pyfrom django.urls import path
from . import viewsurlpatterns = [# 其他 URL 配置...path('search/', views.SearchView.as_view(), name='search'),
]

6. 创建搜索视图

创建一个视图类来处理搜索请求，并将搜索结果呈现给用户。

from haystack.query import SearchQuerySetdef search_view(request):query = request.GET.get('q', '')results = SearchQuerySet().filter(content=query)return render(request, 'search_results.html', {'results': results})

7. 创建搜索模板

创建一个模板文件，用于显示搜索结果。在这个模板中，你可以根据需要定制搜索结果的展示方式。

<!-- templates/search.html -->{% for result in page.object_list %}<h3><a href="{{ result.object.get_absolute_url }}">{{ result.object.title }}</a></h3><p>{{ result.object.content }}</p>
{% empty %}<p>No results found.</p>
{% endfor %}{% if is_paginated %}<div class="pagination"><span class="step-links">{% if page.has_previous %}<a href="?q={{ query }}&page=1">&laquo; first</a><a href="?q={{ query }}&page={{ page.previous_page_number }}">previous</a>{% endif %}<span class="current">Page {{ page.number }} of {{ page.paginator.num_pages }}.</span>{% if page.has_next %}<a href="?q={{ query }}&page={{ page.next_page_number }}">next</a><a href="?q={{ query }}&page={{ page.paginator.num_pages }}">last &raquo;</a>{% endif %}</span></div>
{% endif %}

8. 创建搜索表单

最后，创建一个搜索表单，让用户输入搜索关键字并提交搜索请求。

<!-- templates/search_form.html --><form action="{% url 'search' %}" method="get"><input type="text" name="q" placeholder="Search..."><button type="submit">Search</button>
</form>

将搜索表单包含在你的博客页面中的适当位置，用户就可以使用它来搜索博客内容了。

这就是在 Django 博客应用中添加搜索框的基本步骤。根据你的需求，你可以进一步定制搜索功能，例如添加搜索结果的高亮显示、自定义搜索表单字段等。

连接elasticsearch

具体参看这篇Windows安装ElasticSearch版本7.17.0

要连接 Elasticsearch，你需要配置 Django Haystack 的后端为 Elasticsearch 后端。下面是一些步骤：

1. 安装 Elasticsearch：首先确保你已经安装了 Elasticsearch 并且它正在运行。你可以从 Elasticsearch 的官方网站上下载并安装它。
2. 安装 Haystack：确保你已经安装了 Django Haystack。你可以使用 pip 进行安装：pip install django-haystack。
3. 安装 Elasticsearch 后端：你需要安装与 Elasticsearch 兼容的 Haystack 后端。通常情况下，你需要安装 elasticsearch-dsl，它是 Elasticsearch 的 Python 客户端库。你可以使用 pip 进行安装：pip install elasticsearch-dsl。
4. 配置 Haystack 设置：在 Django 项目的 settings.py 文件中，配置 Haystack 设置以使用 Elasticsearch 后端。这包括指定 Elasticsearch 的主机和端口等信息。

HAYSTACK_CONNECTIONS = {'default': {'ENGINE': 'haystack.backends.elasticsearch_backend.ElasticsearchSearchEngine','URL': 'http://localhost:9200/',  # Elasticsearch 服务器的 URL'INDEX_NAME': 'haystack',  # Elasticsearch 索引的名称},
}

1. 建立索引：运行 python manage.py rebuild_index 命令来建立你的模型的搜索索引。这将会在 Elasticsearch 中创建对应的索引。
2. 运行你的应用程序：现在你的 Django 应用程序应该能够连接到 Elasticsearch 并使用它来进行全文搜索了。

问题和解决

报错 from django.utils.datetime_safe import date, datetime ModuleNotFoundError: No module named 'django.utils.datetime_safe'

分析解决：

在 Django 3.2 中，django.utils.datetime_safe 模块已被移除。这个模块提供了在处理日期和时间时的安全操作，以防止由于 datetime 和 date 对象的类型不同而导致的一些问题。

如果你的代码中依赖了 django.utils.datetime_safe 模块，你可以尝试以下替代方法：

1. 直接使用 datetime 和 date：在绝大多数情况下，直接使用内置的 datetime 和 date 类应该没有问题。只要确保在处理日期和时间时，类型的转换和比较是正确的即可。
2. 在需要的地方进行转换：如果你的代码在某些情况下需要确保 datetime 和 date 对象的类型一致，你可以手动进行转换。比如，使用 timezone.now() 获取当前时间，使用 datetime.strptime() 将字符串转换为 datetime 对象等。
3. 更新依赖：如果你使用的是第三方库，可以尝试更新这些库的版本，看看是否有与 Django 3.2 兼容的版本。

确保你的代码不再依赖于 django.utils.datetime_safe 模块后，就可以解决这个错误了。切换为elasticsearch连接。报错如下 raise MissingDependency( haystack.exceptions.MissingDependency: The 'elasticsearch5' backend requires the installation of 'elasticsearch>=5.0.0,<6.0.0'. Please refer to the documentation.

修改settings.py中HAYSTACK_CONNECTIONS连接的Elasticsearch版本为8.x，如下：

HAYSTACK_CONNECTIONS = {'default': {'ENGINE': 'haystack.backends.elasticsearch8_backend.Elasticsearch8SearchEngine','URL': 'http://localhost:9200/','INDEX_NAME': 'myblog',},
}

报错ModuleNotFoundError: No module named 'haystack.backends.elasticsearch8_backend'

原因：Haystack中没有提供一个专门用于Elasticsearch 8.x 的后端引擎。使用 haystack.backends.elasticsearch7_backend.Elasticsearch7SearchEngine 就可以支持 Elasticsearch 7.x。

重新安装elasticsearch版本号为7.17。见这篇文章

卸载不需要的驱动

pip uninstall elasticsearch
pip uninstall elasticsearch-dsl

安装需要的驱动

 pip install elasticsearch==7.17.0pip install elasticsearch-dsl==7.4.1

再次调用启动搜索index命令python manage.py rebuild_index

报错ImportError: cannot import name 'datetime_safe' from 'django.utils'

原因：Django 3.2 中移除了 django.utils.datetime_safe 模块引起的。Haystack 应该已经更新以适应 Django 3.2。

执行命令下载haystack支持django5.0.7

pip install git+https://github.com/django-haystack/django-haystack.git

再次调用启动搜索index命令

python manage.py rebuild_index

运行成功。效果如下：

调用http://localhost:8000/search/?q=%E6%AF%94%E4%BC%AF后，结果如下：

分析原因elasticsearch的index有问题。

用tree /F命令获取全文件夹下的文件格式表。

通过下面命令获取当前elasticsearch里面的index：

Invoke-WebRequest -Uri "http://localhost:9200/_cat/indices?v"

在post_text.txt里面添加一段index的指向

<!-- templates/search/indexes/blog/post_text.txt -->

执行index命令python manage.py rebuild_index

执行成功，如下：

postman调用apihttp://localhost:9200/myblog结果返回成功：

{"myblog": {"aliases": {},"mappings": {"properties": {"content": {"type": "text","analyzer": "snowball"},"django_ct": {"type": "keyword"},"django_id": {"type": "keyword"},"id": {"type": "text","fields": {"keyword": {"type": "keyword","ignore_above": 256}}},"text": {"type": "text","analyzer": "snowball"},"title": {"type": "text","analyzer": "snowball"}}},"settings": {"index": {"max_ngram_diff": "2","routing": {"allocation": {"include": {"_tier_preference": "data_content"}}},"number_of_shards": "1","provided_name": "myblog","creation_date": "1716964128114","analysis": {"filter": {"haystack_ngram": {"type": "ngram","min_gram": "3","max_gram": "4"},"haystack_edgengram": {"type": "edge_ngram","min_gram": "2","max_gram": "15"}},"analyzer": {"edgengram_analyzer": {"filter": ["haystack_edgengram","lowercase"],"tokenizer": "standard"},"ngram_analyzer": {"filter": ["haystack_ngram","lowercase"],"tokenizer": "standard"}}},"number_of_replicas": "1","uuid": "1GzZNjZzSmOtmFdLuGWhvw","version": {"created": "7170099"}}}}
}

搜索index

修改搜索视图以获取匹配的博客文章 ID，并从 MySQL 中获取详细信息：

# blog/views.py
from django.shortcuts import render
from haystack.query import SearchQuerySet
from .models import BlogPost
from .forms import BlogSearchFormdef search(request):form = BlogSearchForm(request.GET)results = []if form.is_valid():# 从 Elasticsearch 获取匹配的博客文章 IDsqs = form.search()matched_ids = [result.pk for result in sqs]# 从 MySQL 数据库中获取详细信息results = BlogPost.objects.filter(id__in=matched_ids)return render(request, 'search_results.html', {'form': form, 'results': results})

访问’http://localhost:8000’输入搜索growing,访问’http://localhost:8000/search/?q=growing’,得到结果如下：