Python OpenCV 计算机视觉：6~7

原文：OpenCV Computer Vision with Python

协议：CC BY-NC-SA 4.0

译者：飞龙

本文来自【ApacheCN 计算机视觉 译文集】，采用译后编辑（MTPE）流程来尽可能提升效率。

当别人说你没有底线的时候，你最好真的没有；当别人说你做过某些事的时候，你也最好真的做过。

附录 A：与 Pygame 集成

本附录显示了如何在 OpenCV 应用中设置 Pygame 库以及如何使用 Pygame 进行窗口管理。 此外，附录还概述了 Pygame 的其他功能以及一些学习 Pygame 的资源。

---

注意

本章的所有完成代码都可以从我的网站下载。

---

安装 Pygame

假设我们已经根据第 1 章，“设置 OpenCV”中描述的方法之一设置了 Python。 根据我们现有的设置，我们可以通过以下方式之一安装 Pygame：

• 带有 32 位 Python 的 Windows：从以下位置下载并安装 Pygame 1.9.1。

• 带有 64 位 Python 的 Windows：从以下位置下载并安装 Pygame 1.9.2 预览版。

• 带有 Macports 的 Mac：打开“终端”并运行以下命令：

  
  $ sudo port install py27-game

• 带有 Homebrew 的 Mac：打开终端并运行以下命令来安装 Pygame 的依赖项，然后安装 Pygame 本身

  
  $ brew install sdl sdl_image sdl_mixer sdl_ttf smpeg portmidi
  $ /usr/local/share/python/pip install \
  > hg+http://bitbucket.org/pygame/pygame

• Ubuntu 及其衍生版本：打开“终端”并运行以下命令：

  
  $ sudo apt-get install python-pygame

• 其他类似 Unix 的系统：Pygame 在许多系统的标准存储库中可用。 典型的包名称包括pygame, pygame27, py-game, py27-game, python-pygame,和python27-pygame.。

现在，Pygame 应该可以使用了。

文档和教程

Pygame 的 API 文档和一些教程可以在以下网址在线找到。

Al Sweigart 的《使用 Python 和 Pygame 制作游戏》是一本烹饪手册，用于在 Pygame 1.9.1 \中重新创建几个经典游戏。 免费的电子版本可从以下网站在线获得。或在以下网站下载 PDF 文件。

派生Manager.WindowManager

如第 2 章，“处理照相机，文件和 GUI”中所述，我们的面向对象设计使我们可以轻松地将 OpenCV 的 HighGUI 窗口管理器切换为另一个窗口管理器，例如 Pygame。 为此，我们只需要继承我们的managers.WindowManager类的子类，并覆盖四个方法：createWindow()，show()，destroyWindow()和processEvents()。 另外，我们需要导入一些新的依赖项。

要继续，我们需要第 2 章“处理照相机，文件和 GUI”中的managers.py文件，和第 4 章“用 Haar 级联跟踪人脸”中的utils.py文件。 在utils.py中，我们只需要一个函数isGray()，我们在第 4 章，“用 Haar 级联跟踪人脸”中实现。 让我们编辑managers.py以添加以下导入：

import pygame
import utils

同样在managers.py中，在执行WindowManager之后的某个位置，我们想添加名为PygameWindowManager的新子类：

class PygameWindowManager(WindowManager):def createWindow(self):pygame.display.init()pygame.display.set_caption(self._windowName)self._isWindowCreated = Truedef show(self, frame):# Find the frame's dimensions in (w, h) format.frameSize = frame.shape[1::-1]# Convert the frame to RGB, which Pygame requires.if utils.isGray(frame):conversionType = cv2.COLOR_GRAY2RGBelse:conversionType = cv2.COLOR_BGR2RGBrgbFrame = cv2.cvtColor(frame, conversionType)# Convert the frame to Pygame's Surface type.pygameFrame = pygame.image.frombuffer(rgbFrame.tostring(), frameSize, 'RGB')# Resize the window to match the frame.displaySurface = pygame.display.set_mode(frameSize)# Blit and display the frame.displaySurface.blit(pygameFrame, (0, 0))pygame.display.flip()def destroyWindow(self):pygame.display.quit()self._isWindowCreated = Falsedef processEvents(self):for event in pygame.event.get():if event.type == pygame.KEYDOWN and \self.keypressCallback is not None:self.keypressCallback(event.key)elif event.type == pygame.QUIT:self.destroyWindow()return

注意，我们使用了两个 Pygame 模块：pygame.display和pygame.event。

调用pygame.display.init()创建一个窗口，调用pygame.display.quit()销毁一个窗口。 重复调用display.init()无效，因为 Pygame 仅适用于单窗口应用。 Pygame 窗口的绘图表面类型为pygame.Surface。 为了获得对该Surface的引用，我们可以调用pygame.display.get_surface()或pygame.display.set_mode()。 后一个函数在返回实体之前修改Surface实体的属性。 一个Surface实体具有一个blit()方法，该方法将另一个Surface和一个坐标对作为参数，其中后一个Surface应被“变白”（绘制）到第一个上。 完成当前帧的窗口Surface的更新后，我们应该通过调用pygame.display.flip()来显示它。

通过调用pygame.event.get()可以轮询诸如keypresses之类的事件，该函数将返回自上次调用以来发生的所有事件的列表。 每个事件的类型均为pygame.event.Event，并具有属性 type，它指示事件的类别，例如pygame.KEYDOWN表示按键，pygame.QUIT 表示窗口的关闭按钮被点击。 取决于type的值，Event实体可能具有其他属性，例如，KEYDOWN事件的key（ASCII 键代码）。

相对于使用 HighGUI 的基本WindowManager而言，PygameWindowManager通过在每帧 OpenCV 的图像格式和 Pygame 的Surface格式之间进行转换而产生一些间接费用。 但是，PygameWindowManager提供正常的窗口关闭行为，而基础WindowManager不提供。

修改应用

让我们将cameo.py文件修改为使用PygameWindowManager而不是WindowManager。 在cameo.py中找到以下行：

from managers import WindowManager, CaptureManager

将其替换为：

from managers import PygameWindowManager as WindowManager, \CaptureManager

就这样！ 现在，cameo.py使用一个 Pygame 窗口，当单击标准“关闭”按钮时，该窗口应该关闭。

Pygame 的进一步使用

我们仅使用了pygame.display和pygame.event模块的一些基本功能。 Pygame 提供了更多功能，包括：

• 绘制 2D 几何
• 绘制文字
• 管理可绘制 AI 实体（精灵）的分组
• 捕获与窗口，键盘，鼠标和操纵杆/游戏手柄相关的各种输入事件
• 创建自定义事件
• 播放和合成声音和音乐

例如，Pygame 可能是使用计算机视觉的游戏的合适后端，而 HighGUI 则不是。

总结

到现在为止，我们应该有一个应用，该应用使用 OpenCV 捕获（并可能操纵）图像，同时使用 Pygame 显示图像和捕获事件。 从这个基本的集成示例开始，您可能想扩展PygameWindowManager来包装其他 Pygame 功能，或者您想创建另一个WindowManager子类来包装另一个库。

附录 B：为自定义目标生成 Haar 级联

本附录显示了如何生成 Haar 级联 XML 文件，如第 4 章“使用 Haar 级联跟踪面部”中所使用的文件。 通过生成自己的级联文件，我们可以潜在地跟踪任何模式或对象，而不仅仅是面部。 但是，好的结果可能不会很快出现。 我们必须仔细收集图像，配置脚本参数，执行实际测试并进行迭代。 可能涉及大量的人工时间和处理时间。

收集正面和负面的训练图像

你知道抽认卡的教学法吗？ 这是一种向幼儿教授单词和识别技巧的方法。 老师给全班同学展示了一系列图片，并说了以下内容：

“这是牛。Mo！这是马。Neigh！”

级联文件的生成方式类似于抽认卡教学法。 要学习如何识别母牛，计算机需要预先识别为母牛的正训练图像和预先识别为“非母牛”的负训练图像。 作为训练师，我们的第一步是收集这两套图像。

在确定要使用多少个正面训练图像时，我们需要考虑用户查看目标的各种方式。 理想，最简单的情况是目标是始终在平坦表面上的 2D 图案。 在这种情况下，一个正面的训练图像可能就足够了。 但是，在其他情况下，可能需要数百甚至数千张训练图像。 假设目标是您所在国家的国旗。 当在文档上打印时，标志的外观可能可预测，但是当在顺风飘扬的织物上打印时，标志的外观变化很大。 诸如人脸之类的自然 3D 目标的外观范围可能更大。 理想情况下，我们的一组正面训练图像应代表我们的相机可能捕获的许多变化。 可选地，我们的任何正面训练图像都可以包含目标的多个实例。

对于我们的负面训练集，我们需要大量图像，这些图像不包含目标的任何实例，但确实包含相机可能捕获的其他内容。 例如，如果一面旗帜是我们的目标，那么我们的负面训练集可能包括各种天气情况下的天空照片。 （天空不是旗帜，但经常在旗帜后面看到。）不过不要假设太多。 如果相机的环境无法预测，并且目标出现在许多设置中，请使用各种各样的负面训练图像。 考虑构建一套通用的环境图像，您可以在多个训练方案中重复使用这些图像。、

查找训练可执行文件

为了使级联训练尽可能自动化，OpenCV 提供了两个可执行文件。 它们的名称和位置取决于操作系统和 OpenCV 的特定设置，如以下两节所述。

在 Windows 上

Windows 上的两个可执行文件称为ONopencv_createsamples.exe和ONopencv_traincascade.exe。 它们不是预建的。 而是，仅当您从源代码编译 OpenCV 时，它们才存在。 根据您在第 1 章“设置 OpenCV”中选择的编译方法，它们的父文件夹是以下文件夹之一：

• MinGW：<unzip_destination>\bin
• Visual Studio 或 Visual C++ Express：<unzip_destination>\bin\Release

如果要将可执行文件的文件夹添加到系统的Path变量中，请参考第 1 章，“设置 OpenCV”的“在 Windows XP，Windows Vista，Windows 7 和 Windows 8 上进行选择”部分的信息框中的说明。 否则，请注意可执行文件的完整路径，因为我们将需要在运行它们时使用它。

在 Mac，Ubuntu 和其他类似 Unix 的系统上

Mac，Ubuntu 和其他类似 Unix 的系统上的两个可执行文件称为opencv_createsamples和opencv_traincascade。 它们的父文件夹是以下文件夹之一，具体取决于您的系统和在第 1 章“设置 OpenCV”中选择的方法：

• 带有 MacPorts 的 Mac：/opt/local/bin
• 带有 Homebrew 的 Mac：/opt/local/bin或/opt/local/sbin
• 具有 Apt 的 Ubuntu：/usr/bin
• 使用我的自定义安装脚本的 Ubuntu：/usr/local/bin
• 其他类 Unix 系统：/usr/bin和/usr/local/bin

除 Mac 带有 Homebrew 的情况外，默认情况下，可执行文件的文件夹应位于PATH中。 对于 Homebrew，如果要将相关文件夹添加到PATH，请参阅第 1 章，“设置 OpenCV”的“使用 Homebrew 和现成的包（不支持深度摄像头）”第二部分中的说明。 否则，请注意可执行文件的完整路径，因为我们需要在运行它们时使用它。

创建训练集和级联

此后，我们将这两个可执行文件称为<opencv_createsamples>和<opencv_traincascade>。 切记替换适合您的系统和设置的路径和文件名。

这些可执行文件具有某些数据文件作为输入和输出。 以下是生成这些数据文件的典型方法：

1. 手动创建一个描述负面训练图像集的文本文件。 我们将此文件称为<negative_description>。
2. 手动创建一个描述正面训练图像集的文本文件。 我们将此文件称为<positive_description>。
3. 以<negative_description>和<positive_description>作为参数运行<opencv_createsamples>。 该可执行文件将创建一个描述训练数据的二进制文件。 我们将后一个文件称为<binary_description>。
4. 以<binary_description>作为参数运行<opencv_traincascade>。 该可执行文件创建二进制级联文件，我们将其称为<cascade>。

我们可以选择<negative_description>，<positive_description>，<binary_description>和<cascade>的实际名称和路径。

现在，让我们详细了解三个步骤。

创建<negative_description>

<negative_description>是一个文本文件，列出了所有负面训练图像的相对路径。 路径应由换行符分隔。 例如，假设我们具有以下目录结构，其中<negative_description>是negative/desc.txt：

negativedesc.txtimagesnegative 0.pngnegative 1.png

然后，negative/desc.txt的内容可能如下：

"images/negative 0.png"
"images/negative 1.png"

对于少量图像，我们可以手动编写这样的文件。 对于大量图像，我们应该改用命令行来查找与特定模式匹配的相对路径，并将这些匹配输出到文件中。 继续我们的示例，我们可以通过在 Windows 的“命令提示符”中运行以下命令来生成negative/desc.txt：

> cd negative
> forfiles /m images\*.png /c "cmd /c echo @relpath" > desc.txt

请注意，在这种情况下，相对路径的格式为.\images\negative 0.png，这是可以接受的。

另外，在类似 Unix 的外壳中，例如 Mac 或 Ubuntu 上的 Terminal，我们可以运行以下命令：

$ cd negative
$ find images/*.png | sed -e "s/^/\"/g;s/$/\"/g" > desc.txt

创建<positive_description>

如果我们有多个正面训练图像，则需要使用<positive_description>。 否则，请继续下一节。 <positive_description>是一个文本文件，列出了所有积极训练图像的相对路径。 在每个路径之后，<positive_description>还包含一系列数字，这些数字指示在图像中找到了多少个目标实例，以及哪些子矩形包含了这些目标实例。 对于每个子矩形，数字按以下顺序排列：x，y，宽度和高度。 考虑以下示例：

"images/positive 0.png"  1  120 160 40 40
"images/positive 1.png"  2  200 120 40 60  80 60 20 20

在此，images/positive 0.png包含子矩形中目标的一个实例，该子矩形的左上角为(120, 160)，右下角为(160, 200)。 同时，images/positive 1.png包含目标的两个实例。 一个实例位于子矩形中，该子矩形的左上角为(200, 120)，而其右下角为(240, 180)。 另一个实例位于子矩形中，该子矩形的左上角为(80, 60)，右下角为(100, 80)。

要创建这样的文件，我们可以以与<negative_description>相同的方式开始生成图像路径列表。 然后，我们必须基于对图像的专家（人类）分析，手动添加有关目标实例的数据。

通过运行<opencv_createsamples>创建<binary_description>

假设我们有多个正面训练图像，因此，我们创建了<positive_description>，现在可以通过运行以下命令来生成<binary_description>：

$ <opencv_createsamples> -vec <binary_description> -info <positive_description> -bg <negative_description>

另外，如果我们有一个正面的训练图像，我们将其称为<positive_image>，则应改为运行以下命令：

$ <opencv_createsamples> -vec <binary_description> -image <positive_image> -bg <negative_description>

对于其他<opencv_createsamples>标志（可选），请参见官方文档。

通过运行<opencv_traincascade>创建<cascade>

最后，我们可以通过运行以下命令生成<cascade>：

$ <opencv_traincascade> -data <cascade> -vec <binary_description> -bg <negative_description>

有关<opencv_traincascade>的其他（可选）标志的信息，请参见官方文档。

---

提示

发声

为了好运，在运行<opencv_traincascade>时发出模仿声音。 例如，说“ Moo！” 如果正面训练图像是母牛。

---

测试和改进<cascade>

<cascade>是与 OpenCV 的CascadeClassifier类的构造器兼容的 XML 文件。 对于如何使用CascadeClassifier的示例，请参考第 4 章“用 Haar 级联跟踪人脸”的FaceTracker实现。 。 通过复制和修改FaceTracker和Cameo，您应该能够创建一个简单的测试应用，该应用在跟踪的自定义目标实例周围绘制矩形。

也许在您第一次尝试级联训练时，您将不会获得可靠的跟踪结果。 要提高训练效果，请执行以下操作：

• 考虑使分类问题更具体。 例如，bald, shaven, male face without glasses级联可能比普通的face级联更容易训练。 稍后，随着结果的改善，您可以尝试再次扩大问题范围。
• 收集更多的训练图像，更多！
• 确保<negative_description>包含所有负面训练图像，仅包含负面训练图像。
• 确保<positive_description>包含所有正面训练图像，仅包含正面训练图像。
• 确保<positive_description>中指定的子矩形正确。
• 查看并尝试使用<opencv_createsamples>和<opencv_traincascade>的可选标志。 这些标志在这个页面的官方文档中进行了描述。

祝你好运，寻找图像！

总结

我们已经讨论了用于生成与 OpenCV 的CascadeClassifier兼容的级联文件的数据和可执行文件。 现在，您可以开始收集您喜欢的事物的图像并为其训练分类器！