基于GPU的神经网络异常人类活动检测

### 基于GPU的神经网络异常人类活动检测 #### 1. GPU在神经网络中的优势 GPU能够显著减少处理时间。在训练神经网络时，需要进行误差反向传播并更新权重，这些本质上都是矩阵运算，而GPU的并行架构非常适合处理此类运算。 如今，GPU已成为物联网设备中不断发展的一类。随着连接性的增强，丰富的图形体验几乎出现在我们生活的各个应用和方面。即使在可穿戴设备上，GPU也能实现智能手机级别的视觉效果。从这个角度来看，利用GPU实现神经网络为移动医疗中的环境智能应用和智能服务的发展开辟了新的机遇。 #### 2. 神经网络集成 神经网络集成的思路是，不使用一个神经网络来预测6个输出，而是使用N个神经网络，每个网络专门处理两个输出：如果数据实例代表某个类别，则输出1，否则输出0。 以Kinect数据为例，这是一个时间序列数据，每个活动有6个类别。一种方法是使用一个神经网络来预测这6个类别，但神经网络集成的思路是为每个活动设置一个专门的神经网络，即6个神经网络每个都有2个输出（0或1）。例如，神经网络1在数据实例对应活动1时输出1，对其他活动输出0；神经网络2在数据实例对应活动2时输出1，对其他活动输出0，以此类推。 训练完成后进行测试。在测试阶段，每个神经网络都会对测试数据的每个实例进行处理。如果实例对应某个神经网络所训练的活动，该神经网络输出1，其他网络输出0。例如： ```plaintext 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 ``` 这表明前6个数据实例被认为是活动5，只有神经网络5输出1；后4个数据实例被认为是活动4，只有神经网络4输出1。 当然，这个过程可能会有例外。例如： ```plaintext 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 1 1 0 0 0 0 0 1 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0 ``` 在第五行输出中，网络3认为是活动3，网络4认为是活动4。由于数据是时间序列，我们可以查看历史记录来确定哪个网络正确。在这个例子中，前一行的正确活动是活动4，所以可以将神经网络3的输出改为0，从而使集成能够在出现异常时预测正确的输出。 #### 3. 影子特征生成方法 在提出的模型中，通过在原始数据的每个特征列后添加一个新列来生成影子特征。这意味着计算影子特征后，特征列的数量将从原始数据集的M列变为2M列。原始特征保持不变，只是添加了新的特征。 生成影子特征时，为每个特征列添加一个新的特征列，该列的内容根据其左侧列计算。计算影子特征需要确定Q的大小，然后取一列中Q + 1个元素的平均值，这将确定新特征列中的一个数据实例。接着在原始特征列中向下滑动一个位置，取接下来Q + 1个元素的平均值，直到计算出所有新特征（即影子特征）。 例如，当Q = 1时： | Time = t | Time = t + 1 | Time = t + 2 | | --- | --- | --- | | 原始特征 | 影子特征 | | 新特征列的前Q个数据元素设为0，后续数据元素通过取原始特征列中前Q + 1个元素的平均值计算得出。 #### 4. GPU神经网络实现 ##### 4.1 总体程序结构 程序分为不同的组件，每个部分都有特定的功能。 ##### 4.2 神经网络类 在神经网络类中，定义了隐藏层和输出层，但没有定义输入层。因为输入数据对于每个神经网络都是相同的，包含输入层会浪费大量内存。因此，将整个输入数据一次性读入GPU，每个神经网络都可以访问它。 此外，还定义了权重、误差和激活值等数据，这些都用于训练和测试过程。同时，还有用于统计神经网络正确预测次数的变量。 ##### 4.3 GPU函数 该部分包含程序使用的所有GPU函数，包括训练和测试函数的定义。下面详细介绍神经网络中最重要的GPU函数： - **前向传播**：分为两个阶段，一个是从输入层到隐藏层的前向传播，另一个是从隐藏层到输出层的前向传播。 - **输入层到隐藏层的前向传播**：每个输入节点乘以连接到隐藏节点的权重，结果通过Sigmoid函数处理后存储在隐藏节点中。对于隐藏层中的每个隐藏节点，都进行这样的计算。 计算公式为：$H_j = \sigma(\sum_{i = 0}^{n} W_{ij} \cdot x_i)$，其中$H_j$是隐藏节点j，$W_{ij}$是权重矩阵，$x_i$是输入节点i。 在GPU上执行此计算时，利用这些操作的独立性，通过线程和块并行执行。权重可以表示为矩阵，所有这些操作本质上都是可以并行进行的矩阵运算。可以让每个块计算一个隐藏层节点，块内的操作表示点积，每个块内的线程将一个输入节