GRU（gated recurrent unit, 门控循环单元）
是一种特殊的循环神经网络，旨在解决传统RNN在处理长序列数据时遇到的梯度消失或爆炸问题，GRU通过引入门控机制来调节信息流，从而有效地捕捉长期依赖关系。
GRU的架构
核心思想是将传统的循环神经网络中的单个隐藏状态更新公式简化为两个门控单元：重置门&更新门，这两个门分别控制新旧信息的遗忘和保留程度，使得GRU更加灵活地处理序列中的长期依赖问题。
重置门：决定忘记之前的信息，通过计算输入数据与当前隐藏状态的点积，并通过一个sigmoid函数来输出一个0-1之间的值，这个值决定了多少比例的旧信息应该被保留。
更新门：决定保留多少旧信息，同样通过计算输入数据与当前隐藏状态的点积，并通过一个sigmoid函数来输出一个0-1之间的值，这个值决定了多少比例的旧信息应该被保留。
候选隐藏状态：基于重置门、更新门的作用，GRU计算一个新的候选隐藏状态，这一步骤涉及到输入数据、重置门和更新门的作用，候选隐藏状态反映看当前时刻的新信息。
最终隐藏状态：最终隐藏状态是当前时刻的隐藏状态，它是候选隐藏状态和上一时刻的隐藏状态的加权和，权重由更新门决定。
GRU的算法计算流程
1、初始化：首先初始化重置门、更新门和候选隐藏状态
2、迭代过程：对序列中的每一个时间步t，执行以下步骤：
计算重置门：
计算更新门：
计算候选隐藏状态：
更新隐藏状态：
3、输出：最后根据当前的隐藏状态进行最终的输出。
在实际应用中，GRU与其他循环神经网络（如LSTM）相比有哪些优势和局限性。
优势：
1、训练速度：GRU在训练过程中用时更少，这意味着相同的硬件条件下，GRU能够更快地完成学习过程，这对于需要快速迭代和优化的场景尤为重要。
2、模型简化：GRU相比于LSTM具有更简单的结构。这种简化有助于减少模型的复杂度，从而降低过拟合的风险，并且在资源受限的情况下更容易部署。
3、性能表现：在某些情况下，GRU的表现要优于LSTM。例如：在金融时间序列数据预测的研究中，当模型简单且数据量较少时，GRU的效果更优。此外，多层GRU在力估计系统任务中的表现超过了其他模型。
局限性
1、多步预测能力：在多步预测的拓展探索中，发现两层神经网络搭建的深度学习模型在多步预测（单步预测：在给定的时刻，只预测下一个时间点的值，多步预测：同时预测未来多个时间点的值）中并不总是奏效，而LSTM搭建的模型表现良好，GRU搭建的模型还不成熟，这表明在处理需要长期依赖信息的任务时，GRU可能不如LSTM有效。
2、普适性问题：尽管GRU在单步预测中表现出普适性，但是在多元多步模型中，其性能可能会下降，甚至出现模型时效的情况，这暗示GRU在处理复杂的序列预测任务时可能存在局限性。
3、稳定性问题：随着数据量的增多和模型复杂度的增加，LSTM的表现更加稳定，这可能是因为LSTM的设计允许它更好地处理长期依赖问题，而GRU在这种情况下可能因为其简化的设计而受到影响。
