不变集(invariant set)是动力系统中的重要概念之一，是动力系统研究的重要对象。

一个集合称为一个动态系统的不变集，如果从中一个点出发的轨线永远留在中。

例如任一平衡点是一个不变集，一个平衡点的吸引域也是一个不变集。一个平凡不变集是整个状态空间。

对于一个自治系统，状态空间的任何一条轨线都是一个不变集。由于极限环是一种特殊的系统轨线(相平面的闭曲线)，它们也是不变集。

不变集定理不仅使我们在负半定的情况下得到渐近稳定的结论，同时，也可以将用李雅普诺夫函数描述性态收敛的方法从平衡点推广到更一般的情况，例如收敛到极限环。

这里先讲局部不变集定理，然后讨论全局情况。

局部不变集定理反映这样一种直觉：李雅普诺夫函数V必须会逐渐消失(即会收敛于0)，因为V是下有界的。这个结果可准确叙述如下：

定理1(局部不变集定理) 考查一个形如(3.2)的自治系统，这里是连续的，设V(x)为一个有连续一阶偏导数的标量函数，并且

(1) 对任何，由定义的为一个有界区域；

(2)。

设R为内使的所有点集合，M为R中的最大不变集，那么当时从出发的每一个解均趋于M。

在上述定理中，“最大”一词指在集合论意义下的最大，即M是R内所有不变集(包括平衡点、极限环)的并集。如果集合R本身是不变的(即一旦，则此后)，那么M=R。同时也请注意，这里V虽然还叫做李雅普诺夫函数，但不要求它正定。

定理的几何意义的表明如图1所示，其中，从右界区域中出发的轨线收敛到更大不变集合M中。注意，集合R既不一定是连通的，也不是集合M。

这个定理可以分两步证明：首先指出趋于零，然后再证明状态收敛于中的最大不变集。这里只给出证明的思路，详细证明过程可参考相应书籍。

证明：第一部分要证明对任何一条由出发的轨线皆有，它要用到Barbalat引理。证明的第二部分，包括证明所有轨线都不会收敛于R的其他地方，而只会收敛于R中的最大不变集M。这可以通过先证明自治系统的任一有界轨线收敛于一个不变集(称为轨线的正不变集)，再证明这个集合是最大不变集M的子集来完成。

局部李雅普诺夫定理可以看作上述不变集定理的特例，即M集只含原点。

前述的不变集定理及其推论可以简单地推广到全局的情况，条件是将的有界性改变为标量函数V径向无界。

定理2(全局不变集定理) 考查自治系统(3.2)，这里连续，设为带有连续一阶偏导数的标量函数，并且

(1)（当时）；

(2)对所有。

记R为所有使的点的集合，M为R中最大不变集，那么，当时所有解全局渐近收敛于M。