Ротор векторного поля, его независимость от выбора прямоугольной правой системы координат и геометрический смысл.
Пусть в области определено дифференцируемое векторное поле а(М). Выберем декартову систему координат Oxyz. Тогда
а(М) = (P(x,y,z), Q(x,y,z), R(x,y,z)).
Вихрь или ротор векторного поля определяется следующим образом:
rot a = [, a] = =
Инвариантность rot a в ориентированном евклидовом пространстве.
Пусть евклидово пространство E3 ориентировано, т. е. множество всех некомпланарных троек векторов разбито на два класса: "правых троек" и "левых троек". Пусть а — непрерывно дифференцируемое поле в области G. Возьмем точку и произвольный вектор n, |n|= 1. Проведем через Р плоскость с нормалью n, возьмем в этой плоскости окружность с центром в точке Р и столь малого радиуса ε, что круг, вырезаемый этой окружностью из плоскости, лежит внутри области G. Ориентируем по отношению к n по правилу правого винта. Применим к теорему Стокса, а затем интегральную теорему о среднем. Получаем
(a, dr) = (rot a, n)dS = (rot a(M*), n)πε2, M* Cε
Воспользовавшись непрерывностью rot a, можем написать
(rot a, n)M = (4)
Таким образом, проекция (rot a, n) есть инвариант; она не зависит от выбора любой правой системы координат. Так как вектор n имеет произвольное направление, то и rot a не зависит от выбора правой координатной системы. При изменении ориентации пространства на противоположную нормаль к площадке и направление обхода контура уже нужно согласовывать по правилу левого винта, и вместо формулы (4) мы получим формулу со знаком минус. Таким образом, при изменении ориентации пространства вектор rot a меняет знак.