Основы линейной алгебры

Вектор

Векторное пространство над полем \(\mathbb{R}\) — множество \(V\) с операциями сложения и умножения на скаляр, удовлетворяющими аксиомам:

• \((V, +)\) — абелева группа (ассоциативность, коммутативность, нулевой элемент, обратный)
• \(\alpha(\beta \vec{v}) = (\alpha\beta)\vec{v}\)
• \((\alpha + \beta)\vec{v} = \alpha\vec{v} + \beta\vec{v}\)
• \(\alpha(\vec{u} + \vec{v}) = \alpha\vec{u} + \alpha\vec{v}\)
• \(1 \cdot \vec{v} = \vec{v}\)

Вектор — элемент векторного пространства. В координатном представлении вектор из \(\mathbb{R}^n\) записывается как упорядоченный набор \(n\) чисел:

\[\vec{v} = \begin{bmatrix} v_1 \\ v_2 \\ \vdots \\ v_n \end{bmatrix} \in \mathbb{R}^n, \qquad \vec{v}^T = (v_1, v_2, \ldots, v_n)\]

Кодировка цвета в RGB — вектор из \(\mathbb{R}^3\)

Изображение \(\pi\) как вектор из \(\mathbb{R}^{64}\): \((0.52, 0.19, 0.24, \ldots, 0.38, 0.16, 0.65)\)

Операции над векторами

Сложение и умножение на скаляр в координатах:

\[\vec{a} + \vec{b} = (a_1 + b_1, \ldots, a_n + b_n), \qquad \alpha \vec{a} = (\alpha a_1, \ldots, \alpha a_n)\]

Сложение векторов: правило параллелограмма

Линейная комбинация и линейная оболочка

Линейная комбинация векторов \(\vec{v}_1, \ldots, \vec{v}_k\) — вектор вида:

\[\alpha_1 \vec{v}_1 + \alpha_2 \vec{v}_2 + \ldots + \alpha_k \vec{v}_k, \quad \alpha_i \in \mathbb{R}\]

Линейная оболочка (span) множества векторов — множество всех их линейных комбинаций:

\[\text{span}(\vec{v}_1, \ldots, \vec{v}_k) = \left\{ \sum_{i=1}^{k} \alpha_i \vec{v}_i \ \middle|\ \alpha_i \in \mathbb{R} \right\}\]

Линейная оболочка двух векторов: плоскость (если неколлинеарны) или прямая (если коллинеарны)

Линейная независимость и базис

Векторы \(\vec{v}_1, \ldots, \vec{v}_k\) линейно независимы, если из равенства

\[\alpha_1 \vec{v}_1 + \ldots + \alpha_k \vec{v}_k = \vec{0}\]

следует \(\alpha_1 = \ldots = \alpha_k = 0\). Иначе говоря, ни один из них не выражается как линейная комбинация остальных.

Линейно независимые (слева) и линейно зависимые (справа) векторы

Базис пространства \(V\) — набор линейно независимых векторов, линейная оболочка которых совпадает с \(V\). Любой вектор из \(V\) единственным образом представляется как линейная комбинация базисных.

Размерность \(\dim V\) — число векторов в базисе.

Стандартный базис \(\mathbb{R}^n\):

\[\vec{e}_1 = (1, 0, \ldots, 0), \quad \vec{e}_2 = (0, 1, \ldots, 0), \quad \ldots, \quad \vec{e}_n = (0, 0, \ldots, 1)\]

Скалярное произведение (dot product)

Определение. Скалярное произведение на \(\mathbb{R}^n\):

\[\vec{a} \cdot \vec{b} = \sum_{i=1}^{n} a_i b_i = a_1 b_1 + a_2 b_2 + \ldots + a_n b_n\]

Геометрический смысл:

\[\vec{a} \cdot \vec{b} = \|\vec{a}\| \cdot \|\vec{b}\| \cdot \cos\theta\]

где \(\theta\) — угол между векторами. Следствия:

• \(\vec{a} \cdot \vec{b} > 0\) — острый угол
• \(\vec{a} \cdot \vec{b} = 0\) — векторы ортогональны (\(\vec{a} \perp \vec{b}\))
• \(\vec{a} \cdot \vec{b} < 0\) — тупой угол

Проекция \(\vec{a}\) на \(\vec{b}\):

\[\text{proj}_{\vec{b}} \vec{a} = \frac{\vec{a} \cdot \vec{b}}{\|\vec{b}\|^2} \vec{b}\]

Скалярное произведение: проекция и угол между векторами

Свойства:

• Симметричность: \(\vec{a} \cdot \vec{b} = \vec{b} \cdot \vec{a}\)
• Билинейность: \((\alpha\vec{a} + \beta\vec{b}) \cdot \vec{c} = \alpha(\vec{a} \cdot \vec{c}) + \beta(\vec{b} \cdot \vec{c})\)
• Положительная определённость: \(\vec{a} \cdot \vec{a} \geq 0\), причём \(= 0 \iff \vec{a} = \vec{0}\)

Вывод через ортонормированный базис:

\[\vec{a} = a_x \vec{i} + a_y \vec{j}, \quad \vec{b} = b_x \vec{i} + b_y \vec{j}\]

\[\vec{a} \cdot \vec{b} = a_x b_x \underbrace{(\vec{i} \cdot \vec{i})}_{1} + a_x b_y \underbrace{(\vec{i} \cdot \vec{j})}_{0} + a_y b_x \underbrace{(\vec{j} \cdot \vec{i})}_{0} + a_y b_y \underbrace{(\vec{j} \cdot \vec{j})}_{1} = a_x b_x + a_y b_y\]

Векторное произведение (cross product)

Определение. Векторное произведение \(\vec{a} \times \vec{b}\) определено в \(\mathbb{R}^3\). Результат — вектор \(\vec{c}\), перпендикулярный плоскости \(\vec{a}\) и \(\vec{b}\), с модулем равным площади параллелограмма:

\[\|\vec{a} \times \vec{b}\| = \|\vec{a}\| \cdot \|\vec{b}\| \cdot \sin\theta\]

Направление определяется правилом правой руки.

Формула через определитель:

\[\vec{a} \times \vec{b} = \begin{vmatrix} \vec{i} & \vec{j} & \vec{k} \\ a_x & a_y & a_z \\ b_x & b_y & b_z \end{vmatrix} = (a_y b_z - a_z b_y)\vec{i} - (a_x b_z - a_z b_x)\vec{j} + (a_x b_y - a_y b_x)\vec{k}\]

Свойства:

• Антикоммутативность: \(\vec{a} \times \vec{b} = -(\vec{b} \times \vec{a})\)
• \(\vec{a} \times \vec{a} = \vec{0}\)
• \(\vec{a} \times \vec{b} = \vec{0} \iff \vec{a} \parallel \vec{b}\)