Lineaire Algebra – Orthogonaliteit en kleinste kwadraten

Definitie: Als \(\mathbf{u}=\begin{pmatrix}u_1\\u_2\\\vdots\\u_n\end{pmatrix}\) en \(\mathbf{v}=\begin{pmatrix}v_1\\v_2\\\vdots\\v_n\end{pmatrix}\) vectoren in \(\mathbb{R}^n\) zijn, dan heet

\[\mathbf{u}\cdot\mathbf{v}=\mathbf{u}^T\mathbf{v}=u_1v_1+u_2v_2+\cdots+u_nv_n\]

het inwendig product van de vectoren \(\mathbf{u}\) en \(\mathbf{v}\).

Opmerking: het inwendig product van twee vectoren is dus een getal.

Uit de definitie volgen eenvoudig de volgende rekenregels:

Stelling: Als \(\mathbf{u}\), \(\mathbf{v}\) en \(\mathbf{w}\) vectoren in \(\mathbb{R}^n\) zijn en \(c\in\mathbb{R}\), dan geldt:

1. \(\mathbf{u}\cdot\mathbf{v}=\mathbf{v}\cdot\mathbf{u}\),


2. \((\mathbf{u}+\mathbf{v})\cdot\mathbf{w}=\mathbf{u}\cdot\mathbf{w}+\mathbf{v}\cdot\mathbf{w}\),


3. \((c\mathbf{u})\cdot\mathbf{v}=c(\mathbf{u}\cdot\mathbf{v})=\mathbf{u}\cdot(c\mathbf{v})\),


4. \(\mathbf{u}\cdot\mathbf{u}\geq0\) en \(\mathbf{u}\cdot\mathbf{u}=0\;\Longleftrightarrow\;\mathbf{u}=\mathbf{0}\).

De laatste rekenregel maakt het mogelijk om ook het begrip lengte of norm te definiëren:

Definitie: Als \(\mathbf{v}=\begin{pmatrix}v_1\\v_2\\\vdots\\v_n\end{pmatrix}\in\mathbb{R}^n\), dan geldt:

\[||\mathbf{v}||=\sqrt{\mathbf{v}\cdot\mathbf{v}}=\sqrt{v_1^2+v_2^2+\cdots+v_n^2}\]

heet de lengte of norm van de vector \(\mathbf{v}\).

Opmerking: er geldt dus dat \(||\mathbf{v}||^2=\mathbf{v}\cdot\mathbf{v}\).

Uit de rekenregels volgt dat \(||c\mathbf{v}||=|c|\,||\mathbf{v}||\) voor alle \(c\in\mathbb{R}\). Immers: \(||c\mathbf{v}||^2=(c\mathbf{v})\cdot(c\mathbf{v})=c^2(\mathbf{v}\cdot\mathbf{v})=c^2||\mathbf{v}||^2\). Hieruit volgt dat \(||c\mathbf{v}||=\sqrt{c^2}||\mathbf{v}||=|c|\,||\mathbf{v}||\).

Definitie: Een vector met lengte \(1\) heet een eenheidsvector.

De eenheidsvector in de richting van een vector \(\mathbf{v}\neq\mathbf{0}\) is: \(\displaystyle\frac{1}{||\mathbf{v}||}\mathbf{v}\).

We kunnen nu ook een afstandsbegrio definiëren:

Definitie: Als \(\mathbf{u}=\begin{pmatrix}u_1\\u_2\\\vdots\\u_n\end{pmatrix}\) en \(\mathbf{v}=\begin{pmatrix}v_1\\v_2\\\vdots\\v_n\end{pmatrix}\) vectoren in \(\mathbb{R}^n\) zijn, dan heet

\[\text{dist}(\mathbf{u},\mathbf{v})=||\mathbf{u}-\mathbf{v}||=\sqrt{(u_1-v_1)^2+(u_2-v_2)^2+\cdots+(u_n-v_n)^2}\]

de afstand van de vectoren \(\mathbf{u}\) en \(\mathbf{v}\).

Hiermee kunnen we vervolgens orthogonaliteit definiëren. We noemen twee vectoren \(\mathbf{u}\) en \(\mathbf{v}\) orthogonaal als \(\text{dist}(\mathbf{u},\mathbf{v})=\text{dist}(\mathbf{u},-\mathbf{v})\). Nu geldt:

\[\{\text{dist}(\mathbf{u},\mathbf{v})\}^2=||\mathbf{u}-\mathbf{v}||^2=(\mathbf{u}-\mathbf{v})\cdot(\mathbf{u}-\mathbf{v}) =\mathbf{u}\cdot\mathbf{u}-\mathbf{u}\cdot\mathbf{v}-\mathbf{v}\cdot\mathbf{u}+\mathbf{v}\cdot\mathbf{v}=||\mathbf{u}||^2-2(\mathbf{u}\cdot\mathbf{v})+||\mathbf{v}||^2\]

en evenzo

\[\{\text{dist}(\mathbf{u},-\mathbf{v})\}^2=||\mathbf{u}+\mathbf{v}||^2=(\mathbf{u}+\mathbf{v})\cdot(\mathbf{u}+\mathbf{v}) =\mathbf{u}\cdot\mathbf{u}+\mathbf{u}\cdot\mathbf{v}+\mathbf{v}\cdot\mathbf{u}+\mathbf{v}\cdot\mathbf{v}=||\mathbf{u}||^2+2(\mathbf{u}\cdot\mathbf{v})+||\mathbf{v}||^2.\]

Hieruit volgt:

\[\text{dist}(\mathbf{u},\mathbf{v})=\text{dist}(\mathbf{u},-\mathbf{v}) \quad\Longleftrightarrow\quad-(\mathbf{u}\cdot\mathbf{v})=\mathbf{u}\cdot\mathbf{v}\quad\Longleftrightarrow\quad\mathbf{u}\cdot\mathbf{v}=0.\]

Dit leidt tot:

Definitie: Twee vectoren \(\mathbf{u}\) en \(\mathbf{v}\) in \(\mathbb{R}^n\) heten orthogonaal als \(\mathbf{u}\cdot\mathbf{v}=0\). Notatie: \(\mathbf{u}\perp\mathbf{v}\).

Opmerking: deze definitie impliceert dat de nulvector "loodrecht staat" op iedere andere vector en zelfs op zichzelf.

Nu kunnen we eenvoudig een generalisatie van de stelling van Pythagoras bewijzen:

Stelling: Als \(\mathbf{u}\) en \(\mathbf{v}\) vectoren in \(\mathbb{R}^n\) zijn, dan geldt: \[\mathbf{u}\perp\mathbf{v}\quad\Longleftrightarrow\quad||\mathbf{u}+\mathbf{v}||^2=||\mathbf{u}||^2+||\mathbf{v}||^2.\]

Bewijs: Er geldt:

\[||\mathbf{u}+\mathbf{v}||^2=(\mathbf{u}+\mathbf{v})\cdot(\mathbf{u}+\mathbf{v})=\mathbf{u}\cdot\mathbf{u}+\mathbf{u}\cdot\mathbf{v} +\mathbf{v}\cdot\mathbf{u}+\mathbf{v}\cdot\mathbf{v}=||\mathbf{u}||^2+2(\mathbf{u}\cdot\mathbf{v})+||\mathbf{v}||^2.\]

Hieruit volgt: \(||\mathbf{u}+\mathbf{v}||^2=||\mathbf{u}||^2+||\mathbf{v}||^2\;\;\Longleftrightarrow\;\;\mathbf{u}\cdot\mathbf{v}=0\;\;\Longleftrightarrow\;\;\mathbf{u}\perp\mathbf{v}\).

Ten slotte definiëren we nog de hoek tussen twee vectoren:

Definitie: Als \(\mathbf{u}\) en \(\mathbf{v}\) vectoren in \(\mathbb{R}^n\) zijn, dan geldt: \(\mathbf{u}\cdot\mathbf{v}=||\mathbf{u}||\,||\mathbf{v}||\,\cos(\theta)\), waarbij \(\theta\in[0,\pi]\) de hoek is tussen \(\mathbf{u}\) en \(\mathbf{v}\).

Opmerking: \(\mathbf{u}\perp\mathbf{v}\;\;\Longleftrightarrow\;\;\theta=\frac{1}{2}\pi\;\;\Longleftrightarrow\;\;\cos\left(\frac{1}{2}\pi\right)=0\).

---

Laatst gewijzigd op 2 mei 2021