Download Proyección ortogonal

Álgebra Lineal
Ma1010
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Departamento de Matemáticas
ITESM
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 1/36
Introducción
En esta lectura veremos el proceso para
ortogonalizar un conjunto de vectores. Este
proceso es conocido como el proceso de
Gram-Schmidt.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 2/36
Ortogonalidad a un espacio
Teorema
Sea V un espacio vectorial con producto
interno •. El vector u es ortogonal a todo
vector de W = Gen{v1 , . . . , vk } si y sólo si
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
u • vi = 0, para todo i = 1, 2 . . . , k
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 3/36
Ortogonalidad a un espacio
Teorema
Sea V un espacio vectorial con producto
interno •. El vector u es ortogonal a todo
vector de W = Gen{v1 , . . . , vk } si y sólo si
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
u • vi = 0, para todo i = 1, 2 . . . , k
Demostración
Si u es ortogonal a todo W , entonces es ortogonal
a todo elemento de W . Los elementos vi son
también elementos de W . Por tanto, para cada
i = 1, 2, . . . , k se cumple u • vi = 0.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 3/36
Supongamos que para cada i = 1, 2, . . . , k se
cumpla u • vi = 0, y sea v un elemento cualquiera
de W . Como W está generado por los vi , deben
existir ci tales que:
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
v = c1 v 1 + · · · + ck v k
Haciendo el producto interno con u:
u • v = c1 u • v 1 + · · · + ck u • v k
=
c1 · 0 + · · · + ck · 0 = 0
por tanto, u es ortogonal a todo elemento de W .
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 4/36
Proyección ortogonal
Nuestro principal resultado referente a
ortoginalidad es el siguiente.
Teorema
Suponga que V es un espacio vectorial con
producto interno. Y sea b un vector de V y W
un subespacio lineal de V . Si W posee una
base ortogonal, entonces
1. Existe z ∈ W tal que b − z ⊥ W .
2. El vector z que cumple lo anterior es único.
3. Para todo y de W : d(z, b) ≤ d(y, b).
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 5/36
Demostración
Sea B = {a1 , a2 , . . . , ak } una base ortogonal para W .
Definamos
b • a2
b • ak
b • a1
a1 +
a2 + · · · +
ak
z=
a1 • a1
a2 • a2
ak • ak
Por conveniencia representaremos
b • ai
fi =
ai • ai
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 6/36
Veamos que z cumple el requisito 1. De acuerdo al resultado
previo debemos probar que (b − z) • ai = 0 para cada
i = 1, 2, . . . , k. Si utilizamos las propiedades del producto
interno y la ortogonalidad de B tenemos:
Pk
(b − z) • ai = b − j=1 fj aj • ai
P
k
= b • ai −
j=1 fj aj • ai
Pk
= b • ai − j=1 fj aj • ai
= b • a i − fi a i • a i
i
= b • ai − ab•a
ai • ai
i •ai
= b • ai − b • ai = 0
Por lo anterior y el teorema previo concluimos que b − z ⊥ W .
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 7/36
Supongamos que el vector y de W también cumple la
condición 1. Es decir, que b − y es ortogonal a todo vector de
W . Para probar que y = z, veamos que la magnitud de y − z
es cero.
(y − z) • (y − z) = (y − z + b − b) • (y − z)
= (−(b − y) + (b − z)) • (y − z)
= −(b − y) • (y − z) + (b − z) • (y − z)
Como z y y son elementos de W y W es un subespacio lineal,
y − z está en W . y como los vectores b − z y b − y son
perpendicuales a todo vector de W se obtiene que:
(b − y) • (y − z) = 0 y (b − z) • (y − z) = 0
de esta manera tenemos que (y − z) • (y − z) = 0. Por tanto
ky − zk2 = 0. Y así y − z = 0; de donde concluimos que y = z.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 8/36
Ahora, sea y un vector cualquiera de W , así:
(b − y) • (b − y) = (b − y + z − z) • (b − y + z − z)
= ((b − z) + (z − y)) • ((b − z) + (z − y))
= (b − z) • (b − z) + (b − z) • (z − y)+
(z − y) • (b − z) + (z − y) • (z − y)
= (b − z) • (b − z) + (z − y) • (z − y)
Por tanto
d(y, b)2 = d(z, b)2 + d(y, z)2
De donde concluimos que d(x, b) ≤ d(y, b) para todo y de W .
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 9/36
Sea V un espacio vectorial con producto interno.
Sea u un vector y sea W un subespacio con una
base ortogonal B = {v1 , . . . , vk }. Entonces, la
proyección ortogonal de u sobre W es el vector
u • v1
u • vk
upr =
v1 + · · · +
vk
v1 • v1
vk • vk
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 10/36
Sea V un espacio vectorial con producto interno.
Sea u un vector y sea W un subespacio con una
base ortogonal B = {v1 , . . . , vk }. Entonces, la
proyección ortogonal de u sobre W es el vector
u • v1
u • vk
upr =
v1 + · · · +
vk
v1 • v1
vk • vk
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
La diferencia uc = u − up r se llama la
componente de u ortogonal a W .
u • vk
u • v1
v1 − · · · −
vk
uc = u −
v1 • v1
vk • vk
u = upr + uc
El vector upr es el vector de W lo más cercano a u
y la distancia de u a W es la magnitud del vector
uc .
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 10/36
Proceso de ortogonalización de Gram-Schmidt
Sea V un espacio vectorial con producto interno. Todo subespacio
W con una base tiene al menos una base ortogonal y una base
ortonormal. Si B = {v1 , . . . , vk } es cualquier base de V , entonces
′
B = {u1 , . . . , uk } es una base ortogonal, donde
u1
=
v1
u2
=
u3
=
..
.
v2 •u1
u
u1 •u1 1
v3 − uv31 •• uu11 u1
uk
=
v2 −
vk −
vk • u 1
u
u1 • u1 1
−
v3 • u 2
u
u2 • u2 2
−
vk • u2
u
u2 • u2 2
− ··· −
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
v2 • uk−1
u
uk−1 • uk−1 k−1
y
Gen{v1 , . . . , vi } = Gen{u1 , . . . , ui },
i = 1, . . . , k
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 11/36
′′
Una Base ortonormal B se obtiene normalizando
′
B.
u1
uk
′′
B =
,...,
ku1 k
kuk k
El proceso anterior es conocido como proceso de
Gram-Schmidt.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 12/36
Ejemplo
Determine una base ortogonal y una ortonormal
de R3 aplicando el proceso de Gram-Schmidt a la
base B = {v1 , v2 , v3 } , en la cual






1
−2
1






v1 =  −1  , v2 =  3  , v3 =  2 
−4
−1
1
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 13/36
Solución
Por razones de conveniencia, definamos
v j • ui
xij =
ui • uj
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Se toma u1 = v1 . Como v2 • u1 = −6 y u1 • u1 = 3
se tiene x12 = −6/3 y por tanto se tiene:
u2 = v2 − x12 u1




−2
1
6 



=  3 − −
 −1 
3
−1
1
 
0
 
=  1 
1
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 14/36
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,
se tiene que x13 = −5/3 y x23 = −1 y entonces
u3 = v3 − x13 u1 − x23 u2




 
1
1
0
−5 



 
=  2 −
 −1  − (−1)  1 
3
−4
1
1



= 
8
3
4
3
− 43
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt


Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 15/36
Así, la base ortogonal es B ′ = {u1 , u2 , u3 } donde


 


8
1
0


 
 34 
u1 =  −1  , u2 =  1  , u3 =  3 
− 43
1
1
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 16/36
Así, la base ortogonal es B ′ = {u1 , u2 , u3 } donde


 


8
1
0


 
 34 
u1 =  −1  , u2 =  1  , u3 =  3 
− 43
1
1
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Por último, normalizamos para obtener una base
ortonormal B ′′ :

 

 
2
1




√
√
0








3
6









1


1
1




√ 
B ′′ =  − √  , 
, √ 
2




3   1  
6 








1
1


√




√
√
−
2
3
6
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 16/36
Los cálculos anteriores pueden llevarse a cabo en
la TI 89 o Voyage. La figura 1 contiene la captura
de los vectores.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 1: Captura de los vectores del ejemplo 1.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 17/36
Las figuras 2 y 3 contienen los pasos del algoritmo
sobre el conjunto de vectores inicial.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 2: Seguimiento del algoritmo en el ejemplo 1.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 18/36
Las figuras 3 y 4 contienen la normalización de los
vectores resultantes del proceso de
Gram-Schmidt.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 3: Conclusión del algoritmo GS e inicio del ortonormalización.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 19/36
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 4: Ortonormalización del conjunto.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 20/36
La figura 5 contiene la matriz cuyas columnas son
el resultado del proceso del ortonormalización
completo.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 5: Resultado del ejemplo 1.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 21/36
El proceso de Gram-Schmidt combinado con el de
ortonormalización está implementado en la TI mediante la rutina
llamada factorización QR. El conjunto de entrada debe estar en las
columnas de una matriz. En la figura 6 se ilustra la formación de la
matriz cuyas columnas son el conjunto inicial. Note en ella, el uso
de la función augment con punto y coma para la separación de los
vectores y el uso de la transpuesta debido a que ellos inicialmente
fueron definidos como vectores renglón.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 6: Formación de la matriz para el ejemplo 1.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 22/36
En la figura 7 se ilustra el uso del comando QR. Note que no se
usan paréntesis debido a que es una rutina y no una función. El
primer argumento es la matriz y el segundo y tercero son variables
dónde se depositarán los cálculos. Note que la matriz q resultante
contiene en sus columnas el mismo resultado de nuestro proceso
completo.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 7: QR en el ejemplo 1.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 23/36
Ejemplo
Determine la mínima distancia de v3 al espacio V
que generan v1 y v2 con los datos del problema
anterior.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 24/36
Ejemplo
Determine la mínima distancia de v3 al espacio V
que generan v1 y v2 con los datos del problema
anterior.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Solución
Para este cálculo debemos cambiar a {v1 , v2 } por
una base ortogonal y poder utilizar el resultado
sobre la descomposición.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 24/36
Ejemplo
Determine la mínima distancia de v3 al espacio V
que generan v1 y v2 con los datos del problema
anterior.
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Solución
Para este cálculo debemos cambiar a {v1 , v2 } por
una base ortogonal y poder utilizar el resultado
sobre la descomposición. Por los resultados del
problema previo tenemos que una base
ortonormal es: B ′ = {u1 , u2 } donde


 
1
0


 
u1 =  −1  , u2 =  1 
1
1
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 24/36
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,
entonces
v 3 · u1
v 3 · u2
v3 c = v3 −
u1 −
u2
u 1 · u1
u2 · u 2




 
0
1
1
−5 
−2  



=  2 −
 −1  −
 1 
3
2
−4
1
1



= 
8
3
4
3
− 43
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt


Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 25/36
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,
entonces
v 3 · u1
v 3 · u2
v3 c = v3 −
u1 −
u2
u 1 · u1
u2 · u 2




 
0
1
1
−5 
−2  



=  2 −
 −1  −
 1 
3
2
−4
1
1



= 
8
3
4
3
− 43
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt


Por lo tanto la distancia de v3 a V es
p
4√
2
2
2
||v3 c || = (8/3) + (4/3) + (−4/3) =
6
3
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 25/36
En la figura 8 se ilustra la forma de realizar los cálculos del ejemplo
2 en la TI. Note que el vector v3 se definió como renglón, y por ello
el uso de v3 T . Aplicando el concepto de multiplicación de una
matriz por un vector,
■ la expresión qT v3 T calculará < u1 • v3 , u2 • v3 > (Recuerde que
ui • ui = 1).
■ la expresión q qT v3 T calculará
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
pr = (u1 • v3 ) u1 + (u2 • v3 ) u2
Figura
8: DatosyyProceso
ortonormalización
del ejemploÁlgebra
2.
Proyecciones
Ortogonales
de Gram-Schmidt
Lineal - p. 26/36
En la figura 9 se obtiene la distancia mínima de v3 al espacio
generado por v1 y v2 :
r
4√
32
=
d = kv3 − prk =
6
3
3
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Figura 9: Cálculos finales del ejemplo 2.
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 27/36
Ejemplo
Calcule una base ortogonal y una ortonormal de
R3 aplicando el proceso de Gram-Schmidt a la
base B , en la cual

 
  

2
0
1 



 
  
B =  −1  ,  3  ,  2 



1
−1
0 
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 28/36
Ejemplo
Calcule una base ortogonal y una ortonormal de
R3 aplicando el proceso de Gram-Schmidt a la
base B , en la cual

 
  

2
0
1 



 
  
B =  −1  ,  3  ,  2 



1
−1
0 
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Solución
Utilizando






2
0
1




 
v1 =  −1  , v2 =  3  , v3 =  2 
1
−1
0
Iniciemos con u1 = v1 .
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 28/36
Como v2 • u1 = −4 y u1 • u1 = 6 en ese caso
v 2 • u1
u2 = v 2 −
u1
u1 • u1




2
0
−4 



=  3 −
−1


6
1
−1



= 
4
3
7
3
− 13
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt


Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 29/36
Ya que v3 • u1 = 1, v3 • u2 = 6, y u2 • u2 =
entonces
u3
22
,
3
v 3 • u1
v 3 • u2
= v3 −
u1 −
u2
u 1 • u1
u2 • u 2





Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt

4
2
1
−6  37 
1 

 
=  2 −
 −1  − 22  3 
6
3
1
0
− 13


14
− 33


=  17
66 
7
− 66
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 30/36
Así la base ortogonal es B ′ = {u1 , u2 , u3 } donde






4
14
2
− 33
3






u1 =  −1  , u2 =  73  , u3 =  17
66 
7
− 13
1
66
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
O sea

 

 
14
4


−
2


3
33






17
B ′ =  −1  ,  73  ,  66





1
7
−3
1
66
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 31/36
Por último normalizamos para obtener una base
ortonormal B ′′ :

 
 

4
28
1
√
− √1122 



66
2
′′
 1   √7   √ 17 
B =  −4  , 
, 

66
1122




1
1
7
√
√
−
−
4
66
1122
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Álgebra Lineal - p. 32/36
Ejemplo
Calcule una base ortogonal y una ortonormal de
R3 aplicando el proceso de Gram-Schmidt a la
base B , en la cual



Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt

1
4
1 





 
B = v1 =  −2  , v2 =  3  , v3 =  2 



1
−5
3 




Proyecciones Ortogonales y Proceso de Gram-Schmidt

Álgebra Lineal - p. 33/36
Ejemplo
Calcule una base ortogonal y una ortonormal de
R3 aplicando el proceso de Gram-Schmidt a la
base B , en la cual



Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt

1
4
1 





 
B = v1 =  −2  , v2 =  3  , v3 =  2 



1
−5
3 





Solución
Iniciamos con u1 = v1 .
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 33/36
Como v2 • u1 = −7 y u1 • u1 = 6 en ese caso
u2 = v2 − uv21 ·· uu11 u1




1
4




=  3  − −7
−2


6
1
−5



= 
31
6
2
3
− 23
6
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt


Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 34/36
Ya que v3 • u1 = 0, v3 • u2 =
entonces
u3
13
,
2
y u2 • u2 =
251
,
6
v 3 • u1
v 3 • u2
= v3 −
u1 −
u2
u 1 • u1
u2 • u2


1
 
=  2 −
3



= 
99
502
476
251
1805
502



Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt

31
1
13 6



0
2 
2
− 251 

6  −2 
3
6
1
− 23
6


Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 35/36
Así la base ortogonal es B ′ = {u1 , u2 , u3 } donde

   

7
99


1


6
502

   

B ′ =  −2  ,  23  ,  476
251 



1
1805
1
6
502
Introducción
Ortogonalidad a un
espacio
Proyeccı́ón
ortogonal
Gram-Schmidt
Por último, normalizamos para obtener una base
ortonormal B ′′ :

  7  

99
1
√
√




66
3494402
4






952
B ′′ =  − 12  ,  √266  ,  √3494402





1
1
1805
√
√
4
66
3494402
Proyecciones Ortogonales y Proceso de Gram-Schmidt
Álgebra Lineal - p. 36/36