Download Proyección ortogonal
Document related concepts
Transcript
Álgebra Lineal Ma1010 Proyecciones Ortogonales y Proceso de Gram-Schmidt Departamento de Matemáticas ITESM Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 1/36 Introducción En esta lectura veremos el proceso para ortogonalizar un conjunto de vectores. Este proceso es conocido como el proceso de Gram-Schmidt. Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 2/36 Ortogonalidad a un espacio Teorema Sea V un espacio vectorial con producto interno •. El vector u es ortogonal a todo vector de W = Gen{v1 , . . . , vk } si y sólo si Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt u • vi = 0, para todo i = 1, 2 . . . , k Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 3/36 Ortogonalidad a un espacio Teorema Sea V un espacio vectorial con producto interno •. El vector u es ortogonal a todo vector de W = Gen{v1 , . . . , vk } si y sólo si Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt u • vi = 0, para todo i = 1, 2 . . . , k Demostración Si u es ortogonal a todo W , entonces es ortogonal a todo elemento de W . Los elementos vi son también elementos de W . Por tanto, para cada i = 1, 2, . . . , k se cumple u • vi = 0. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 3/36 Supongamos que para cada i = 1, 2, . . . , k se cumpla u • vi = 0, y sea v un elemento cualquiera de W . Como W está generado por los vi , deben existir ci tales que: Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt v = c1 v 1 + · · · + ck v k Haciendo el producto interno con u: u • v = c1 u • v 1 + · · · + ck u • v k = c1 · 0 + · · · + ck · 0 = 0 por tanto, u es ortogonal a todo elemento de W . Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 4/36 Proyección ortogonal Nuestro principal resultado referente a ortoginalidad es el siguiente. Teorema Suponga que V es un espacio vectorial con producto interno. Y sea b un vector de V y W un subespacio lineal de V . Si W posee una base ortogonal, entonces 1. Existe z ∈ W tal que b − z ⊥ W . 2. El vector z que cumple lo anterior es único. 3. Para todo y de W : d(z, b) ≤ d(y, b). Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 5/36 Demostración Sea B = {a1 , a2 , . . . , ak } una base ortogonal para W . Definamos b • a2 b • ak b • a1 a1 + a2 + · · · + ak z= a1 • a1 a2 • a2 ak • ak Por conveniencia representaremos b • ai fi = ai • ai Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 6/36 Veamos que z cumple el requisito 1. De acuerdo al resultado previo debemos probar que (b − z) • ai = 0 para cada i = 1, 2, . . . , k. Si utilizamos las propiedades del producto interno y la ortogonalidad de B tenemos: Pk (b − z) • ai = b − j=1 fj aj • ai P k = b • ai − j=1 fj aj • ai Pk = b • ai − j=1 fj aj • ai = b • a i − fi a i • a i i = b • ai − ab•a ai • ai i •ai = b • ai − b • ai = 0 Por lo anterior y el teorema previo concluimos que b − z ⊥ W . Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 7/36 Supongamos que el vector y de W también cumple la condición 1. Es decir, que b − y es ortogonal a todo vector de W . Para probar que y = z, veamos que la magnitud de y − z es cero. (y − z) • (y − z) = (y − z + b − b) • (y − z) = (−(b − y) + (b − z)) • (y − z) = −(b − y) • (y − z) + (b − z) • (y − z) Como z y y son elementos de W y W es un subespacio lineal, y − z está en W . y como los vectores b − z y b − y son perpendicuales a todo vector de W se obtiene que: (b − y) • (y − z) = 0 y (b − z) • (y − z) = 0 de esta manera tenemos que (y − z) • (y − z) = 0. Por tanto ky − zk2 = 0. Y así y − z = 0; de donde concluimos que y = z. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 8/36 Ahora, sea y un vector cualquiera de W , así: (b − y) • (b − y) = (b − y + z − z) • (b − y + z − z) = ((b − z) + (z − y)) • ((b − z) + (z − y)) = (b − z) • (b − z) + (b − z) • (z − y)+ (z − y) • (b − z) + (z − y) • (z − y) = (b − z) • (b − z) + (z − y) • (z − y) Por tanto d(y, b)2 = d(z, b)2 + d(y, z)2 De donde concluimos que d(x, b) ≤ d(y, b) para todo y de W . Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 9/36 Sea V un espacio vectorial con producto interno. Sea u un vector y sea W un subespacio con una base ortogonal B = {v1 , . . . , vk }. Entonces, la proyección ortogonal de u sobre W es el vector u • v1 u • vk upr = v1 + · · · + vk v1 • v1 vk • vk Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 10/36 Sea V un espacio vectorial con producto interno. Sea u un vector y sea W un subespacio con una base ortogonal B = {v1 , . . . , vk }. Entonces, la proyección ortogonal de u sobre W es el vector u • v1 u • vk upr = v1 + · · · + vk v1 • v1 vk • vk Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt La diferencia uc = u − up r se llama la componente de u ortogonal a W . u • vk u • v1 v1 − · · · − vk uc = u − v1 • v1 vk • vk u = upr + uc El vector upr es el vector de W lo más cercano a u y la distancia de u a W es la magnitud del vector uc . Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 10/36 Proceso de ortogonalización de Gram-Schmidt Sea V un espacio vectorial con producto interno. Todo subespacio W con una base tiene al menos una base ortogonal y una base ortonormal. Si B = {v1 , . . . , vk } es cualquier base de V , entonces ′ B = {u1 , . . . , uk } es una base ortogonal, donde u1 = v1 u2 = u3 = .. . v2 •u1 u u1 •u1 1 v3 − uv31 •• uu11 u1 uk = v2 − vk − vk • u 1 u u1 • u1 1 − v3 • u 2 u u2 • u2 2 − vk • u2 u u2 • u2 2 − ··· − Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt v2 • uk−1 u uk−1 • uk−1 k−1 y Gen{v1 , . . . , vi } = Gen{u1 , . . . , ui }, i = 1, . . . , k Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 11/36 ′′ Una Base ortonormal B se obtiene normalizando ′ B. u1 uk ′′ B = ,..., ku1 k kuk k El proceso anterior es conocido como proceso de Gram-Schmidt. Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 12/36 Ejemplo Determine una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B = {v1 , v2 , v3 } , en la cual 1 −2 1 v1 = −1 , v2 = 3 , v3 = 2 −4 −1 1 Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 13/36 Solución Por razones de conveniencia, definamos v j • ui xij = ui • uj Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Se toma u1 = v1 . Como v2 • u1 = −6 y u1 • u1 = 3 se tiene x12 = −6/3 y por tanto se tiene: u2 = v2 − x12 u1 −2 1 6 = 3 − − −1 3 −1 1 0 = 1 1 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 14/36 Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, se tiene que x13 = −5/3 y x23 = −1 y entonces u3 = v3 − x13 u1 − x23 u2 1 1 0 −5 = 2 − −1 − (−1) 1 3 −4 1 1 = 8 3 4 3 − 43 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 15/36 Así, la base ortogonal es B ′ = {u1 , u2 , u3 } donde 8 1 0 34 u1 = −1 , u2 = 1 , u3 = 3 − 43 1 1 Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 16/36 Así, la base ortogonal es B ′ = {u1 , u2 , u3 } donde 8 1 0 34 u1 = −1 , u2 = 1 , u3 = 3 − 43 1 1 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Por último, normalizamos para obtener una base ortonormal B ′′ : 2 1 √ √ 0 3 6 1 1 1 √ B ′′ = − √ , , √ 2 3 1 6 1 1 √ √ √ − 2 3 6 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 16/36 Los cálculos anteriores pueden llevarse a cabo en la TI 89 o Voyage. La figura 1 contiene la captura de los vectores. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 1: Captura de los vectores del ejemplo 1. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 17/36 Las figuras 2 y 3 contienen los pasos del algoritmo sobre el conjunto de vectores inicial. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 2: Seguimiento del algoritmo en el ejemplo 1. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 18/36 Las figuras 3 y 4 contienen la normalización de los vectores resultantes del proceso de Gram-Schmidt. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 3: Conclusión del algoritmo GS e inicio del ortonormalización. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 19/36 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 4: Ortonormalización del conjunto. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 20/36 La figura 5 contiene la matriz cuyas columnas son el resultado del proceso del ortonormalización completo. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 5: Resultado del ejemplo 1. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 21/36 El proceso de Gram-Schmidt combinado con el de ortonormalización está implementado en la TI mediante la rutina llamada factorización QR. El conjunto de entrada debe estar en las columnas de una matriz. En la figura 6 se ilustra la formación de la matriz cuyas columnas son el conjunto inicial. Note en ella, el uso de la función augment con punto y coma para la separación de los vectores y el uso de la transpuesta debido a que ellos inicialmente fueron definidos como vectores renglón. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 6: Formación de la matriz para el ejemplo 1. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 22/36 En la figura 7 se ilustra el uso del comando QR. Note que no se usan paréntesis debido a que es una rutina y no una función. El primer argumento es la matriz y el segundo y tercero son variables dónde se depositarán los cálculos. Note que la matriz q resultante contiene en sus columnas el mismo resultado de nuestro proceso completo. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 7: QR en el ejemplo 1. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 23/36 Ejemplo Determine la mínima distancia de v3 al espacio V que generan v1 y v2 con los datos del problema anterior. Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 24/36 Ejemplo Determine la mínima distancia de v3 al espacio V que generan v1 y v2 con los datos del problema anterior. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Solución Para este cálculo debemos cambiar a {v1 , v2 } por una base ortogonal y poder utilizar el resultado sobre la descomposición. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 24/36 Ejemplo Determine la mínima distancia de v3 al espacio V que generan v1 y v2 con los datos del problema anterior. Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Solución Para este cálculo debemos cambiar a {v1 , v2 } por una base ortogonal y poder utilizar el resultado sobre la descomposición. Por los resultados del problema previo tenemos que una base ortonormal es: B ′ = {u1 , u2 } donde 1 0 u1 = −1 , u2 = 1 1 1 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 24/36 Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, entonces v 3 · u1 v 3 · u2 v3 c = v3 − u1 − u2 u 1 · u1 u2 · u 2 0 1 1 −5 −2 = 2 − −1 − 1 3 2 −4 1 1 = 8 3 4 3 − 43 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 25/36 Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, entonces v 3 · u1 v 3 · u2 v3 c = v3 − u1 − u2 u 1 · u1 u2 · u 2 0 1 1 −5 −2 = 2 − −1 − 1 3 2 −4 1 1 = 8 3 4 3 − 43 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Por lo tanto la distancia de v3 a V es p 4√ 2 2 2 ||v3 c || = (8/3) + (4/3) + (−4/3) = 6 3 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 25/36 En la figura 8 se ilustra la forma de realizar los cálculos del ejemplo 2 en la TI. Note que el vector v3 se definió como renglón, y por ello el uso de v3 T . Aplicando el concepto de multiplicación de una matriz por un vector, ■ la expresión qT v3 T calculará < u1 • v3 , u2 • v3 > (Recuerde que ui • ui = 1). ■ la expresión q qT v3 T calculará Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt pr = (u1 • v3 ) u1 + (u2 • v3 ) u2 Figura 8: DatosyyProceso ortonormalización del ejemploÁlgebra 2. Proyecciones Ortogonales de Gram-Schmidt Lineal - p. 26/36 En la figura 9 se obtiene la distancia mínima de v3 al espacio generado por v1 y v2 : r 4√ 32 = d = kv3 − prk = 6 3 3 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Figura 9: Cálculos finales del ejemplo 2. Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 27/36 Ejemplo Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en la cual 2 0 1 B = −1 , 3 , 2 1 −1 0 Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 28/36 Ejemplo Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en la cual 2 0 1 B = −1 , 3 , 2 1 −1 0 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Solución Utilizando 2 0 1 v1 = −1 , v2 = 3 , v3 = 2 1 −1 0 Iniciemos con u1 = v1 . Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 28/36 Como v2 • u1 = −4 y u1 • u1 = 6 en ese caso v 2 • u1 u2 = v 2 − u1 u1 • u1 2 0 −4 = 3 − −1 6 1 −1 = 4 3 7 3 − 13 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 29/36 Ya que v3 • u1 = 1, v3 • u2 = 6, y u2 • u2 = entonces u3 22 , 3 v 3 • u1 v 3 • u2 = v3 − u1 − u2 u 1 • u1 u2 • u 2 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt 4 2 1 −6 37 1 = 2 − −1 − 22 3 6 3 1 0 − 13 14 − 33 = 17 66 7 − 66 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 30/36 Así la base ortogonal es B ′ = {u1 , u2 , u3 } donde 4 14 2 − 33 3 u1 = −1 , u2 = 73 , u3 = 17 66 7 − 13 1 66 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt O sea 14 4 − 2 3 33 17 B ′ = −1 , 73 , 66 1 7 −3 1 66 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 31/36 Por último normalizamos para obtener una base ortonormal B ′′ : 4 28 1 √ − √1122 66 2 ′′ 1 √7 √ 17 B = −4 , , 66 1122 1 1 7 √ √ − − 4 66 1122 Proyecciones Ortogonales y Proceso de Gram-Schmidt Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Álgebra Lineal - p. 32/36 Ejemplo Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en la cual Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt 1 4 1 B = v1 = −2 , v2 = 3 , v3 = 2 1 −5 3 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 33/36 Ejemplo Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en la cual Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt 1 4 1 B = v1 = −2 , v2 = 3 , v3 = 2 1 −5 3 Solución Iniciamos con u1 = v1 . Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 33/36 Como v2 • u1 = −7 y u1 • u1 = 6 en ese caso u2 = v2 − uv21 ·· uu11 u1 1 4 = 3 − −7 −2 6 1 −5 = 31 6 2 3 − 23 6 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 34/36 Ya que v3 • u1 = 0, v3 • u2 = entonces u3 13 , 2 y u2 • u2 = 251 , 6 v 3 • u1 v 3 • u2 = v3 − u1 − u2 u 1 • u1 u2 • u2 1 = 2 − 3 = 99 502 476 251 1805 502 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt 31 1 13 6 0 2 2 − 251 6 −2 3 6 1 − 23 6 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 35/36 Así la base ortogonal es B ′ = {u1 , u2 , u3 } donde 7 99 1 6 502 B ′ = −2 , 23 , 476 251 1 1805 1 6 502 Introducción Ortogonalidad a un espacio Proyeccı́ón ortogonal Gram-Schmidt Por último, normalizamos para obtener una base ortonormal B ′′ : 7 99 1 √ √ 66 3494402 4 952 B ′′ = − 12 , √266 , √3494402 1 1 1805 √ √ 4 66 3494402 Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 36/36