\documentclass[12pt]{article}

%\include{amsfonts}
\usepackage{amssymb,amsmath,latexsym,epsfig,euscript,comment,enumitem}
\usepackage[utf8x]{inputenc}
% Ejercicio:
\newtheorem{ejer}{Ejercicio}
\newcommand{\bej}{\begin{ejer} \rm}
\newcommand{\fej}{\end{ejer}}
%

Definicion de caracteres especiales

\def\A{\mathbb{A}}
\def\C{\mathbb{C}}
\def \N{\mathbb{N}}
\def \P{\mathbb{P}}
\def \Q{\mathbb{Q}}
\def \R{\mathbb{R}}
\def \Z{\mathbb{Z}}
\def\zC{\mathbb{C}}
\def \zN{\mathbb{N}}
\def \zQ{\mathbb{Q}}
\def \zR{\mathbb{R}}
\def \zZ{\mathbb{Z}}
%\def\zC{ C\hskip -6.5pt\vrule height 6.9pt width 0.9pt depth -0pt\hskip
3.5pt}
%\def\zQ{ Q\hskip -5.4pt\vrule height 6.9pt width 0.9pt depth -0pt\hskip
4pt}
%\def\zN{\hbox{$\displaystyle I\hskip -3pt N$}}
%\def\zn{\hbox{$\scriptstyle I\hskip -3pt N$}}
%\def\zR{\hbox{$\displaystyle I\hskip -3pt R$}}
%\def\zr{\hbox{$\scriptstyle I\hskip -3pt R$}}
%\def\zZ{\hbox{$\displaystyle Z\hskip -5pt Z$}}
\def\d{\displaystyle}
\def\I{\'{\i}}
\def\ve{\varepsilon}
\topmargin-2cm \vsize=29.5cm \hsize=21cm
\setlength{\textwidth}{16.5cm} \setlength{\textheight}{23.5cm}
\setlength{\oddsidemargin}{0.0cm}
\setlength{\evensidemargin}{0.0cm}
\hyphenation{ha-bi-tual-men-te}
\begin{document}
\thispagestyle{empty}
\noindent {\small Universidad de Buenos Aires - Facultad de
Ciencias Exactas y Naturales - Depto. de Matem\'atica}
%\rightline{\small Primer Cuatrimestre de 2004}

\vskip 1cm
\centerline{{\bf\large {\sc Elementos de C\'alculo
Num\'{e}rico (M) - C\'alculo Num\'erico }}}
\centerline{{\ttfamily Primer Cuatrimestre 2015}}
\bigskip
\centerline{\bf Pr\'actica N$^\circ$2: Normas y Condicionamiento.
Descomposiciones de matrices.}
\bigskip
\bej \label{primero}Si $x\in \zR^n$ y $A
encontrar las constantes de equivalencia
$\|.\|_1$ y $\|.\|_2$ y entre las normas
$\|.\|_{\infty}$ que permiten establecer
(las constantes
pueden depender de $n$):
% C_1 = 1
% C_2 = \sqrt{n}
% C_3 = \frac{1}{\sqrt{n}}
% C_4 = 1
% C_5 = C_7 = \frac{1}{\sqrt{n}}
% C_6 = C_8 = \sqrt{n}

\in \zR^{n \times n},$

entre las normas
$\|.\|_2$ y
las siguientes desigualdades

\begin{itemize}
\item Vectorial
\begin{align*}
& C_1\|x\|_{\infty}\leq\|x\|_2\leq C_2 \|x\|_{\infty}\\
& C_3\|x\|_1\leq\|x\|_2\leq C_4\|x\|_1
\end{align*}
\item Matricial
\begin{align*}
& C_5\|A\|_{\infty}\leq\|A\|_2\leq C_6 \|A\|_{\infty}\\
& C_7\|A\|_1\leq\|A\|_2\leq C_8\|A\|_1
\end{align*}
\item Calcular los coeficientes para la equivalencia vectorial y
matricial entre las normas $\|.\|_1$ y $\|.\|_{\infty}$
\end{itemize}
\fej
%\bej Calcular el radio espectral y la norma $2$ de la matriz
%$A=\left(
%\begin{array}{cc}
%2& 1\\
%0& 3\\
%\end{array} \right).$
%\fej
%\bej Estimar, usando el ejercicio 1, la norma 2 de la siguiente matriz
%$$A=\left(
%\begin{array}{cccc}
%1& 1& -1& 1\\
%0& 2& -1& 1\\
%0& 0& 3& 1\\

%0& 0& 0& 4\\

%\end{array} \right)$$
%\fej
\bej Se quiere estimar la norma 2 de una matriz $A \in \R^{3 \times
3}$ como el m\'aximo del valor $ \|Ax\|_2 / \|x\|_2 $ entre varios
vectores $x \in \R^{3}$ no nulos generados al azar. Hacer un
programa reciba una matriz $A$ y luego
\begin{itemize}
\item genere los primeros 100 t\'erminos de la siguiente sucesi\'on:
$$s_1 = 0, \quad s_{k+1}= \max\Big\{s_k, \frac{\|Ax_k\|_2}{\|x_k\|
_2}\Big\}$$
donde los $x_k \in \R^{3}$ son vectores no nulos generados al azar
con coordenadas en el intervalo $[-1,1]$.
\item grafique la sucesi\'on calculada, junto con el valor
exacto de la norma de la matriz.
\end{itemize}
Recordar que tanto la norma de un vector como de una matriz se
calculan en {Octave} con el comando {\verb+norm+}. Tener en
cuenta que los vectores generados al azar (comando {\verb+rand+})
tienen coordenadas en el intervalo $[0,1]$. Chequear, adem\'as,
que estos vectores generados resulten no nulos.
\fej
\bej \label{m-cond-2} Sea $A=\left(
\begin{array}{ccc}
3&0 & 0\\
0& \frac 54 & \frac 34\\
0& \frac 34 & \frac 54\\
\end{array}
\right)$. Calcular $cond_2(A)$ y $cond_\infty(A)$.
\fej
\bej Sea $A$ la matriz del ejercicio \ref{m-cond-2}. Se quiere
resolver el sistema $Ax=b$ para un valor de $b \ne 0$ que se
conoce con una precisi\'on mayor que $10^{-3}$; es decir, se
conoce el valor conjunto de $\tilde{b}=b+ \Delta b$ y se sabe que el
error
relativo $\d \frac {\|\Delta b\|_2}{\| b\|_2} < 10^{-3}$.
\begin{enumerate}[label=\alph*)]
\item Acotar el error relativo de la soluci\'on hallada $\tilde x=
x + \Delta x$.
\item Encontrar un ejemplo para $b$ y $\Delta b \ne 0$ de modo que
$\frac {\|\Delta x\|_2}{\| x\|_2}$ sea exactamente $cond_2(A)\frac
{\|\Delta b\|_2}{\| b\|_2}$.
\end{enumerate}
\fej
\bej \label{errmetnum} Sea $x$ la soluci\'on exacta al sistema
$Ax=b$ y $\tilde x$ la soluci\'on obtenida num\'eri\-camente. Se
llama ``vector residual'' a $r:=b-A\tilde x$. Si $e=x-\tilde x$ se
tiene $Ae=r$. Mostrar que:
$$ \frac{1}{cond(A)}\frac{\|r\|}{\|b\|} \leq \frac{\|e\|}{\|x\|}

\leq cond(A)\frac{\|r\|}{\|b\|}.$$
Concluir que para una matriz mal condicionada los m\'etodos
num\'ericos no aseguran buena aproximaci\'on.
\fej
%\item Considerar la matriz $A$ con inversa $A^{-1}$
%\[A=
%\left(
%\begin{array}{cccc}
%5&7&6&5\\
%7&10&8&7\\
%6&8&10&9\\
%5&7&9&10
%\end{array}
%\right), \qquad A^{-1}= \left(
%\begin{array}{cccc}
%68&-41&-17&10\\
%-41&25&10&-6\\
%-17&10&5&-3\\
%10&-6&-3&2
%\end{array}
%\right)
%\]
%Hallar $cond_\infty(A)$ y estimar el error relativo $\displaystyle
%\frac{\|x_c-x_t\|_\infty} {\|x_t\|_\infty}$ de la soluci\'on de
%$Ax=b$, donde $b=\{23, 32, 33, 31\}$, $x_t$ es la soluci\'on
%exacta, y $x_c$ es la soluci\'on num\'erica aproximada obtenida
%usando la soluci\'on que se obtiene de multiplicar $A^{-1}b$, con
%aritm\'etica de punto flotante de dos d\I gitos .
%\bej Para cada $n\in\zN$, se definen $ A_n= \left(
%\begin{array}{cc}
%1&2\\
%2 & 4+\frac{1}{n^2}
%\end{array}
%\right) $, $b_n= (1,2 -\frac{1}{n^2})$ y se quiere resolver el
%sistema $A_nx= b_n$. %$A_n\in \R^{2\times 2}$, $b_n\in\zR^2$ definidos
%Utilizando cierto m\'etodo num\'erico, se obtiene como resultado
%el vector $(1, 0)$.
%\begin{enumerate}[label=\alph*)]
%\item Calcular el vector residual producido por esta soluci\'on
%tentativa. >Puede decirse que para $n$ grande la soluci\'on es
%razonablemente confiable?
%\item Resolver $A_n x=b_n$ en forma exacta, calcular
%$cond_\infty(A_n)$ y verificar la cota de error del ejercicio
%\ref{errmetnum}.
%\end{enumerate}
%\fej
\bej \label{cond-cond} Probar que si $A\in\R^{n\times n}$ es una
matriz inversible y $\|\ \|$ es una norma matricial, la
condici\'on de $A$ verifica la desigualdad:

\[ \frac{1}{cond(A)}\leq \inf\left\{ \frac{\|A-B\|}{\|A\|} : B \mbox{ es

singular}
\right\}. \]
Deducir que
\[ {cond(A)}\ge \sup\left\{ \frac{\|A\|}{\|A-B\|} : B \mbox{ es singular}
\right\}. \]
Nota: En ambos casos, vale la igualdad, pero la otra desigualdad
es un poco m\'as complicada de probar. De la igualdad se puede
concluir que $cond(A)$ mide la distancia relativa de $A$ a la
matriz singular m\'as pr\'oxima.
\fej
\bej \begin{enumerate}[label=\alph*)]
\item
Mostrar que $cond_\infty(A)\to \infty$ cuando $\varepsilon\to 0$
para $$ {\rm (i)}\quad A=\left(
\begin{array}{ccc}
1& 1 & 1\\
1& \varepsilon & \varepsilon^2\\
1& 0 & 0\\
\end{array}
\right),\qquad {\rm (ii)}\quad B=\left(
\begin{array}{ccc}
1& 0 & 1 + \varepsilon\\
2& 3 & 4\\
1 - \varepsilon& 0 & 1\\
\end{array}
\right).$$
\item Concluir que la condici\'on de las matrices $A$ y $B$ del \'\i tem
anterior tienden a infinito, cualquiera sea la norma considerada.
\end{enumerate}
\fej
\bej Sea $D_n$ la matriz diagonal de $n\times n$ con elementos
diagonales iguales a 1/10. Calcular el determinante de $D_n$ y ver
que $det(D_n)\to 0$ si $n\to \infty$.
\textquestiondown $D_n$ est{\'a} mal condicionada?
\fej
\bej Considerar la sucesi\'on de matrices $(A_n)_{n\in\N}$, donde
$A_n\in\R^{n\times n}$ est\'a definida por
$$ (A_n)_{i,j}= \left\{
\begin{array}{cc}
1&{\rm si}\ i>j\\
2j+1\ & {\rm si}\ i\leq j
\end{array}
\right.$$
\begin{enumerate}[label=\alph*)]
\item Demostrar que $Cond_\infty (A_n)\rightarrow\infty$ cuando
$n\rightarrow\infty$.
\item Demostrar que $Cond_2 (A_n)\rightarrow\infty$ cuando

$n\rightarrow\infty$. Sugerencia: use el ejercicio \ref{primero}.

\end{enumerate}
\fej
\bej \label{hilbert} La $n$-\'esima matriz de Hilbert
$H_n\in \zR^{n\times n},$ se define
de la siguiente manera
$$(H_n)_ {i,j} = \frac{1}{i+j-1}.$$
Estas matrices son un ejemplo de matrices mal condicionadas y por
tal motivo se las utiliza habitualmente para testear rutinas
num\'ericas.
\begin{enumerate}[label=\alph*)]
\item Demostrar que $cond_{\infty}(H_n) \ge n^2$. \item Utilizar
su programa del ejercicio \ref{lusimple} para calcular la inversa
de la matriz de Hilbert $H_9$. Verificar su resultado calculando
los productos $H_9 H_9^{-1}$ y $H_9^{-1} H_9$. Realizar
nuevamente estos c\'alculos, invirtiendo la matriz con el comando
{\bf inv}.
\end{enumerate}
Nota: En realidad, $cond_{\infty}(H_n)$ es mucho mayor que $n^2$.
Estas matrices pueden obte\-nerse en {\tt Octave} mediante el
comando {\bf hilb($n$)} y su condici\'on infinito puede calcularse
con el comando {\bf cond}.
\fej
\bej Considerar el sistema de ecuaciones lineales $A_n x=b,\,
A_n\in\mathbb R^{n\times n}$ tal que
\[A(2:n,2:n)=Id_{n-1},\quad A(1,:)=[1,2,\dots,n]=A(:,1)\]
%
%
% $$A =
% \left(
% \begin{array}{rrrrrrrrrr}
% 1&2&3&4&5&6&7&8&9&10\\
% 2&1&0&0&0&0&0&0&0&0\\
% 3&0&1&0&0&0&0&0&0&0\\
% 4&0&0&1&0&0&0&0&0&0\\
% 5&0&0&0&1&0&0&0&0&0\\
% 6&0&0&0&0&1&0&0&0&0\\
% 7&0&0&0&0&0&1&0&0&0\\
% 8&0&0&0&0&0&0&1&0&0\\
% 9&0&0&0&0&0&0&0&1&0\\
% 10&0&0&0&0&0&0&0&0&1
% \end{array}
% \right).$$
Aplicando el comando \verb+lu+ de {\tt Octave} a las matrices $A_8$,
$A_9$, $A_{10}$,
verificar que la eliminaci\'on gaussiana puede crear elementos no
nulos en lugares donde inicialmente hab\'{\i}a ceros (es decir, se
produce una matriz densa a pesar de partir de una matriz rala).
%En muchas aplicaciones, uno debe resolver un sistema de ecuaciones
%lineales del orden de $10^4 \times 10^4$ donde hay a lo sumo 5
%elementos no nulos por fila. Es decir, hay a lo sumo $5\times
%10^4$ elementos no nulos en la matriz, cifra bastante inferior a

%la cantidad total de elementos.

Calcular qu\'e cantidad de bytes ($2$ bytes por elemento) ocupar{\'\i}a
una matriz densa de esas
dimensiones. Este tipo de situaci\'on motiva el estudio de
m\'etodos de resoluci\'on de sistemas con matrices ralas que no
involucren un llenado excesivo.
\fej
\bej
Sean $A_n$ las matrices del ejercicio anterior. Probar que tanto
$Cond_\infty(A_n)$ como
$Cond_1(A_n)$ tienden a infinito cuando $n\longrightarrow\infty$.
Concluir que $Cond_2(A_n)\longrightarrow\infty$.
\fej
\bej Para cada $n\in\zN$, se quiere calcular la soluci\'on del
sistema lineal:
\begin{eqnarray*}
10^{-n} x+ 2y &=& 8 \\
x+y &=& 2
\end{eqnarray*}
utilizando eliminaci\' on gaussiana sin pivoteo, con aritm\'etica
de punto flotante de 3 d\'{\i}gitos y sistema de redondeo.
\begin{enumerate}[label=\alph*)]
\item Analizar si el resultado difiere significativamente
de la soluci\'on real.
\item Repetir el m\'etodo de eliminaci\'on gaussiana eligiendo el
pivote m\'as conveniente.
\end{enumerate}
\fej
\bej Sea: $$A=\left(\begin{array}{ccc}
-\frac{1}{2} & -t-3& t \cr 1 & t^2+3t & 0 \cr t & 3t+14 & 4
\end{array}\right).$$
\textquestiondown Para qu\'e valores de $t$ $A$ admite descomposici\'on
$LU$?
\fej

%\bej Demostrar que si los $n-1$ primeros menores principales de una

matriz
%$A \in\zR^{n\times n}$ son no singulares, entonces \'esta admite
%descomposici\'on $LU$.
%\fej
\bej Probar que la matriz no singular:
$$\left(
\begin{array}{ccc}
0&0&1\\
1&0 & 0\\
0&1 & 0\\
\end{array}
\right) $$ no tiene una descomposici\'on $LU$, mientras que la
matriz singular $A - I$ s\'{\i} la tiene. Dar la matriz de

permutaciones $P$ tal que $PA$ tenga una factorizaci\'on $LU$.

\fej
\bej \label{lusimple}
\begin{enumerate}[label=\alph*)]
\item Escribir un programa en {\tt Octave} que resuelva un sistema
$Ax=b$, $A \in \zR^{n\times n}$ usando eliminaci\'on gaussiana sin
pivoteo.
\item Adaptar el programa del \'\i tem anterior para que calcule la
matriz $A^{-1}$.
\end{enumerate}
\fej
\bej Sea $A\in\zR^{n\times n}$ una matriz tridiagonal.
\begin{enumerate}
\item[a)] Probar que el proceso de eliminaci\'on gaussiana preserva los
ceros de $A$,
es decir que a lo largo de la triangulaci\'on no se generan valores no
nulos fuera de
las tres diagonales principales.
\item[b)]Adaptar el programa del ejercicio \ref{lusimple} para que
resuelva un sistema
de ecuaciones $Ax=b$, con $A$ tridiagonal. La idea de este ejercicio es
aprovechar que
la matriz es tridiagonal para {\bf evitar} realizar operaciones
innecesaras durante la
triangulaci\'on. Utilizar los
comandos \verb+tic+ y \verb+toc+ de {\tt Octave} para conocer el tiempo
que se tarda en
resolver un sistema con este programa y comparar con el que se requieren
al resolver el
mismo sistema utilizando los comandos \verb+inv+ y \verb+\+, que no
est\'an especialmente
pensados para matrices tridiagonales.
\end{enumerate}
\fej

\bej Considerar la matriz $\left(

\begin{array}{ccc}
4&2&-2\\
2&5 & 5\\
-2&5 & 11\\
\end{array}
\right).$
Mostrar que es definida positiva y calcular su descomposici\'on de
Cholesky.
\fej
\bej Considerar la matriz:
$$A=\left(\begin{array}{cc}

4&0\\3&5
\end{array}\right)

$$
\begin{enumerate}[label=\alph*)]
\item Calcular una descomposici\'on en valores singulares de $A$.
\item Dibujar el c\'{i}rculo unitario en $\R^2$ y la elipse $\
{Ax:\;x\in\R^2,\,\|x\|_2=1\}$,
se\~nalando los valores singulares y los vectores singulares a izquierda
y a derecha.
\item Calcular $\|A\|_2$ y $Cond_2(A)$.
\item Calcular $A^{-1}$ usando la descomposici\'on hallada.
\end{enumerate}
\fej
\bej Sean
$$H_j =
\left(\begin{array}{cc}
j & -j \\
j & j
\end{array}\right)\in\mathbb{R}^{2\times 2},
\quad An =
\left(\begin{array}{cccc}
H_1 & 0 & \dots
0 & H_2
\vdots &

& 0\\

& \dots & \vdots \\

&\ddots

0 & \dots &

& \vdots \\

& H_n

\end{array}\right) \in \mathbb{R}^{2n\times 2n}$$

\begin{enumerate}
\item[a)] Probar que $Cond_1(A_n) \to \infty$ cuando
$n\to +\infty$.
\item[b)] Calcular la descomposici\'on en valores
singulares y la descomposici\'on QR de $A_n$.
\item[c)] Calcular $Cond_2(A_n)$.
\item[d)] Sea $P_n$ la matriz diagonal tal que
$(P_n)_{ii} = (A_n)_{ii}^{-1}$, ($P_n$ es el
precondicionador de Jacobi
para $A_n$). Probar que $Cond_2(P_n A_n) = 1$. \textquestiondown C\'omo
podr\'ia utilizarse esta informaci\'on si
se quiere resolver un sistema de la forma $A_n x = b$?
\end{enumerate}
\fej
\bej Escriba un programa en Octave que reciba como input una matriz $A$ y
un entero positivo $r$ y:
\begin{itemize}
\item Calcule la descomposici\'on en valores singulares $A=U\Sigma V'$,
utilizando el comando \verb+svd+.
\item Corrija la matriz $\Sigma$ poniendo $\sigma_i=0$, $\forall i>r$.

\item Devuelva $B=U\widetilde{\Sigma} V'$, siendo $\widetilde{\Sigma}$

la matriz que resulta de corregir
$\Sigma$ seg\'un el \'item anterior.
\end{itemize}
Este programa calcula la matriz $B$ de rango $r$ tal que la norma $\|AB\|_2$ es m\'inima. Aplique este
programa a distintas matrices, con distintos valores de $r$.
\fej
\bej
El programa del ejercicio anterior puede utilizarse para comprimir
im\'agenes. En efecto, dada una imagen
blanco y negro el comando \verb+imread+ de Octave convierte la imagen en
una matriz en la que cada casillero
representa un p\'ixel y su valor corresponde al color del p\'ixel en
escala de grises. El comando
\verb+imshow+ aplicado a esta matriz, muestra la imagen, mientras que el
comando \verb+imwrite+ permite guardar
la matriz como un archivo de imagen.
Implementar un algoritmo que reciba como input un archivo de imagen y un
entero positivo $r$, realice la
compresi\'on como en el ejercicio anterior y guarde el resultado en otro
archivo. Experimentar con el valor
de $r$, observando cu\'an chico puede ser $r$ en relaci\'on con el
tama\~no de la matriz si se desea conservar
calidad en la imagen.
La misma experiencia puede repetirse con im\'agenes en color. En este
caso, debe tenerse en cuenta que el
comando \verb+imread+ devuelve un arreglo $A$ de tama\~no $m\times
n\times 3$: la imagen es de $m\times n$
p\'ixeles y $A(:,:,1)$, $A(:,:,2)$, $A(:,:,3)$ son las matrices
correspondientes a su descomposici\'on $RGB$
(red-green-blue).
\fej
%\bej Comparar cu\'antas operaciones se requieren para
%hallar la descomposici\'on de Cho\-les\-ky de una matriz sim\'etrica y
%definida positiva $A \in \R^{n \times n}$ con la cantidad de
%operaciones requeridas para hallar su descomposici\'on $LU$.
%\fej
\bej Sea $v\in \C^n$. Probar que la matriz $I-vv^*$ es unitaria si y
s\'olo si $\|v\|_2^2=2$ o $v=0$.
\fej
\bej Dados $x\neq y$ en $\C^n$ tal que $\|x\|_2=\|y\|_2$ y $\langle x, y
\rangle$ es real. Probar que
la matriz unitaria $U=I-vv^*$ con $\displaystyle v=\frac{\sqrt{2}}{\|xy\|_2} (x-y)$ satisface que $Ux=y$.
\fej

\bej Implementar un programa que calcule la descomposici\'on $QR$ de una

matriz aplicando de manera
directa el m\'etodo de ortonormalizaci\'on de Gramm-Schmidt. Generar
algunas matrices aleatorias y comparar las
descomposiciones arrojadas por este programa con las dadas por el comando
\verb+qr+ de Octave.
\fej
\bej Hallar la factorizaci\'on $QR$ de las siguientes matrices
\[\begin{array}{cc}
a)\,A=\left(\begin{array}{cc} 0 & -4 \\ 0 & 0\\ -5 &
-2\end{array}\right). &
b)\, A=\left(\begin{array}{ccc} 3 & 2 & 3 \\ 4 & 5 &6\end{array}\right).
\end{array}
\]
\fej
\bej Usando el comando QR de Octave, hacer un programa que calcule la
sucesi\'on $A_k$ definida
de la sigueinte manera,
$$A_1=A,\quad Q_k R_k \mbox{ descomposicion QR de } A_k \mbox{ y }
A_{k+1}=R_k Q_k.$$

Aplicar el programa para la matriz

$$A=\left(\begin{array}{cccc}190 & 66 & -84 & 30\\
66 & 303 & 42 & -36\\
336 & -168 & 147 & -112\\
30&
-36&
28 &
291\end{array}\right),$$
calcular $A_m$ con $m=30,50,100$. Observar que los dos primeros elementos
de la diagonal de $A_m$
aproximan a los autovalores reales de $A$ y que los autovalores de la
submatriz $A_m(3:4,3:4)$
aproximan a los autovalores complejos de $A$ .
\fej

\end{document}