least squares problems

Question

안녕하세요 강의 잘 수강하고 있습니다. AX=b문제에서 inconsistent하다면 normal equations를 통해 해결할 수 있다고 이해했습니다. 만약 consistent하다면 해가 존재하게 되는 것이므로 A의 역행렬을 취하든 QR Factorization을 통해 구하면 되는 것으로 이해했는데요. 만약 행렬 A with linearly independent columns 있다면 AT : A의 트랜스포즈 행렬 (AT)A is invertibale 하므로 AX=b에서 AT를 취해서 해를 구하는 방법을 소개해 주셨는데요 여기서 왜 굳이 AT를 취해서 해를 구하는 건가요? QR해결법을 적용하면 안되는 건가요? Invertible 하다는 의미는 결국 consistent하고 linearly independent하다는 의미 아닌가요? 살짝 정리가 안되어서 질문드립니다 감사합니다

조범희 (타블렛깎는노인) · Answer

안녕하세요. 사실 지금 질문이 무엇인지 잘 이해가 안갑니다. 일단은 5.5단원에서 배우는 내용은 해가 존재하지 않아서 least-squares 해를 구하는 내용을 다루고 있습니다. 아마, 정리 14, 15에 대한 질문인것같습니다. (혹은 정리13) 14에서는 A^T * A 가 역행렬이 존재하는 경우 A의 column들이 linearly independent한것과 동치라는 정리입니다. 또한 그 경우, 정리 15번처럼 least-squares 해가 유일하게 주어진다라는 내용입니다. "굳이" 해를 새로운 방법으로 구한다기보다는 이런식으로 연관되어있구나~ 라고 생각하시면 될 것 같습니다. 또한 QR factorization을 수행하지 않고, 단지 matrix multiplication을 활용하여 [ (AT)A = (AT)b ] least-squares solution을 구한다면, 손계산이 훨씬 수월할거라 생각듭니다. 감사합니다.