線形代数

あらゆる「分析」は線形代数から始まる

複雑な問題を解決するときの基本的なアプローチは，「対象を単純な要素に切り分けること」です．大規模で困難な問題があったとしても，簡単な要素に分解して個別に対処していけば必ず解決の糸口が見えてきます．私たちは研究・開発の現場で（ほとんど毎日）様々な「分析」を使って仕事をしていますが，分析とはまさに「わける」という意味合いを持つ言葉です．

もちろん世の中にはうまく切り分けられない問題もありますが，その一方で「うまく切り分けることで定番の解決手法に持ち込める」というパターンも山ほどあります．本セミナで扱う「線形代数」は，そのような「うまく解決できる問題」（すなわち線形な問題）の解決方法を網羅した「定番テクニック集」だと言えます．

本セミナでは「LU分解」，「QR分解」，「固有値分解」（対角化），「シュール分解」（上三角化），「スペクトル分解」，「特異値分解」といった種々の「分解」を解説します．これらの意味や用途はそれぞれ異なりますが，すべて「問題を簡単に解決するための手法である」という点は共通しています．わざと難しいことをやる意味はありません．これらの「分解」は必ず私たちの仕事を楽にしてくれます．

線形代数には，長い歴史の中で先人が直面してきた問題を鮮やかに解決するためのノウハウが詰まっています．数学，物理，工学，データ分析などの多くの分野において，線形代数はあらゆる問題解決の土台であり欠かすことのできない知識体系となっています．

ベクトルの基本から線形空間，特異値分解まで

線形代数で対処できる問題は「連立1次方程式」と「固有値問題」に大別できます．連立1次方程式は分析対象の静的（スタティック）な性質を表すのに対して，固有値問題はシステムの動的（ダイナミック）な挙動と深い関わりがあります．そして，これらの問題を見通し良く考えるための土台として「線形空間」の理論が整備されています．線形空間は様々な問題に共通する重要な概念を多く含んでおり，線形代数の核心を担っています．

本セミナでは最も基本的な「ベクトル」の話から始めて，ベクトルに対する具体的な処理を表現する「行列」の扱い方，連立1次方程式，線形空間，固有値問題といった主要な話題を網羅します．

実習用のPythonソース・コード付き

本セミナでは，学習の補助としてPython（パイソン）で記述したプログラムによる計算やアニメーションを利用します．特に，線形代数で扱う機械的な計算手順（アルゴリズム）はコンピュータによる計算と非常に相性が良く，いわゆる「数値計算」の分野と密接なつながりがあります．そのため，本セミナでは実践的な数値計算を意識したコーディング例を数多く取り上げました．

とはいえ，プログラムはあくまで理解を助けるための副教材という位置づけです．ソース・コードが読めなくても数学を学ぶ上で支障はありません．Pythonに関する知識も必須ではありませんが，文法を知っていればセミナの内容をより深く楽しむことができます．

Pythonプログラムの実行環境については，Pythonインタプリタのインストールを参照してください．

前提知識

線形代数で扱う計算の大部分は，小学校で習う基本的な四則演算（$+ - \times \div$）のみです．絶対値や平方根などの計算まで含めても，中学校までの数学の知識で十分に対応できます．

ただし「固有値問題」は本質的に微分方程式と密接な関係があるため，あらかじめ「微分・積分」を学んでおくことをおすすめします．特に，「初等関数と微分・積分」で解説した以下の内容は既知とします．

• 「三角関数」の基本的な定義と性質
• 「微分」の基本的な計算
• 「微分方程式」が意味するもの
• 「複素数」の基本的な取り扱い
• 「オイラーの公式」“$e^{jx}=\cos(x)+j \sin(x)$”

紙とペンをご用意ください

数学を効率よく習得するには，自分の手を動かしながら学ぶことが不可欠です．本セミナでは，重要な項目を扱う場面で「クイズ」と称して簡単な穴埋め問題を用意しています．ぜひ手元に紙とペンを用意し，動画を一時停止して考えながらご視聴ください．

本セミナの内容は，時間的な都合がある中でどうしてもカットできない項目を集めたものです．資料に書かれている数式や図は，本質的な理解を得る上で必ず通るべき「道」です．

特に，線形代数は抽象的な話題が多いので，定理や命題を導出する過程を目で追うだけではなく「実際に自分の手で書き写してみる」ことを強くおすすめします．つまらない試験のためではなく，実際に設計の現場で使う道具として「手に馴染ませる」ことが重要です．

さらにやる気があれば，定義については自分の言葉で説明できるように，定理や公式は自力で導出できるように訓練してみてください．「こんな数式が何の役に立つのだ？」という疑問には，セミナの中ですべて答えているはずです．

解説内容

Part 1（ベクトル，行列，連立1次方程式の解法）

• 線形代数のキーワードは「分解」
• ベクトル
• 行列
• 「ガウスの消去法」で連立1次方程式を解く
• 「LU分解」で連立1次方程式を解く
• 「ガウスの消去法」と「LU分解」の計算量の比較

Part 2（行列式，線形空間，最小二乗法，連立1次方程式の解の構造）

• 行列式
• 連立1次方程式の一般解
• 線形空間（1）：「線形空間」の定義
• 線形空間（2）：「基底」と「次元」
• 線形空間（3）：「線形代数の基本定理」の導出
• 計量線形空間
• QR分解と最小二乗法
• 連立1次方程式の解の構造

Part 3（固有値問題）

• 固有値と固有ベクトル
• $n\times n$行列の対角化
• $n\times n$行列の上三角化
• 連立微分方程式と固有値問題
• 正規行列の対角化とスペクトル分解
• 一般の$m\times n$行列の特異値分解
• 複素数を要素にもつベクトルと行列
• まとめ