?圖片來自?Europeana?on?Unsplash

一、前言

????????歡迎閱讀的系列文章的第二篇文章，內(nèi)容是線性代數(shù)的基礎(chǔ)知識，線性代數(shù)是機器學(xué)習(xí)背后的基礎(chǔ)數(shù)學(xué)。在我之前的文章中，我介紹了線性方程和系統(tǒng)、矩陣符號和行縮減運算。本文將介紹梯隊矩陣形式：行梯隊形式和行縮減梯隊形式，以及如何使用兩者來解決線性系統(tǒng)。本文最好與David C. Lay，Steven R. Lay和Judi J. McDonald的線性代數(shù)及其應(yīng)用一起閱讀。將此系列視為外部配套資源。

二、行梯隊形式

????????高斯消除法是一種使用行運算將矩陣轉(zhuǎn)換為一種形式的過程，在這種形式中，解決方案可以在一些反向替換后被檢索。

????????回顧一下，行縮減操作是：

1. 替換：“將一行替換為其自身和另一行的總和。*
2. 交換：“交換兩排?！?
3. 縮放：“將一行中的所有條目乘以非零常量。*

????????上述操作可以應(yīng)用于矩陣，以將該矩陣轉(zhuǎn)換為其行梯隊形式。給定的?m x n 矩陣，其中?m?是行數(shù)，n?是列數(shù)，在以下情況下稱為行梯隊形式：

1. 所有條目均為零的任何行都位于至少一個條目為非零的行下方。
2. 行的所有前導(dǎo)條目（左起第一個非零條目）都位于其上方行右側(cè)的列中。
3. 前導(dǎo)條目下方列中的所有條目均為零。

????????以下是行梯隊形式 （REF） 中的矩陣示例。

????????花點時間了解一下，雖然矩陣的大小和條目存在差異，但根據(jù)上述標(biāo)準(zhǔn)，所有矩陣都被視為行梯隊形式。注意到突出顯示的引導(dǎo)條目下方的類似樓梯的圖案了嗎？這就是執(zhí)行高斯消除將矩陣轉(zhuǎn)換為行梯隊形式自然而然的結(jié)果。這種形式的名字很貼切：梯隊這個詞來源于法語eschelon，意思是梯子的梯級，后來的意思是“臺階”。

????????將矩陣轉(zhuǎn)換為行縮減形式的高斯消除背后的基本思想是選擇一個樞軸（樞軸一詞用于指代前導(dǎo)條目：該條目將是其行中的第一個非零條目），然后消除下面的所有條目，將樞軸下方列中的所有內(nèi)容清零。要了解為什么此步驟在將矩陣轉(zhuǎn)換為精簡梯隊形式方面取得進展，請重新訪問縮減梯隊形式的定義：在行梯隊形式中，前導(dǎo)條目下方列中的所有條目均為零。然后針對每一行再次迭代此步驟，但要謹慎！我們必須確保每次樞軸選擇時，我們都不會違反行梯隊形式的核心特征之一;行的所有前導(dǎo)條目都位于其上方行右側(cè)的列中。?考慮到此規(guī)則，通常最好從第一行中的第一個條目開始旋轉(zhuǎn)，然后從右到左沿著行向下移動。

????????讓我們再次考慮前面提到的行梯隊形式的目的：將表示線性系統(tǒng)的給定矩陣轉(zhuǎn)換為解決方案可以輕松讀取的形式。為了更好地理解行梯隊形式的基本效用，請考慮示例 1。

????????當(dāng)我們執(zhí)行高斯消除時，我們正在操縱矩陣以呈現(xiàn)對稱但更易于破譯的形式。使用從示例 1 獲得的行梯隊形式，我們現(xiàn)在可以使用反向替換來逐步獲得每個解決方案。

????????從上面可以看到，這并不理想。這需要額外的不整潔的工作。減少行梯隊也需要額外的工作，但符號更簡潔，出錯的余地更小。一旦我們將矩陣簡化為減少的行梯隊形式，我們就可以輕松地讀取我們的解決方案，我們將解析線性系統(tǒng)。

三、減少行梯隊形式

????????當(dāng)將矩陣簡化為縮減的行梯隊形式時，使用高斯-喬丹消除。該算法將表示線性系統(tǒng)的給定矩陣轉(zhuǎn)換為簡化梯隊形式，其中解決方案可以通過應(yīng)用一系列行縮減操作變得易于閱讀。無需額外的反向替換。

????????如果給定的?m?x?n?矩陣滿足行梯隊形式的先決條件，則稱其為縮減行梯隊形式，此外，還滿足以下標(biāo)準(zhǔn)：

1. 每行中的前導(dǎo)條目為 1。
2. 前導(dǎo)條目下方和上方列中的所有條目均為零。（前導(dǎo)條目是列中唯一的非零條目）

????????讓我們通過一個將矩陣縮減為縮減行梯隊形式的示例。

閱讀我們的簡化行梯隊形式矩陣，現(xiàn)在很明顯我們的解決方案是?x??= -3， x? = -12，?x??= -3。

四、梯隊形式的獨特性

????????到目前為止，我們已經(jīng)為行梯隊形式和縮減行梯隊形式各計算了一個示例。您可能想嘗試單獨減少行梯隊形式的行作為練習(xí)，結(jié)果卻得到不同的行梯隊形式矩陣。不用擔(dān)心，這是很有可能的，只要正確執(zhí)行計算并涵蓋所有三個規(guī)則，兩個版本都是同樣正確的。這是一個奇妙的情況！它引導(dǎo)我們走向一個重要的定理：

????????定理 （1）

矩陣可以有多個行梯隊形式;行梯隊形式不是唯一的?？梢酝ㄟ^應(yīng)用行操作順序的變化來獲得不同但同樣有效的梯隊形式。

????????減少的行梯隊形式不是這種情況，而是減少的行梯隊形式的情況相反。

????????定理 （2）

矩陣只能有一個縮減的行梯隊形式;減少的行梯隊形式是唯一的。

????????為什么我們看到兩種形式之間唯一性的差異的根源是由于我們對縮減的行梯隊形式施加的額外限制。也就是說，圍繞前導(dǎo)條目的要求等于 1。一旦我們將矩陣簡化為行梯隊形式，我們就可以將每行乘以任何非零常量，它仍然是行梯隊形式，因為縮放矩陣不會破壞行梯隊形式的任何規(guī)則。減少梯隊的形式是不可能的，因為主要條目必須是一個。下面我用一個具體的例子進一步說明這一點。

五、解決方案數(shù)量

????????求解線性系統(tǒng)自然產(chǎn)生的一個基本問題是存在多少個解？對于任何線性系統(tǒng)，分辨率始終是三種情況之一。線性系統(tǒng)要么有一個唯一的解，要么有無限解，要么沒有解。如果你有興趣考慮為什么它必須是這三個之一，（重新）訪問我之前的文章。

????????讓我們更詳細地仔細看看每個案例，看看我們?nèi)绾巫R別給定矩陣的解案例，并輕輕地探索和探索每個案例場景表現(xiàn)自己的確切原因和方式背后的直覺。

????????唯一解決方案：當(dāng)線性系統(tǒng)的矩陣的縮減行梯隊形式對每一列都有一個透視時，線性系統(tǒng)具有唯一的解決方案。

????????當(dāng)我們把矩陣形式重寫為一系列線性方程時，為什么會這樣就變得更加明顯了。我們看到，因為每列都有一個透視（上面或下面沒有條目），所以每個變量都有一個明確的解決方案，你可以逐個方程地讀出。

????????無解：當(dāng)矩陣的約化行梯隊形式具有代數(shù)不一致時，線性系統(tǒng)沒有解。

????????如上所示，沒有?x?、x?、x??和?x??的值允許方程四為真。左側(cè)將始終為 0，不等于 0，因此該系統(tǒng)不存在解決方案。通常，任何帶有行 [0， 0， ...0 |b] 其中 b 不為零將沒有解，因為 <> ≠?b。

????????無限解：線性系統(tǒng)在至少有一個自由變量時具有無限解。當(dāng)相應(yīng)的列沒有透視時，會出現(xiàn)自由變量。另一方面，基本變量是相應(yīng)列具有透視的變量。讓我們研究一下為什么自由變量的存在暗示了無限解。

????????顧名思義，自由變量意味著您可以自由地為它們分配任何值。所有基本變量都是相對于自由變量定義的，因此基本變量的值將取決于為自由變量分配的值。這是無限解決方案存在的本質(zhì);只要基本變量與為自由變量選擇的值一致，無限多個解決方案都是有效的。

????????將矩陣轉(zhuǎn)換為縮減的行梯隊形式后，系統(tǒng)是否有一個、無或無限多個解決方案將立即變得顯而易見。

六、總結(jié)

????????在本章中，我們學(xué)習(xí)了：

• 高斯消除法，用于將矩陣簡化為行梯隊形式以求解線性系統(tǒng)。
• 高斯-喬丹消除方法，用于將矩陣約簡為約化行梯隊形式以求解線性系統(tǒng)。
• 梯隊形式的獨特性：排梯隊形式不唯一，而縮小的排梯隊形式是唯一的。
• 線性系統(tǒng)可能具有的解的數(shù)量：唯一、無限或無，以及它們何時發(fā)生以及為什么發(fā)生。

參考資料：

數(shù)學(xué)

數(shù)學(xué)

機器學(xué)習(xí)

線性代數(shù)