Выпишем расширенную и основную матрицы:

Здесь матрица А выделена жирным шрифтом.
Приведем матрицу к треугольному виду. Будем работать только со строками, так как умножение строки матрицы на число, отличное от нуля, и прибавление к другой строке для системы означает умножение уравнения на это же число и сложение с другим уравнением, что не меняет решения системы.
Для удобства вычислений поменяем строки местами:

Умножим 2-ую строку на (-1). Добавим 2-ую строку к 1-ой:

Умножим 2-ую строку на (4). Умножим 3-ую строку на (-3). Добавим 3-ую строку к 2-ой:

Умножим 3-ую строку на (7). Умножим 4-ую строку на (-4). Добавим 4-ую строку к 3-ой:

Умножим 4-ую строку на (8). Умножим 5-ую строку на (-7). Добавим 5-ую строку к 4-ой:

Умножим 1-ую строку на (7). Добавим 2-ую строку к 1-ой:

Умножим 3-ую строку на (7). Добавим 3-ую строку к 2-ой:

Умножим 3-ую строку на (5). Умножим 4-ую строку на (-1). Добавим 4-ую строку к 3-ой:

Для удобства вычислений поменяем строки местами:

Умножим 3-ую строку на (-1). Добавим 3-ую строку к 2-ой:

В матрице B 1-ая и 2-ая строки пропорциональны, следовательно, одну из них, например 1-ю, можно вычеркнуть. Это равносильно вычеркиванию 1-го уравнения системы, так как оно является следствием 2-го.

Выделенный минор имеет наивысший порядок (из возможных миноров) и отличен от нуля (он равен произведению элементов, стоящих на обратной диагонали), причем этот минор принадлежит как основной матрице, так и расширенной, следовательно rang(A) = rang(B) = 4.
Этот минор является базисным.

Система с коэффициентами этой матрицы эквивалентна исходной системе и имеет вид:
7x4 = 77
2x3 - 6x4 =  - 76
 - 10x2 + 5x3 + 2x4 =  - 3
8x1 + 6x2 + 5x3 + 2x4 = 21
Методом исключения неизвестных находим:
x4 = 11
x3 =  - 5
x2 = 0
x1 = 3
Придавая свободным неизвестным любые значения, получим сколько угодно частных решений.

Решение было получено и оформлено с помощью сервиса:
Системы линейных уравнений
источник:
Метод Гаусса и метод Жордано-Гаусса
Вместе с этой задачей решают также:
Метод Крамера
Метод обратной матрицы
Решения СЛАУ методом простой итерации
Решения СЛАУ методом простой Зейделя
Умножение матриц онлайн
По координатам пирамиды найти: уравнение плоскостей, уравнение прямых и объем пирамиды