Выпишем расширенную и основную матрицы:
1	5	-1	1	1	-3	
3	1	3	3	-3	-3	
-1	0	1	-1	3	2	
-1	2	-2	-1	2	0	
x1	x2	x3	x4	x5		

Здесь матрица А выделена жирным шрифтом.
Приведем матрицу к треугольному виду. Будем работать только со строками, так как умножение строки матрицы на число, отличное от нуля, и прибавление к другой строке для системы означает умножение уравнения на это же число и сложение с другим уравнением, что не меняет решения системы.
В матрице B 1-й и 4-й столбцы пропорциональны. Из двух пропорциональных столбцов в базисный минор может попасть только один. Для системы это означает перенос членов с x1 в правую часть уравнений.
5	-1	1	1	-3	-1	
1	3	3	-3	-3	-3	
0	1	-1	3	2	1	
2	-2	-1	2	0	1	
x2	x3	x4	x5		x1	

Для удобства вычислений поменяем строки местами:
0	1	-1	3	2	1	
1	3	3	-3	-3	-3	
2	-2	-1	2	0	1	
5	-1	1	1	-3	-1	

Умножим 2-ую строку на (2). Умножим 3-ую строку на (-1). Добавим 3-ую строку к 2-ой:
0	1	-1	3	2	1	
0	8	7	-8	-6	-7	
2	-2	-1	2	0	1	
5	-1	1	1	-3	-1	

Умножим 3-ую строку на (5). Умножим 4-ую строку на (-2). Добавим 4-ую строку к 3-ой:
0	1	-1	3	2	1	
0	8	7	-8	-6	-7	
0	-8	-7	8	6	7	
5	-1	1	1	-3	-1	

В матрице B 2-ая и 3-ая строки пропорциональны, следовательно, одну из них, например 2-ю, можно вычеркнуть. Это равносильно вычеркиванию 2-го уравнения системы, так как оно является следствием 3-го.
0	1	-1	3	2	1	
0	-8	-7	8	6	7	
5	-1	1	1	-3	-1	

Умножим 1-ую строку на (8). Добавим 2-ую строку к 1-ой:
0	0	-15	32	22	15	
0	-8	-7	8	6	7	
5	-1	1	1	-3	-1	

Выделенный минор имеет наивысший порядок (из возможных миноров) и отличен от нуля (он равен произведению элементов, стоящих на обратной диагонали), причем этот минор принадлежит как основной матрице, так и расширенной, следовательно rang(A) = rang(B) = 3.
Этот минор является базисным. В него вошли коэффициенты при неизвестных x2,x3,x4, значит, неизвестные x2,x3,x4 – зависимые (базисные), а x1,x5 – свободные.
Преобразуем матрицу, оставляя слева только базисный минор.
0	0	-15	22	-32	-15	
0	-8	-7	6	-8	-7	
5	-1	1	-3	-1	1	
x2	x3	x4		x5	x1	

Система с коэффициентами этой матрицы эквивалентна исходной системе и имеет вид:
 - 15x4 = 22 - 32x5 - 15x1
 - 8x3 - 7x4 = 6 - 8x5 - 7x1
5x2 - x3 + x4 =  - 3 - x5 + x1
Методом исключения неизвестных находим:
Получили соотношения, выражающие зависимые переменные x2,x3,x4 через свободные x1,x5, то есть нашли общее решение:
x4 =  - 1.47 + 2.13x5 + x1
x3 = 0.53 - 0.87x5
x2 =  - 0.2 - 0.8x5
Придавая свободным неизвестным любые значения, получим сколько угодно частных решений. Система является неопределенной, т.к. имеет более одного решения.

Решение было получено и оформлено с помощью сервиса:
Системы линейных уравнений
источник:
Метод Гаусса и метод Жордано-Гаусса
Вместе с этой задачей решают также:
Метод Крамера
Метод обратной матрицы
Решения СЛАУ методом простой итерации
Решения СЛАУ методом простой Зейделя
Умножение матриц онлайн
По координатам пирамиды найти: уравнение плоскостей, уравнение прямых и объем пирамиды