Обозначим через А — матрицу коэффициентов при неизвестных; X — матрицу-столбец неизвестных; B - матрицу-столбец свободных членов:

Вектор B:
BT=(2,7,8)
С учетом этих обозначений данная система уравнений принимает следующую матричную форму: А*Х = B.
Если матрица А — невырожденная (ее определитель отличен от нуля, то она имеет обратную матрицу А-1. Умножив обе части уравнения на А-1, получим: А-1*А*Х = А-1*B, А-1*А=Е.
Это равенство называется матричной записью решения системы линейных уравнений. Для нахождения решения системы уравнений необходимо вычислить обратную матрицу А-1.
Система будет иметь решение, если определитель матрицы A отличен от нуля.
Найдем главный определитель.
∆=3•(2•2-3•3)-1•(-1•2-3•4)+5•(-1•3-2•4)=-56
Итак, определитель -56 ≠ 0, поэтому продолжаем решение. Для этого найдем обратную матрицу через алгебраические дополнения.
Пусть имеем невырожденную матрицу А:

Тогда:

где Aij — алгебраическое дополнение элемента aij в определителе матрицы А, которое является произведением (—1)i+j на минор (определитель) n-1 порядка, полученный вычеркиванием i-й строки и j-го столбца в определителе матрицы А.
Транспонированная матрица

Вычисляем алгебраические дополнения.

∆1,1=(2•2-3•3)=-5

∆1,2=-(-1•2-4•3)=14

∆1,3=(-1•3-4•2)=-11

∆2,1=-(1•2-3•5)=13

∆2,2=(3•2-4•5)=-14

∆2,3=-(3•3-4•1)=-5

∆3,1=(1•3-2•5)=-7

∆3,2=-(3•3-(-1•5))=-14

∆3,3=(3•2-(-1•1))=7
Обратная матрица

Вектор результатов X
X=A-1 • B

XT=(0,2,1)
x1=0 / -56=0
x2=-112 / -56=2
x3=-56 / -56=1
Проверка.
3•0+-1•2+4•1=2
1•0+2•2+3•1=7
5•0+3•2+2•1=8

Решение было получено и оформлено с помощью сервиса:
Метод обратной матрицы
Вместе с этой задачей решают также:
Метод Крамера
Метод Гаусса
Обратная матрица методом Жордано-Гаусса
Обратная матрица через алгебраические дополнения
Решения СЛАУ методом простой итерации
Решения СЛАУ методом простой Зейделя
Умножение матриц онлайн
По координатам пирамиды найти: уравнение плоскостей, уравнение прямых и объем пирамиды