Запишем матрицу в виде:

Вектор B:
BT = (10,23,13)
Главный определитель
∆ = 1•(2•2-1•1)-3•(2•2-1•0)+0•(2•1-2•0) = -9
Транспонированная матрица

Алгебраические дополнения.

∆1,1 = (2•2-1•1) = 3

∆1,2 = -(2•2-0•1) = -4

∆1,3 = (2•1-0•2) = 2

∆2,1 = -(3•2-1•0) = -6

∆2,2 = (1•2-0•0) = 2

∆2,3 = -(1•1-0•3) = -1

∆3,1 = (3•1-2•0) = 3

∆3,2 = -(1•1-2•0) = -1

∆3,3 = (1•2-2•3) = -4
Обратная матрица

Вектор результатов X
X = A-1 • B

XT = (4,3,5)
x1 = -36 / -9 = 4
x2 = -27 / -9 = 3
x3 = -45 / -9 = 5
Проверка.
1•4+2•3+0•5 = 10
3•4+2•3+1•5 = 23
0•4+1•3+2•5 = 13

Решение было получено и оформлено с помощью сервиса:
Метод обратной матрицы
Вместе с этой задачей решают также:
Метод Крамера
Метод Гаусса
Обратная матрица методом Жордано-Гаусса
Обратная матрица через алгебраические дополнения
Решения СЛАУ методом простой итерации
Решения СЛАУ методом простой Зейделя
Умножение матриц онлайн
По координатам пирамиды найти: уравнение плоскостей, уравнение прямых и объем пирамиды