Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
r3 - 3r2 + r = 0
Вынесем r за скобку. Получим:
r(r2-3r+1) = 0
Здесь r1 = 0. Найдем остальные корни.
 r2 -3 r + 1 = 0
D = (-3)2 - 4 • 1 • 1 = 5

Корни характеристического уравнения:
r1 = 0

Следовательно, фундаментальную систему решений составляют функции:
y1 = e0x

Общее решение однородного уравнения имеет вид:

Рассмотрим правую часть:
f(x) = (18•x-2)•e-x
Поиск частного решения.
Линейное дифференциальное уравнение с постоянными коэффициентами и правой частью вида:
R(x) = eαx(P(x)cos(βx) + Q(x)sin(βx)), где P(x), Q(x) - некоторые полиномы
имеет частное решение
y(x) = xkeαx(R(x)cos(βx) + S(x)sin(βx))
где k - кратность корня α+βi характеристического полинома соответствующего однородного уравнения, R(x), S(x) - полиномы, подлежащие определению, степень которых равна максимальной степени полиномов P(x), Q(x).
Здесь P(x) = 18•x-2, Q(x) = 0, α = -1, β = 0.
Следовательно, число α + βi = -1 + 0i не является корнем характеристического уравнения .
Уравнение имеет частное решение вида:

Вычисляем производные:
y' = -e-x(A(x-1)+B)
y'' = e-x(A(x-2)+B)
y''' = -e-x(A(x-3)+B)
которые подставляем в исходное дифференциальное уравнение:
y''' -3y'' + y' = (-e-x(A(x-3)+B)) -3(e-x(A(x-2)+B)) + (-e-x(A(x-1)+B)) = (18•x-2)•e-x
 или 
10•A•e-x-5•A•e-x•x-5•B•e-x = (18•x-2)•e-x
Приравнивая коэффициенты при одинаковых степенях х, получаем систему уравнений:
10A -5B  = -2
-5A  = 18
Решая ее, находим:
A = -18/5;B = -34/5;
Частное решение имеет вид:
y* = (-18/5x -34/5)e-x
Таким образом, общее решение дифференциального уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения