Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
r3 - 2r2 + r = 0
Вынесем r за скобку. Получим:
r(r2-2r+) = 0
Здесь r1 = 0. Найдем остальные корни.
 r2 -2 r + 1 = 0
D = (-2)2 - 4 • 1 • 1 = 0

Корни характеристического уравнения:
r1 = 0
Корень характеристического уравнения r2 = 1 кратности 2.
Следовательно, фундаментальную систему решений составляют функции:
y1 = e0x
y2 = ex
y3 = xex
Общее решение однородного уравнения имеет вид:

Рассмотрим правую часть:
f(x) = 3•x2+x
Поиск частного решения.
Линейное дифференциальное уравнение с постоянными коэффициентами и правой частью вида:
R(x) = eαx(P(x)cos(βx) + Q(x)sin(βx)), где P(x), Q(x) - некоторые полиномы
имеет частное решение
y(x) = xkeαx(R(x)cos(βx) + S(x)sin(βx))
где k - кратность корня α+βi характеристического полинома соответствующего однородного уравнения, R(x), S(x) - полиномы, подлежащие определению, степень которых равна максимальной степени полиномов P(x), Q(x).
Здесь P(x) = 3•x2+x, Q(x) = 0, α = 0, β = 0.
Следовательно, число α + βi = 0 + 0i является корнем характеристического уравнения кратности k = 1(r1).
Уравнение имеет частное решение вида:

Вычисляем производные:
y' = x(3•A•x+2•B)+C
y'' = 2(3•A•x+B)
y''' = 6•A
которые подставляем в исходное дифференциальное уравнение:
1y''' -2y'' + 1y' = 1(6•A) -2(2(3•A•x+B)) + 1(x(3•A•x+2•B)+C) = 3•x2+x
 или 
3•A•x2-12•A•x+6•A+2•B•x-4•B+C = 3•x2+x
Приравнивая коэффициенты при одинаковых степенях х, получаем систему уравнений:
3A  = 3
-12A + 2B  = 1
6A -4B + 1C  = 0
Решая ее, находим:
A = 1;B = 13/2;C = 20;
Частное решение имеет вид:
y* = x (x2 + 13/2x + 20)
Таким образом, общее решение дифференциального уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения