Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
 r2 +6 r + 9 = 0
D = 62 - 4 • 1 • 9 = 0

Корни характеристического уравнения:
Корень характеристического уравнения r1 = -3 кратности 2.
Следовательно, фундаментальную систему решений составляют функции:
y1 = e-3x
y2 = xe-3x
Общее решение однородного уравнения имеет вид:

Рассмотрим правую часть:
f(x) = 2•x2-x+3
Поиск частного решения.
Линейное дифференциальное уравнение с постоянными коэффициентами и правой частью вида:
R(x) = eαx(P(x)cos(βx) + Q(x)sin(βx)), где P(x), Q(x) - некоторые полиномы
имеет частное решение
y(x) = xkeαx(R(x)cos(βx) + S(x)sin(βx))
где k - кратность корня α+βi характеристического полинома соответствующего однородного уравнения, R(x), S(x) - полиномы, подлежащие определению, степень которых равна максимальной степени полиномов P(x), Q(x).
Здесь P(x) = 2•x2-x+3, Q(x) = 0, α = 0, β = 0.
Следовательно, число α + βi = 0 + 0i не является корнем характеристического уравнения .
Уравнение имеет частное решение вида:

Вычисляем производные:
y' = 2•A•x+B
y'' = 2•A
которые подставляем в исходное дифференциальное уравнение:
 y'' + 6y' + 9y =  (2•A) + 6(2•A•x+B) + 9(Ax2 + Bx + C) = 2•x2-x+3
 или 
9•A•x2+12•A•x+2•A+9•B•x+6•B+9•C = 2•x2-x+3
Приравнивая коэффициенты при одинаковых степенях х, получаем систему уравнений:
9A  = 2
12A + 9B  = -1
2A + 6B + 9C  = 3
Решая ее, находим:
A = 2/9;B = -11/27;C = 5/9;
Частное решение имеет вид:
y* = 2/9x2 + -11/27x + 5/9
Таким образом, общее решение дифференциального уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения