Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
 r2 +3 r + 0 = 0
D = 32 - 4 • 1 • 0 = 9

Корни характеристического уравнения:
r1 = -3
r2 = 0
Следовательно, фундаментальную систему решений составляют функции:
y1 = e-3x
y2 = e0x
Общее решение однородного уравнения имеет вид:

Рассмотрим правую часть:
f(x) = 3•x•e-3•x
Поиск частного решения.
Линейное дифференциальное уравнение с постоянными коэффициентами и правой частью вида:
R(x) = eαx(P(x)cos(βx) + Q(x)sin(βx)), где P(x), Q(x) - некоторые полиномы
имеет частное решение
y(x) = xkeαx(R(x)cos(βx) + S(x)sin(βx))
где k - кратность корня α+βi характеристического полинома соответствующего однородного уравнения, R(x), S(x) - полиномы, подлежащие определению, степень которых равна максимальной степени полиномов P(x), Q(x).
Здесь P(x) = 3•x, Q(x) = 0, α = -3, β = 0.
Следовательно, число α + βi = -3 + 0i является корнем характеристического уравнения кратности k = 1(r1).
Уравнение имеет частное решение вида:

Вычисляем производные:
y' = e-3x(A(2-3•x)•x-3•B•x+B)
y'' = e-3x(A(9•x2-12•x+2)+3•B(3•x-2))
которые подставляем в исходное дифференциальное уравнение:
 y'' + 3y' =  (e-3x(A(9•x2-12•x+2)+3•B(3•x-2))) + 3(e-3x(A(2-3•x)•x-3•B•x+B)) = 3•x•e-3•x
 или 
2•A•e-3x-6•A•e-3x•x-3•B•e-3x = 3•x•e-3•x
Приравнивая коэффициенты при одинаковых степенях х, получаем систему уравнений:
2A -3B  = 0
-6A  = 3
Решая ее, находим:
A = -1/2;B = -1/3;
Частное решение имеет вид:
y* = x ((-1/2x + -1/3)e-3x)
Таким образом, общее решение дифференциального уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения