Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
r3 - 2r2 - 3r = 0
Вынесем r за скобку. Получим:
r(r2-2r-3) = 0
Здесь r1 = 0. Найдем остальные корни.
 r2 -2 r - 3 = 0
D = (-2)2 - 4 • 1 • (-3) = 16

Корни характеристического уравнения:
r1 = -1
r2 = 0
r3 = 3
Следовательно, фундаментальную систему решений составляют функции:
y1 = e-x
y2 = e0x
y3 = e3x
Общее решение однородного уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения