Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
r3 + 5r2 - 6r = 0
Вынесем r за скобку. Получим:
r(r2+5r-6) = 0
Здесь r1 = 0. Найдем остальные корни.
 r2 +5 r - 6 = 0
D = 52 - 4 • 1 • (-6) = 49

Корни характеристического уравнения:
r1 = -6
r2 = 0
r3 = 1
Следовательно, фундаментальную систему решений составляют функции:
y1 = e-6x
y2 = e0x
y3 = ex
Общее решение однородного уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения