Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
 r2 -6 r + 13 = 0
D = (-6)2 - 4 • 1 • 13 = -16

Корни характеристического уравнения:
(комплексные корни):
r1 = 3 + 2i

Следовательно, фундаментальную систему решений составляют функции:

Общее решение однородного уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения