Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
 r2 + r + 2.5 = 0
D = 12 - 4 • 1 • 2.5 = -9

Корни характеристического уравнения:
(комплексные корни):

Следовательно, фундаментальную систему решений составляют функции:

Общее решение однородного уравнения имеет вид:

Рассмотрим правую часть:
f(x) = 25•cos(2•x)
Поиск частного решения.
Линейное дифференциальное уравнение с постоянными коэффициентами и правой частью вида:
R(x) = eαx(P(x)cos(βx) + Q(x)sin(βx)), где P(x), Q(x) - некоторые полиномы
имеет частное решение
y(x) = xkeαx(R(x)cos(βx) + S(x)sin(βx))
где k - кратность корня α+βi характеристического полинома соответствующего однородного уравнения, R(x), S(x) - полиномы, подлежащие определению, степень которых равна максимальной степени полиномов P(x), Q(x).
Здесь P(x) = 25, Q(x) = 0, α = 0, β = 2.
Следовательно, число α + βi = 0 + 2i не является корнем характеристического уравнения .
Уравнение имеет частное решение вида:
y* = Acos(2x) + Bsin(2x)
Вычисляем производные:
y' = 2•B•cos(2x)-2•A•sin(2x)
y'' = -4(A•cos(2x)+B•sin(2x))
которые подставляем в исходное дифференциальное уравнение:
 y'' + y' + 2.5y =  (-4(A•cos(2x)+B•sin(2x))) + (2•B•cos(2x)-2•A•sin(2x)) + 2.5(Acos(2x) + Bsin(2x)) = 25•cos(2•x)
 или 
-2.•A•sin(2x)-1.5•A•cos(2x)-1.5•B•sin(2x)+2.•B•cos(2x) = 25•cos(2•x)
Приравнивая коэффициенты при одинаковых степенях х, получаем систему уравнений:
-2A -1.5B  = 0
-1.5A + 2B  = 25
Решая ее, находим:
A = -6;B = 8;
Частное решение имеет вид:
y* = -6cos(2x) + 8sin(2x)
Таким образом, общее решение дифференциального уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения