Данное дифференциальное уравнение относится к линейным дифференциальным уравнениям с постоянными коэффициентами.
Решение уравнения будем искать в виде  y = erx. Для этого составляем характеристическое уравнение линейного однородного дифференциального уравнения с постоянными коэффициентами:
 r2 -2 r + 1 = 0
D = (-2)2 - 4 • 1 • 1 = 0

Корни характеристического уравнения:
Корень характеристического уравнения r1 = 1 кратности 2.
Следовательно, фундаментальную систему решений составляют функции:
y1 = ex
y2 = xex
Общее решение однородного уравнения имеет вид:

Рассмотрим правую часть:
f(x) = ex•sin(x)
Поиск частного решения.
Линейное дифференциальное уравнение с постоянными коэффициентами и правой частью вида:
R(x) = eαx(P(x)cos(βx) + Q(x)sin(βx)), где P(x), Q(x) - некоторые полиномы
имеет частное решение
y(x) = xkeαx(R(x)cos(βx) + S(x)sin(βx))
где k - кратность корня α+βi характеристического полинома соответствующего однородного уравнения, R(x), S(x) - полиномы, подлежащие определению, степень которых равна максимальной степени полиномов P(x), Q(x).
Здесь P(x) = 1, Q(x) = 0, α = 1, β = 1.
Следовательно, число α + βi = 1 + i не является корнем характеристического уравнения .
Уравнение имеет частное решение вида:
y* = ex(Acos(x) + Bsin(x))
Вычисляем производные:
y' = ex((B-A)•sin(x)+(A+B)•cos(x))
y'' = 2•ex(B•cos(x)-A•sin(x))
которые подставляем в исходное дифференциальное уравнение:
y'' -2y' + y = (2•ex(B•cos(x)-A•sin(x))) -2(ex((B-A)•sin(x)+(A+B)•cos(x))) + (ex(Acos(x) + Bsin(x))) = ex•sin(x)
 или 
-A•ex•cos(x)-B•ex•sin(x) = ex•sin(x)
Приравнивая коэффициенты при одинаковых степенях х, получаем систему уравнений:
-1A  = 0
0A -1B  = 1
Решая ее, находим:
A = 0;B = -1;
Частное решение имеет вид:
y* = ex(0cos(x) -1sin(x))
или
y* = ex( -1sin(x))
Таким образом, общее решение дифференциального уравнения имеет вид:

Решение было получено и оформлено с помощью сервиса:
Дифференциальные уравнения