x² - 5xy + 6y² = 2

x² - 3xy - 2xy + 6y² = 2

x(x - 3y) - 2y(x - 3y) = 2

(x - 3y)(x - 2y) = 2

 Поскольку уравнение решается в целых числах, тогда

2 = 1 * 2 ,   2 = (-1) * (-2)

1) Пусть (x - 3y) = 1 ,  а (x - 2y) = 2

Составим систему:

 { x - 3y = 1   |умножим на 2

 { x - 2y = 2   | умножим на (-3)

{ 2x - 6y = 2

{ -3x + 6y = -6

 -x = -4

x =4

4 - 3y = 1

-3y = 1 - 4

-3y = -3

y = 1

Имеем: х = 4,  у = 1

2) Пусть (x - 3y) = -1 ,  а (x - 2y) = -2

Составим систему:

 { x - 3y = -1   |умножим на 2

 { x - 2y = -2   | умножим на (-3)

{ 2x - 6y = -2

{ -3x + 6y = 6

-х = 4

х = -4

-4 - 3у = -1

-3у = -1 + 4

-3у = 3

у=-1

Имеем: х = -4,   у = -1

Вот мы и решили уравнение в целых числах.