Secundaria sistema ecuaciones diferenciales no lineales

[alejandrito29]

El problema dice:

Muestre que la solucón cero es no linealmente estable. Para esto encuentre el cambio de variable que transforma a este sistema en un sistema lineal:

$\frac{dx}{dt}=-x + \beta (x^2+ y^2)$

$\frac{dy}{dt}=-2y + \gamma x y$

primero intenté calculando la matriz jacobiana la cual tiene autovalores negativos, pero , mi profesor dijo que ese no es el método. Le pregunté que hacer, pero no me dijo nada concreto, ¿que puedo hacer?, saludos.