$x^2+(a-1)x-2a=0$
$x_1^2+x_2^2=9$
$x_1^2+x_2^2=x_1^2+x_2^2+2x_1{x}_2-2x_1{x}_2=(x_1+x_2{)}^2-2x_1{x}_2=9$
$x_1{x}_2=-2a$
$x_1+x_2=-(a-1)$
тогда:
$(-(a-1){)}^2-2\ast (-2a)=9$
$a^2-2a+1+4a=9$
$a^2+2a-8=0$
по теореме Виета:
$a_1=2$
$a_2=-4$
если a = 2, то:
$x^2+(2-1)x-2\ast 2=0$
$x^2+x-4=0$
проверим, имеет ли при этом a уравнение корни:
$D=1^2-4\ast 1\ast (-4)=17>0$ − имеет 2 корня
если a = −4, то:
$x^2+(-4-1)x-2\ast (-4)=0$
$x^2-5x+8=0$
проверим, имеет ли при этом a уравнение корни:
$D=(-5{)}^2-4\ast 1\ast 8=25-32=-8<0$ − корней нет.
Ответ: при a = 2