A=3x²-4xy+cy²,B=ax²-3xy,C=x²-bxy+2y²

ax的平方-2xy+y的平方+x的平方-bxy-2y的平方=5x的平方-9xy+cy的平方
(a+1)x的平方-(2+b)xy-y的平方=5x的平方-9xy+cy的平方
a+1=5,a=4;
-(2+b)=-9,b=7;
-1=c,c=-1;

ax的平方-2xy+y的平方+x的平方+bxy-2y的平方=5x的平方-9xy+cy的平方
ax的平方+x的平方-2xy+bxy+y的平方-2y的平方=5x的平方-9xy+cy的平方
ax的平方+x的平方=5x的平方 -2xy+bxy=-9xy -2y的平方=+cy的平方
a+1=5 b-2=9 c=-2
a=4 b=11 c=-2

若(ax的平方-2xy+y的平方）-（-ax的平方+bxy+2y的平方）=6x的平方-9xy+cy的平方
ax²-2xy+y²+ax²-bxy-2y²=6x²-9xy+cy²
2ax²-(2+b)x-y²=6x²-9xy+cy²
2a=6
2+b=9
-1=c
解得：a=3；b=7；c=-1

(1) ,
∵ （ax²-2xy+y²）-（-x²+bxy+2y²）=5x²-9xy+cy²恒成立,
∴ (a+1)x²-(2+b)xy+(1-2)y²=5x²-9xy+cy² ,
∴ a+1=5 , 2+b=9 , -1=c ,
∴ a=4 , b=7 , c=-1 .
∴ 选 C: 4,7,-1 .
(2) ,
∵ （2x²+ax-y+6）-（2bx²-3x+5y-1）的值与字母X的取值无关,
∴ (2-2b)x²+(a+3)x-6y+7 的值与字母X的取值无关,
∴ 2-2b=0 , a+3=0 ,
∴ a=-3 , b=1 ,
∴ 3（a²-2ab-b²）-（4a²+ab+b²）
= -a²-7ab-4b²
= -(-3)²-7(-3)*1-4*1²
= -9+21-4
= 8 .

请问你的原式是不是：（ax^2-2xy+y^2)-(-x^2+bxy+2y^2)=5x^2-9xy+cy
如果是的话,就直接把左边化简,然后让左边x^2,xy,y^2的系数与右边相应的系数相等即可
a=4,b=7,c=-1

去括号=2ax^2+(-2-b)xy-y^2=8x^2-7xy-cy^2
2a=8 a=4
(-2-b)=-7 b=5
-1=-c c=1

（ax2次方-2xy+y的二次方）—（—x的二次方+bxy+2y的二次方）
=(a+1)x^2-(2+b)xy-y^2
（ax2次方-2xy+y的二次方）—（—x的二次方+bxy+2y的二次方）=5x的二次方—9xy+cy的二次方 永远成立
a+1=5 2+b=9 c=-1
a=4 b=7 c=-1

ax^2-2xy+y^2-(-ax^2+bxy+2y^2)=8x^2-7xy-cy^2
即
ax^2-2xy+y^2+ax^2-bxy-2y^2=8x^2-7xy-cy^2
2ax^2-（2+b)xy-y^2=8x^2-7xy-cy^2
所以2a=8,a=4；
2+b=7,b=5；
c=1

两边同类项的系数要相等 a-(-1)=5 -2-b=-9 1-2=c a=4,b=7,c=-1

你的题目可能写错了,等号右边第一个应该是5x^2.,是不是?
先去掉括号,再合并同类项：
（a+1）x^2-(2+b)xy-y^2=5x^2-9xy+cy^2
等号两边如果要永远成立,那么各个多项式的系数应该相等.
所以
a+1=5
-（2+b）= - 9
-1=c
解上面这三个方程,得到
a=4
b=7
c=-1