При каких действительных a и b многочлен ax^4+bx^3+1 делится на (x-1)^2?

1 - корень двойной кратности, т.е. корень самого многочлена и его производной.

a*1+b*1+1=0

4a*1+3b*1=0

a+b=-1, 4a+3b=0

Умножаем первое уравнение на 4 и вычитаем из него второе:

b=-4

a=-1-b=3

ответ. a=3, b=-4.