f(x)=(m/3)x^3+ax^2+(1-b^2)x,m,a,b∈R (1)当m=1时,若函数f(x)是R上的增函数,

f‘(x)=mx²+2ax+1-b²=x²+2ax+1-b²
f(x)是增函数,所以f'(x)≥0对于x∈R恒成立.
即x²+2ax+1-b²≥0
△=4a²-4(1-b²)≤0
a²+b²≤1
(a+b)²/2≤a²+b²≤1
∴(a+b)²≤2
-√2≤a+b≤√2
∴最小值是-√2

对函数求导，然后让导函数的对称轴小于等于1就可以得到一个关系，然后根据线性规划或是求极值的方法可以得到答案。