楼上几位回答的13/3是f的最小值.用高中知识证明如下:
设x=b+c-a,y=a+c-b,z=a+b-c.那么x+y+z=3且x,y,z>0.
f=a^2+b^2+c^2+(4/3)abc,所以
4f=(2a)^2+(2b)^2+(2c)^2+2*2a*2b*2c/3=(y+z)^2+(x+z)^2+(x+y)^2+2(x+y)(y+z)(z+x)/3=2(x^2+y^2+z^2+xy+yz+zx)+2((x+y+z)(xy+yz+zx)-xyz)/3=2(x^2+y^2+z^2+2xy+2yz+2zx)-2xyz/3=2(x+y+z)^2-2xyz/3>=52/3
这里利用了(x+y+z)(xy+yz+zx)-xyz=(x+y)(y+z)(z+x),x+y+z=3,以及xyz=13/3.等号在x=y=z=1,即a=b=c=1时取得
而4f=18-2xyz/3,xyz没有最小值(因为xyz>0但是xyz可以任意接近于0).所以f没有最大值哦.顶多说f有个上界是9/2.f