Избавьтесь от иррациональности в знаменателе  дроби 1/2√3-1
​

(7а+х) в кв.= 49а   кв.+14ах+х   кв.

при раскрытии скобок получим n^2-1-n^2+5n+7n-35=12n-36=12(n-3)

при делении полученного числа на 12, мы получам целое число, то есть полученное число кратно 12

чтобы сумма квадратов была наименьшей нужно чтобы эти числа были равны, т.е. 5 + 5 = 10. 

y=8x^5+5x^4-8/7x-3/7x

y`=40x^4+20x^3+8/(7x^2)+3/(7x^2)=40x^4+20x^3+11/(7x^2)