Могут ли углы квадрата быть равными 100 градусов

Нет.  из евклидовой известно, что сумма углов многоугольника равна 180*(n-2), где n-число углов. поскольку квадрат имеет четыре угла, то сумма углов квадрата равна 180*(4-2)=360 градусов. все углы квадрата равны, так что величина одного угла квадрата равна 360/4=90 градусов.

это простое доказательство, однако еще проще запомнить, что квадрат - это четырехугольник, у которого все углы прямые, то есть равны 90 градусов.

а что надо найти, если третью стороу треугольника, то

c^2=a^2+b^2-2*a*b*cos(125)

c^2=256+324-2*16*18*cos(125)=580-576*cos(125)=576*(4-cos(125))

c=24*sqrt(4-cos(125))=24*sqrt(4+sin(35))

если нужно построить, то:

проводим из 2х любых вершин треугольника серединные перпендикуляры, точка пересечения серединных перпендикуляров я-я центром описанной окружности (т.е. точка о). затем строите окружность с центром о и радиусом от точки о до любой из вершин.