Как это решить? периметр выпуклого многоугольника равен 10см, может ли одна из его диагоналей быть равной 5см?

Не может почему потому что если одна строна будет только 5 см а другие разные то это уже никакой не многоугольник

вектор   ав=-2e1-e2+2e3

вектор   bc=-4e1+3e2-5e3

вектор   ca=6e1-2e2+3e3

Тогда диагональ прямоугольника в основании равна (по теореме пифагора) 169-144=25 т.е. 5см, тогда вторая сторона прямоугольника в основании равна (по теореме пифагора)25-16=9 т.е. 3см найдем объем: 4*5*3=60см3