Представьте в виде разности двух двучленов 2ab+4a³-8ab²+11a²b

сторона квадрата-х

тогда  одна сторона прямоугольника-2х

вторая сторона-2х-1

площадь прямоугольника=2х(2х-1)

площадь квадрата-х^2

по условию

2х(2х-1)-x^2=21

4x^2-2x-x^2-21=0

3x^2-2x-21=0

d=8

x1=(1+8)/3

x1=3