Надо, тригонометрия, 8cos(2arccos3/4)

допустим, в одном классе было х учеников, а в другом - у. когда из  одного  класса забрали 3 учеников (х-3) и перевели их в другой (у+3), то х-3 стало равно 80% от у+3. таким образом

х-3=0,8(у+3)

по условию х+у=54. составляем линейное уравнение:

{х+у=54

{х-3=0,8(у+3)

{х=54-у

{54-у-3=0,8(у+3)

54-у-3=0,8(у+3)

51-у=0,8у+2,4

-у-0,8у = 2,4-51

-1,8у = -48,6

у=27. значит, х=54-27=27.

изначально в обоих классах было по 27 учеников.