Сделаем коэффициенты при x противоположными
4x+y-12=0
5x-y-6=0​

разные шары можно вынуть минимум достав 2 шара, максимум -7, т.к. 6 из 7 могут быть одного цвета, в данном случае черного.

два одинаковых шара можно вынуть, минимум достав 2 шара, максимум 3, т.к. в корзине шары только двух цветов, то 2 из 3 обязательно будут одного цвета.

а вообще условие не совсем понятно, что подразумевается под "способами"?

x2(x2-4)=45 

x4-4x2-45=0

d=b2-4ac=16-4(-45)=196

x1=4+14/2=9

x2=4-14/2=-5 

смотри прикреплённый файл