Решить систему уравнений x^3y+2x^2y^2+xy^3=4. и x +y+x^2y+y^2x=4

2y² - xy = 3                                 |·2
y² + 4xy - 3x² = 6 

4y² - 2xy = 6
y² + 4xy - 3x² = 6

Приравняем уравнения

4y² - 2xy = y² + 4xy - 3x²
3x² - 6xy + 3y² = 0
x² - 2xy + y² = 0
(x - y)² = 0
x = y

x = y
y² + 4xy - 3x² = 6

x = y
x² + 4x² - 3x² = 6

x = y
2x² = 6

x = y
x² = 3

x = -√3
y = -√3
или
x = √3
y = √3

ответ: (-√3; -√3), (√3; √3). 
Это по моим вычислениям.