Срешением, только подробно. 50 +добавлю в лучший ответ.

ответ:-2,4,1+2√2,1-2√2э

Решение

(х²-2х-3)²=х² -2х+17  

(х²-2х-3)²=х² -2х-3+3+17  

(х²-2х-3)²=х² -2х-3+20. Пусть  х²-2х-3=t

t²=t+20,

t²-t-20=0,

Д=в²-4ас, Д=(-1)²-4*1*(-20)=81

х₁=(-в+√Д):2а , х₁=(1+9):2=5 ,  

х₂=(-в-√Д):2а , х₂=(1-9):2.=-4.

х²-2х-3=5                                           х²-2х-3=-4

х²-2х-8=0                                           х²-2х-7=0

Д=36                                                  Д=32

х₁=4                                     х₁=(-в+√Д):2а , х=(2+4√2):2=1+2√2,

х₂=-2                                    х₂=(-в-√Д):2а , х₂=(2-4√2):2=1-2√2