При гомотетии точка X переходит в точку X', а точкаY — вточку Y'. Как найти центр гомотетии, если точки X, X', Y, Y' не лежат на одной прямой?

По определению преобразования гомотетии - центр гомотетии лежит на одном луче с данными точками, поэтому точка пересечения прямых XX' и YY' является центром. Эти прямые пересекутся, так как точки X, X', Y и Y' не лежат на одной прямой, по условию.