На дне сосуда с жидкостью, показатель преломления которой n=1,7, помещён точечный источник света. высота слоя жидкости h=12 см. каким минимальным радиусом непрозрачный диск нужно поместить на поверхность жидкости, чтобы, глядя сверху, нельзя было увидеть источник света?

Размеры сосуда подразумеваются достаточно большими, и, к тому же, вам никто не сказал что сосуд прозрачный. 

К задаче. По закону преломления лучи, выходящие из воды, будут рассеиваться. Если рассматривать лучи. удаляясь от центра, то преломленный луч в какой-то момент "ляжет" на поверхность воды, т.е. не пойдёт наверх. Именно это удаление от центра необходимо найти. Вот вкратце философия данной задачи. 

Ввод обозначений. h - глубина, на которой находится источник света. r - искомый радиус диска, то есть такое расстояние на поверхности воды от центра, на котором преломленный луч ложится на поверхность. a (альфа) - угол падения, т.е. угол между лучём входящим в поверхность раздела двух сред и нормалью к этой поверхности. b (бета) - угол между направлением выходящего луча и нормалью к поверхности воды. 
Запишем, что h=0.4 м, b=0. Также для удобства определим n_a - показатель преломления воздуха, n_w - показатель преломления воды. 

Решение. 
По закону преломления запишем sin(a)/sin(b)=n_w/n_a. (*) 
Если сделать правильный рисунок, нетрудно видеть, что sin(a)=r/sqrt(h^2+r^2). 
sin(b)=1, т.к. b=pi/2. 
Подставляя эти синусы в уравнение (*), получаем уравнение, решив которое относительно r, найдём ответ.