Определите высоту(от поверхности земли) полета международной космической станции, считая её орбиту круговой, если скорость её полета равна 7780 м/с. средний радиус земли равен 6371 км, а масса - 6*10 двадцать четвертых км,

Странно, что Вы даёте массу в километрах. Но можно в данном случае обойтись вообще без массы Земли.
На круговой орбите центростремительное ускорение равно гравитационному:
v^2/(R+h) = gam M/(R+h)^2, где R - радиус Земли, M - масса Земли, v - круговая скорость, h - высота станции над поверхностью Земли, gam - гравитационная постоянная. На поверхности Земли гравитационное ускорение равно g (ускорение свободного падения). Следовательно,
g = gam*M/R^2.
Таким образом, gam*M = g*R^2.
Подставляем выражение gam*M в равенство, получаем
v^2 = g*R^2/(R+h)
 и решаем последнее относительно h.
Получаем:
h = R*(g*R/(v^2) - 1) = 199703 м (не забудьте перевести км в м) или 200 км