Почему диапозон чисел в компьютере ограничен? связано ли это с двоичностью компьютерной арифметики?

Да, связано. Все числовые типы в компьютере имеют нижнюю и верхнюю границу. Они хранятся в памяти компьютера в двоичном виде. Чем больше памяти (кол-во бит = позиций с нулем или единицей) выделяется на число, тем больше различных значений оно может содержать. Поэтому, максимально возможное значение числа есть всегда.