С чем связана избыточность информации языка?

Избыточность языка — статистическая величина, обозначающая избыточность информации, содержащейся в тексте на определённом языке.

В лингвистике избыточность означает информацию, повторяющуюся более одного раза. Примерами избыточности служат элементы множественного согласования в морфологии, множественные признаки отличающие фонемы в фонологии , или использование нескольких слов для выражения одной идеи в риторике.