Какое склонение в слове “систему”? если в правиле 1ск- м.р. и ж.р. с окончанием -а, -я. и 3ск- ж.р. с нулевым

Слово "систему" нужно поставить в начальную форму - "система". Это ж.р., оканчивается на а, значит 1ое склонение.

Смотрим. Систему - в И.п. - система. Имеем окончание -а. Помимо того, ещё и женский род. Следовательно, первое склонение.