Для определения рода слова “нытье” его необходимо поставить в именительный падеж единственного числа, получается форма: “нытье” . Тогда в зависимости от окончания в слове “нытье” можно определить род.
Слово “нытье” употребляется в среднем роде (Потому как в начальной форме слова “нытье” окончание [е], [о]).Полный морфологический разбор Cуществительного “нытье” находится по ссылке