Для определения рода слова “остяки” его необходимо поставить в именительный падеж единственного числа, получается форма: “остяки” . Тогда в зависимости от окончания в слове “остяки” можно определить род.
Слово “остяки”Полный морфологический разбор Cуществительного “остяки” находится по ссылке