Для определения рода слова “серпентарий” его необходимо поставить в именительный падеж единственного числа, получается форма: “серпентарий” . Тогда в зависимости от окончания в слове “серпентарий” можно определить род.
Слово “серпентарий” употребляется в мужском роде (Потому как в начальной форме слова “серпентарий” окончание [а], [я] или [ ] нулевое).Полный морфологический разбор Cуществительного “серпентарий” находится по ссылке