província de Minas Gerais. Seu avô, que era genovês, refugiou-se em Portugal no começo do século passado e adquiria, em 1723, a cidadania de São Paulo. Seu pai, catador de ouro, pobre porém trabalhador, quis dar a seus numerosos filhos uma educação cuidada. Mandou, então, José Eloi, que já havia frequentado a escola do Tijuco, ao colégio de Catas Altas, estabelecimento então célebre. Nosso poeta ali se distinguiu de tal maneira que o diretor o encarregou de auxiliar no ensino da gramática latina.
Entretanto, o pai de José Eloi tinha adquirido, por seu trabalho, o necessário para enviar o seu filho ao país dos seus ancestrais. Este encontrou na Itália uma excelente oportunidade para entregar-se ao seu estudo favorito, o da literatura romana. Experimentou suas forças numa tradução em versos das "Geórgicas" de Virgílio, mas esta obra perdeu-se. Porém, Roma excitou nele sentimentos religiosos tão ardentes que, inúmeras vezes, foi tornado do desejo de abraçar o estado eclesiástico. Não executou, no entanto, este projeto e voltou à sua pátria, através de Lisboa. Não sabendo como ganhar de outra maneira sua vida, aceitou um lugar de professor de Latim na vila do Bom Sucesso (hoje Minas Novas). Logo após, em 1791 ou 1792, casava-se com D. Maria Rosa do Nascimento, filha do coronel José Esteves.
Mas as perturbações ocasionadas pela Inconfidência de Minas e sua má situação financeira tornaram muito difícil a vida em Minas Novas. Há muitos anos que não recebia seus salários e tinha que viver às expensas do sogro. José Eloi então decidiu deixar os seus e voltar para Lisboa, onde esperava obter senão melhor situação, pelo menos o pagamento dos seus atrasados.