Nació en Tlalpujahua, Michoacán. En 1786 ingresó al Colegio de San Nicolás, de Valladolid (Morelia), donde hizo estudios de bachiller. Pasó a la ciudad de México y en el Colegio de San Ildefonso hizo la carrera de abogado. Graduado en 1796. Más tarde regresó a su pueblo para dedicarse a la agricultura y la minería. Partidario de la Independencia, fue de los primeros en incorporarse a las fuerzas de Hidalgo, en Maravatío.
Después de la batalla del Monte de las Cruces y de la marcha sobre Guadalajara, en los que acompañó a Hidalgo, propuso el establecimiento de una junta directora. Fue secretario de Hidalgo; estuvo en la batalla del Puente de Calderón y en la de Aculco.
En Guadalajara, con el cargo de secretario de estado, luchó por reorganizar el gobierno y fue el promotor de la publicación de El Despertador Americano, órgano de la revolución de independencia. Estaba a favor de que se entablaran relaciones diplomáticas con Estados Unidos. En la derrota de Calderón salvó los caudales del ejército, que ascendían a 300 mil pesos. De acuerdo con Allende, lograron entrar victoriosamente a Zacatecas. Marchó con los caudillos derrotados.
En Saltillo, en previsión de sucesos venideros, se le designó jefe para mandar al ejército y se le dieron instrucciones para continuar la guerra. Después de la aprehensión y muerte de los iniciadores, volvió a Michoacán. Se atrincheró en Zitácuaro y se defendió con fortuna.
En agosto de 1811, en la propia Zitácuaro organizó la Junta Suprema Gubernativa, en la que figuró como presidente, con José María Liceaga y José Sixto Verduzco como vocales. Expidió leyes, proclamas y reglamentos, que se imprimían en una imprenta de tipos de madera, que luego cambió por otra más eficaz.
El 1 de enero de 1812, un ejército mandado por Félix María Calleja y fuertemente pertrechado, se presentó frente a Zitácuaro; los insurgentes presentaron una gran resistencia pero tuvieron que abandonar la plaza. Después Rayón marchó sobre Toluca, Lerma, y estableció su cuartel en el Campo del Gallo, no lejos de Tlalpujahua. Formó parte del Congreso instalado por Morelos en Chilpancingo.
En 1813 se fortificó en el cerro del Cóporo, convertido en poderosa fortaleza en unión de su hermano Ramón. Atacado por Agustín de Iturbide y por Llano, sostuvo un sitio de muchos meses. El 7 de enero de 1817, capituló con todos los honores.
El no reconocer a la Junta de Jaujilla le trajo serias dificultades: fue perseguido y el propio Nicolás Bravo le entregó a los realistas.
En la ciudad de México se le instruyó el proceso correspondiente y se le sentenció a muerte. Se aplazó la ejecución, pero quedó preso hasta 1820. Consumada la Independencia, se le nombró tesorero en San Luis Potosí.
Alcanzó el grado de divisionario, fue comandante general de Jalisco y presidente del Tribunal Militar. Murió en la ciudad de México
