Se casó en el 38 a. C. con Mariamna, hija de Alejandro, hijo a su vez de Aristóbulo II, de la estirpe de los asmoneos. Herodes era enemigo de la familia asmonea que había reinado hasta ese momento en Judea. En sus luchas para la conquista de Jerusalén, y con el apoyo romano en Siria, consiguió que en el año 37 a. C. fuera degollado Antígono II, hijo de Aristóbulo II. Eliminaba así al más directo aspirante a arrebatarle su título de rey. Intentó mejorar sin éxito su imagen ante el pueblo judío. Realizó una política de mejoras, entre las que destacó la reconstrucción del Templo de Jerusalén, iniciada en el 22 a. C., o la fundación de la ciudad de Cesárea, una ciudad portuaria de carácter occidental construida en honor al dueño del Imperio tras la batalla de Accio, Cayo Julio César Octavio Augusto. Fue un gobernante eficaz que impulsó el comercio y la economía de su pueblo. En época de hambruna (25 a. C.), se deshizo de gran parte de la riqueza de sus palacios para comprar trigo a Egipto.
Hizo ejecutar a toda la familia rival derrocada, incluyendo al abuelo (Aristóbulo II) y al hermano (Aristóbulo III, sumo sacerdote ahogado en unos baños) de Mariamna, su mujer. También a ella la mandó ejecutar en 29 a. C., y un año después a la madre de Mariamna. Asimismo eliminó a dos de sus propios hijos (Aristóbulo y Alejandro), atendiendo a rumores de conspiración contra su persona, levantados por otro hijo, Antípater, a quien también ejecutó años más tarde por intentar envenenarle. Herodes tuvo muchos hijos de sus diez esposas. Aunque designó sucesor a su hijo Arquelao, a su muerte, el emperador Augusto repartió el reino entre tres de sus hijos. En la tradición cristiana, Herodes el Grande, aparece como protagonista de un pasaje del Evangelio de Mateo, n el que manda asesinar a todos los niños menores de 2 años después de que los Magos de Oriente no le dijeran el lugar del nacimiento del "Rey de los judíos", tras indagar con los escribas y sacerdotes del Templo de Jerusalén que señalan a Belén, el pueblo del rey David, como lugar del nacimiento del Mesías. La narración termina contando la huida de María, José y el niño a Egipto, donde permanecieron hasta la muerte de Herodes.
La narración se encuadra cronológicamente en fechas poco anteriores a la muerte de Herodes, dato que sirvió al cronista Dionisio el Exiguo para calcular el nacimiento de Cristo y el comienzo de la era cristiana, base del actual calendario gregoriano que adolece de la imprecisión de esa fecha concreta. Al morir dejó el reino dividido entre sus hijos: Judea, Samaría e Idumea para Arquelao (destituido dos años después por el gobernador romano Poncio Pilatos), y Galilea y Perea para Herodes Antipas (el que, según los Evangelios, eludió juzgar a Jesucristo cuando se lo envió Pilatos). El nieto de Herodes, Herodes Agripa I, fue el último rey que gobernó sobre la totalidad de Palestina y el que, según los Hechos de los Apóstoles, hizo encarcelar a san Pedro y condenó a muerte a Santiago, el Mayor. Bajo su hijo Herodes Agripa II estalló la rebelión de los judíos que llevó a la destrucción de Jerusalén por Tito y la anexión de Palestina a Siria como provincia romana (70 d. C.).
