Nacido en Nancy, Francia, Carlos fue un militar librepensador y aventurero. En cierta ocasión, tomó la decisión de cambiar el uniforme por el disfraz de judío argelino y, caminando, atravesó la cordillera del Atlas para investigar las costumbres de las tribus del desierto. Su expedición fue un acontecimiento científico, y ganó la medalla de oro de la Sociedad Geográfica. Pero este éxito no fue suficiente para su espíritu. A los 28 años, tuvo una experiencia de conversión y no encontró paz sino hasta que se arrodilló a los pies de un sacerdote para confesarle sus pecados y recibir, por segunda vez en su vida, la Sagrada Eucaristía.
En peregrinación, como penitente, Carlos decidió ir a Tierra Santa y se convirtió en religioso trapense en una abadía siria. Más tarde vivió como ermitaño en Nazaret. Convencido de que podía dar más gloria a Dios como sacerdote, volvió a Francia donde se dedicó a los estudios teológicos y se ordenó en 1901.
Decidió llevar a Africa la Buena Nueva a los salvajes hijos del desierto. En el oasis de Tamanrasset quedó alejado de toda civilización, pero cerca de la tribu de los tuaregs. Cuando se declaró la 1ª Guerra Mundial, los senisssi declararon la guerra santa contra todo cristiano. El 1º de diciembre de 1916 un destacamento de jinetes se presentó ante aquel que sólo había tenido bondades para sus familias, y lo asesinaron disparándole a quemarropa.
Su muerte, aparentemente tan sin sentido, ha dado una gran cosecha. Ahora los discípulos de Carlos de Foucauld trabajan como "Hermanitos y Hermanitas de Jesús" en casi todas las partes pobres del mundo.