Su cuerpo embalsamado yace en el interior, en una urna de cristal, en un salón central fresco y de luz tenue vigilado por una guardia de honor militar. Las obras del edificio comenzaron el 2 de septiembre de 1973 y se inauguró el 29 de agosto de 1975.

El diseño toma como modelo el Mausoleo de Lenin en Moscú, pero añade toques vietnamitas como el tejado inclinado. El edificio mide 21,6 metros de altura, con la inscripción «Chủ tịch Hồ-Chí-Minh» a lo largo del pórtico, resaltada en jade rojo oscuro de Cao Bằng, y dos plataformas con siete escalones a cada lado, usadas como tribunas durante los desfiles. Dos frangipanis flanquean la puerta, 79 cicas plantadas delante y detrás representan los años de su vida, hileras de bambú bordean los lados norte y sur, y los jardines de alrededor albergan casi 250 tipos de plantas de todas las regiones de Vietnam. Dos soldados custodian la entrada y se relevan cada hora.

En el interior, los materiales procedían de todo el país. En el vestíbulo, mármol de vetas rosadas enmarca su firma en oro y la inscripción que dice que nada vale más que la independencia y la libertad, y las puertas son de maderas preciosas enviadas desde el sur, las Tierras Altas Centrales y otras regiones. En la cámara central revestida de mármol, las banderas nacional y del partido en la pared están formadas por 4.000 piezas de rubí extraídas en Thanh Hóa. Ho Chi Minh yace con un traje caqui desteñido y sandalias de goma a sus pies, sobre una cama de bronce decorada con motivos de loto, dentro de una urna hecha por artesanos de Vietnam y de la Unión Soviética, con cuatro soldados de guardia a su alrededor.

Desde los céspedes frente al mausoleo, la calle Bac Son, plantada de rosas rojas y melocotoneros, lleva al Monumento a los Mártires. Al oeste de la plaza, el Complejo Conmemorativo de Ho Chi Minh reúne el Museo de Ho Chi Minh y su casa sobre pilotes.