En 1945 persuadió a su tío para que lo ayudara crear una foto de una bandera soviética, después de ver la foto de Joe Rosenthal de la bandera que levantaban en Iwo Jima soldados americanos, la creo en Berlín en el Reichstag. Posteriormente tomó fotografías de los nazis en los juicios de Nuremberg y del ejército rojo durante su ofensiva en la manchuria japonesa. Khaldei siguió trabajando en el fotoperiodismo después de la guerra como fotógrafo del personal de TASS, pero fue despedido despues de una evaluación de 1947,
"Después de regresar a las condiciones de paz, no se desarrolló en absoluto, y en el momento actual se le considera un fotoperiodista pasable... Las razones para esto son varias. En primer lugar, todos los elogios que se le acumularon como un fotoperiodista militar finalmente se le subieron a la cabeza, y se durmio en sus laureles. Su crecimiento como fotoperiodista se detuvo. Otra razón tiene que ver con el nivel cultural de Khaldei, que es excepcionalmente bajo." En octubre de 1948, Khaldei recibió la noticia de que estaba despedido debido a la reducción de personal de la agencia. Khaldei atribuyó el despido al antisemitismo, lo cual era probablemente cierto.
Khaldei siguió fotografiando, ahora trabajando como fotógrafo independiente para periódicos soviéticos, y se centró en capturar las escenas de la vida cotidiana. En 1959, consiguió un trabajo de nuevo en el diario Pravda, donde trabajó hasta que se vio obligado a retirarse en 1970. Sus fotografías en tiempo de guerra fueron recogidas en un libro de 93 páginas, Ot Murmanska do Berlina (De Murmansk a Berlín), publicado en 1984. La fama internacional de Khaldei data de los años 90, cuando las exposiciones de sus fotografías comenzaron a ser celebradas en Occidente. Las fotografías más famosas de Khaldei fueron tomadas cuando fue fotógrafo del Ejército Rojo desde 1941 hasta 1946.
Khaldei frecuentemente armaba o manipulaba sus fotografías, insistió en que esto remarcaba la importancia y añadía fuerza a un evento en particular. Su trabajo también fue admirado por las élites de la Unión Soviética y es famoso por crear los retratos oficiales para los líderes del estado tales como Joseph Stalin, Mikhail Gorbachev y Boris Yeltsin.
La foto más famosa de Khaldei fue la de un soldado del Ejército Rojo que levantaba una bandera soviética sobre el Reichstag alemán al final de la Segunda Guerra Mundial. La revista Ogoniok publicó la fotografía el 13 de mayo de 1945. Khaldei había tomado un rollo completo de película, 36 imágenes. La fotografía muestra a un soldado adolescente del Ejército Rojo, Aleksei Kovalyev de Kiev, que levanta la bandera soviética en el techo del Reichstag, asistido por otros dos soldados. Khaldei alteró la fotografía antes de su publicación, para ocultar la evidencia de saqueo, un soldado llevaba dos relojes, uno en cada muñeca, y más tarde también añadio humo en el cielo y una versión visualmente más impresionante de la bandera.
