Chim nació de padres judíos polacos en Varsovia en 1911. En 1914 Chim y sus padres emigraron a Odessa justo cuando la Primera Guerra Mundial había comenzado. En 1919 volvieron a Varsovia. Chim estudió artes gráficas en Leipzig y luego viajó a París, Francia para estudiar en la Sorbona. Fue mientras Chim estaba estudiando en la Sorbona en París que se interesó por la fotografía. Chim comenzó a trabajar como periodista freelance en 1933. Su primera fotografía publicada "acreditada" apareció en 1934 en la revista Regards. Entre 1936 y 1938 Chim cubrió la Guerra Civil Española (junto con su colega Robert Capa) y otros eventos políticos internacionales. En febrero de 1935 Chim fue enviado a España por Regards. Veinticinco de sus historias sobre España terminaron siendo publicadas en Regards. En 1939 cubrió a los refugiados leales de la guerra española en el S.S. Sinai en viaje a México.
Chim estaba en Nueva York cuando estalló la Segunda Guerra Mundial en Europa cuando la Alemania nazi invadió Polonia, el lugar de nacimiento de Chim. En 1940 se alistó en el ejército de Estados Unidos, sirviendo en Europa como un intérprete de fotos durante la guerra. En 1942 se convirtió en ciudadano "naturalizado" de los Estados Unidos, el mismo año en que sus padres fueron asesinados por los nazis. Chim fotografió para Life, Look, París-Match y Regards. En 1948 recibió una comisión a través de UNICEF y viajó a Austria, Hungría, Italia, Polonia y Alemania para documentar la difícil situación de los niños refugiados de la Segunda Guerra Mundial. Entre 1949 y 1955 Chim viajó extensamente a través de Europa e Israel realizando trabajos para las publicaciones importantes de Europa y Estados Unidos.
En 1947, Chim co-fundó la cooperativa de fotografía Magnum Photos, junto con Robert Capa y Henri Cartier-Bresson, con quien había hecho amistad en París en los años treinta. Después de la muerte de Capa en 1954, Chim se convirtio en presidente de Magnum Photos hasta su muerte. El 10 de noviembre de 1956, Chim fue muerto mientras conducía para fotografiar un intercambio de soldados heridos en El Quantara, por fuego de ametralladora cuatro días después del armisticio de la Guerra de Suez de 1956. El trabajo de Chim permanece disponible a través de Magnum Photos y su propiedad es administrada por el sobrino Ben Shneiderman y la sobrina Helen Sarid.