Poeta adscrito al realismo crítico, él mismo define como constante de su poesía la presencia de la cotidianeidad y lo maravilloso que hay en ella. El tono político, la denuncia y la indignación ante la injusticia son también componentes marcados en buena parte de sus versos. En sus obras busca un lenguaje trascendente, por medio de un realismo crítico y del intimismo, consiguiendo un estilo particular.

De su producción poética conviene destacar Violín y otras cuestiones, El juego en que andamos, Velorio del solo, Gotán, Sefiní, Cólera Buey, Los poemas de Sidney West, Traducciones, Fábulas, Relaciones, Hechos y relaciones, Si tan dulcemente, Citas y comentarios, Exilio, escrito en colaboración con el periodista argentino Osvaldo Bayer, Hacia el sur, Composiciones, Carta a mi madre y País que fue será.

La antología Pesar todo fue galardonada con el premio de poesía José Lezama Lima que concede la Casa de las Américas cubana. En 2005 publicó una nueva antología, Oficio ardiente, con prólogo de la poetisa María Ángeles Pérez López, que reúne poemas publicados a lo largo de casi cincuenta años y también algunos poemas inéditos.

También escribió dos óperas: La trampera general y La bicicleta de la muerte; dos cantatas: El gallo cantor y Suertes, y varios LP, con música de Juan Carlos Cedrón.

Además del ya mencionado Premio Juan Rulfo, Gelman ha recibido otros galardones, entre los que destaca el Premio Nacional de Poesía en 1997 y el Premio Reina Sofía de Poesía Iberoamericana en 2005 a toda su trayectoria "por su capacidad para testimoniar el tiempo en que vive y dar cuenta de sus tensiones". Su obra ha sido traducida a diez idiomas. En 1997, la ciudad de Buenos Aires lo honró con el título de ciudadano ilustre.

El 29 de diciembre de 2007 obtuvo el Premio Cervantes 2007, considerado el galardón más importante de las letras hispánicas, por "el compromiso con la realidad" que emana de su obra y por haber sabido integrar en su pensamiento poético "su terrible historia personal".

En 2009 se le otorgó el Premio Antílope Tibetano de la Asociación de Poetas Chinos.

El 14 de enero de 2014 muere rodeado de su familia en su domicilio de la capital mexicana, donde residía desde 1988.