Nació en Hokkaido el 14 de febrero de 1916 y de joven estudió filosofía en la universidad Waseda y trabajó en la compañía cinematográfica Shochiku, pero esto cambió bruscamente cuando cayó prisionero durante la guerra chino-japonesa. Al concluir el conflicto bélico, se hizo asistente y guionista del realizador Keisake Kinoshita antes de dirigir en 1952 "Musuko no Seishun", "The Human Condition" estableció la reputación de Kobayashi como director importante.
Obtuvo reconocimiento en festivales internacionales de cine, al igual que Seppuku (1962; Harakiri ), una película que denuncia el código de ética del guerrero tradicional y generalmente considerada su mejor película; "Kaidan" (1964; Kwaidan ), un cuarteto de fantásticas historias de fantasmas; y "Kaseki" (1974; "Fossil"), la reevaluación de la vida de un moribundo. realizo un total de 20 largometrajes realizados entre dicho año y 1985.
Acumuló veinte galardones durante su carrera, entre ellos el Premio Especial del Jurado en el Festival de Cannes de 1965 por "Kwaidan", si bien la mayoría de estas distinciones fueron otorgadas en Japón como reconocimiento a su talento y dotes expresivas. Quizás de todas, la más significativa fuera el premio a toda su carrera que le otorgara post-mortem la Academia de Cine de Japón en 1997.
Masaki Kobayashi falleció el 4 de octubre de 1996 en Tokio. La Cinemateca de Cuba honra su memoria con la presentación de sus tres obras más famosas que incluye el estreno nacional de la trilogía La condición humana.