Barry Lee Levinson lahir di Baltimore, Maryland, dari orang tua Violet (Krichinsky) dan Irvin Levinson yang bekerja di bidang furnitur dan perangkat elektronik. Ia berasal dari keturunan Yahudi Rusia. Setelah lulus dari SMA pada 1960, ia melanjutkan studi di American University di Washington, DC. Meski berprestasi, Levinson memutuskan pindah ke Los Angeles untuk mengejar karir di dunia hiburan.

Di LA, Levinson bekerja di Oxford Company, belajar akting, improvisasi, dan produksi, sambil bekerja di klub komedi untuk belajar menulis. Ia memulai karir menulis skenario untuk acara komedi TV lokal pada tahun 1967, dan mampu menampilkan materi yang membuatnya memenangkan Emmy lokal. Di tahun 70-an, ia menulis untuk The Carol Burnett Show dan meraih dua Emmy dalam tiga tahun.

Karier filmnya berkembang saat Mel Brooks mempekerjakannya untuk film seperti Silent Movie (1976) dan High Anxiety (1977). Pada 1975, Levinson menikahi Valerie Curtin, dan bersama-sama mereka menulis naskah untuk film seperti ...And Justice for All (1979). Setelah Curtin tampil di San Francisco, Levinson menulis film debutnya Diner (1982) yang ia sutradarai dengan anggaran kurang dari $5 juta, dan film ini mendapat sambutan positif.

Levinson dan Curtin kemudian bercerai pada 1982, dan Levinson bertemu dengan Dianna Rhodes saat syuting Diner. Ia menikah lagi dan memiliki dua anak, Sam dan Jack. Ia membuktikan kemampuannya sebagai sutradara lewat The Natural (1984), dan mencapai puncak kesuksesan melalui Rain Man (1988). Setelah itu, ia menyutradarai film lain seperti Good Morning, Vietnam dan Bugsy.

Meski sempat mengalami kegagalan dengan film Toys (1992), Levinson kembali meraih keberhasilan lewat Disclosure (1994). Pada tahun yang sama, Levinson dan keluarganya memutuskan pindah ke Marin County, Northern California, untuk menjauh dari hiruk pikuk Hollywood dan melanjutkan karirnya di dunia perfilman.