Lee J. Cobb lahir dengan nama Leo Jacoby di Lower East Side, New York, pada 8 Desember 1911. Putra dari seorang editor surat kabar Yahudi, masa kecilnya penuh bakat musik, menguasai biola dan harmonika. Glorifikasi sebagai pemain harmonika sempat membawanya ke dunia profesional, namun cita-citanya jadi virtuoso biola kandas karena cedera pergelangan tangan. Pada usia 16 atau 17 tahun, Cobb kabur ke Hollywood untuk memulai karir akting di film.

Awalnya, ia mengklaim debut film sebagai bagian dari Borrah Minevitch dan Harmonica Rascals, bahkan tampil di film 1929 'Boyhood Days', namun klaim ini tak dapat dibuktikan. Setelah gagal mendapat pekerjaan di Hollywood, ia kembali ke New York dan belajar akuntansi di NYU sambil berakting di radio. Pada 1931, Cobb debut sebagai aktor panggung di Pasadena Playhouse, lalu kembali ke Broadway dan memulai karir teater profesional yang cemerlang.

Di Broadway, Cobb memulai sebagai saloonkeeper dalam adaptasi 'Crime and Punishment'. Bergabung dengan Group Theater tahun 1935, ia dikenal lewat drama Clifford Odets seperti Waiting for Lefty dan Til the Day I Die. Ia juga tampil dalam produksi 'Golden Boy' tahun 1937 bersama Elia Kazan dan John Garfield. Cobb memainkan ayah tokoh utama di film Golden Boy tahun 1939, menunjukkan kemampuannya memerankan sosok patriark.

Kesuksesan terbesar Cobb datang lewat perannya sebagai Willy Loman di Broadway dalam Death of a Salesman tahun 1949, karya Arthur Miller. Penampilannya dianggap sebagai salah satu yang terbaik dalam sejarah teater Amerika, mengukuhkan statusnya sebagai aktor ikonik. Ia kemudian tampil di berbagai produksi Broadway dan film, termasuk peran sebagai King Lear tahun 1968.

Karir film Cobb dimulai tahun 1937 dengan film western, dan setelah hiatus saat bergabung di Angkatan Udara selama Perang Dunia II, ia kembali aktif di layar hingga akhir hayat. Pada puncak karier 1950-an, ia dinominasikan dua kali untuk Oscar sebagai Aktor Pendukung Terbaik, dalam On the Waterfront (1954) dan The Brothers Karamazov (1958). Ia dikenal sebagai aktor pendukung yang piawai di berbagai film terkenal.

Di masa 1950-an, Cobb terlibat dalam kontroversi karena disangka berhubungan komunisme dan dipanggil ke HUAC, di mana ia memberi kesaksian yang menyelamatkan karirnya. Ia menamai nama-nama rekan dan mengakhiri tekanan tersebut. Cobb juga tampil dalam film terkenal lainnya seperti Exodus, How the West Was Won, serta film detektif pertama Clint Eastwood, Coogan's Bluff. Ia juga aktif di televisi, membintangi The Virginian, The Young Lawyers, dan muncul terakhir di film horor The Exorcist tahun 1973.

Lee J. Cobb meninggal akibat serangan jantung di California pada 11 Februari 1976, dalam usia 64 tahun. Ia dimakamkan di Mount Sinai Memorial Park, Los Angeles. Warisannya dalam teater melalui perannya sebagai Willy Loman tetap abadi dan berpengaruh besar dalam dunia seni drama Amerika.