Billy Crystal lahir pada 14 Maret 1948 di Manhattan, New York, dan dibesarkan di Long Island. Ia anak bungsu dari tiga bersaudara, dari pasangan Helen Gabler dan Jack Crystal, seorang promotor konser terkenal yang juga co-founder Commodore Records. Keluarganya adalah keturunan Yahudi dari Rusia, Austria, dan Lituania.

Sejak kecil, Billy sudah akrab dengan dunia musik dan hiburan, sering bergaul dengan legenda seperti Billie Holiday dan Eddie Condon. Pada umur 15 tahun, ayahnya meninggal karena serangan jantung, memberikan Billy wawasan tentang pencapaian ayah dan perjuangan ibunya dalam menjaga keluarga. Meski menghadapi tragedi ini, Billy tetap ceria dan memiliki bakat humor sejak kecil.

Terinspirasi dari acara TV seperti The Honeymooners dan The Ed Sullivan Show, Billy mulai melakukan stand-up comedy saat berusia 16 tahun. Ia juga bercita-cita menjadi pemain baseball profesional dan mendapatkan beasiswa dari Marshall University, tetapi tidak pernah bermain karena program dihentikan. Setelah itu, ia berkuliah di Nassau Community College jurusan teater dan kemudian di NYU, belajar Film dan TV arahannya di bawah bimbingan Martin Scorsese. Ia menikahi Janice Goldfinger pada 1970 dan memiliki dua putri, Jennifer dan Lindsay.

Setelah lulus dengan gelar Bachelor of Fine Arts, Billy sempat menjadi guru pengganti sebelum meniti karier sebagai pelawak dan aktor. Ia membentuk grup improv 3's Company, tampil bersama musisi seperti Barry Manilow, dan membuat impression Howard Cosell yang terkenal. Pada 1976, ia pindah ke Hollywood dan mendapat peran penting sebagai Jodie Dallas di sitcom Soap, menandai debut besar dan membantu kariernya melesat.

Kariernya semakin berkembang melalui penampilan di Saturday Night Live, film seperti When Harry Met Sally... dan City Slickers. Ia juga aktif dalam acara amal Comic Relief. Pada 1990, ia menjadi host Oscar sebanyak delapan kali, dan debut menyutradarai film Mr. Saturday Night. Selain berakting dan menyutradarai, Billy juga terlibat dalam penulisan dan produksi berbagai film, menegaskan kapasitasnya di dunia hiburan.

Karier filmnya meliputi keberhasilan dan kegagalan, seperti Analyze This yang mendapat pujian kritis dan Fathers' Day yang flop. Ia juga memproduksi film 61* yang mengangkat kisah baseball favoritnya, serta meraih 12 nominasi Emmy sebagai produser dan sutradara. Di luar layar, Billy tetap menikah dengan Janice, dan tinggal di California serta New York. Putrinya, Jennifer dan Lindsay, berkecimpung dalam dunia film dan dokumenter.