Harry Grey, yang dikenal juga sebagai Herschel Goldberg, lahir di Rusia pada tahun 1901 dari pasangan Israel dan Celia Goldberg. Emigrasi ke Amerika Serikat terjadi saat ia berusia empat tahun pada tahun 1905. Ia berhenti sekolah di kelas 7 dan tumbuh di lingkungan yang dipenuhi aktivitas bisnis keluarga.

Pada tahun 1912, ayahnya, Israel, jatuh sakit dan harus menjalani operasi. Selama di rumah sakit, ibunya, Celia, mulai memasak dan menjalankan bisnis kuliner kecil untuk menolong tetangga yang ingin membawa keluarganya ke Amerika dari Eropa. Setelah ayahnya sembuh, keluarganya membuka restoran dan semua anak terbantu dalam usaha tersebut.

Pada tahun 1932, Harry menikah dengan Mildred Becker, seorang lulusan perguruan tinggi. Mereka dikaruniai tiga anak: Beverle, Harvey, dan Simeon. Setelah mengalami kecelakaan dan dirawat di rumah sakit di usia 50-an, Harry memutuskan menulis tentang kehidupan di tahun 1920-an dan 1930-an, serta kekuasaan sindikat kejahatan di New York.

Demi melindungi keluarganya, ia mengganti nama keluarganya menjadi Grey. Ia menjadi penulis buku best seller seperti Call Me Duke, Portrait of a Mobster, dan The Hoods. Karya-karyanya diterjemahkan ke berbagai bahasa dan mendapat pengakuan internasional. Portrait of a Mobster diangkat ke layar lebar dengan kisah Dutch Schultz, sementara The Hoods menjadi film epik Once Upon A Time In America yang dibintangi Robert DeNiro dan aktor terkenal lain. Harry meninggal dunia pada Oktober 1980, tak lama sebelum syuting film selesai.