Chào đời tại quận Brooklyn (TP New York, Mỹ) vào năm 1929, Joseph Gallo (tên thường gọi là Joe) là con của một người bán rượu lậu trong thời kỳ chính phủ Mỹ cấm kinh doanh rượu.
Nhận thấy Joe tiếp xúc với mầm mống tội ác từ nhỏ, song người cha chẳng làm gì để ngăn cản con trai lún sâu vào thế giới ngầm, Los Angeles Times cho biết.
Năm 1949, sau khi xem bộ phim hình sự Kiss of Death, Joe bắt chước những hành động của nhân vật mafia trong phim và học thuộc lời thoại của nhân vật này. Mọi người cũng thường gọi thanh niên bất hảo là "Joe lông vàng" do lông vàng phủ kín ngực của gã.
Khi cảnh sát bắt Joe vào năm 1950, họ chẩn đoán người đàn ông này mắc chứng tâm thần phân liệt. Các thám tử ở New York gọi Joe là "phần từ trẻ tuổi nhưng có thần kinh thép". Anh trai và em trai của gã cũng gia nhập thế giới tội phạm.
Công việc chính của Joe là giết người theo lệnh của gia đình tội phạm Profaci ở New York. Giới giang hồ đồn đại rằng sát thủ này chưa bao giờ do dự khi giết người.
Nhiều phần tử mafia gọi Joe là "tên điên" do gã có thói quen đọc những câu thoại trong các phim về xã hội đen và thích bắt chước những ông trùm trong tác phẩm điện ảnh.
Uy danh của "tên điên" tăng vọt vào năm 1957, khi cảnh sát nghi ngờ (nhưng không có bằng chứng) Joe thực hiện vụ ám sát Albert Anastasia, một trùm mafia đầy quyền lực ở Mỹ.
Trên thực tế, trước khi Albert chết, thủ lĩnh của gia tộc Profaci đã yêu cầu Joe giết hắn. Nhưng Albert là kẻ đứng đầu một tổ chức tội phạm từng gây nên hơn 200 vụ án mạng nên hắn không phải là người dễ bị ám sát.
Nhưng cuối cùng Albert vẫn chết. Ngày 25/10/1957, ông trùm bước vào hiệu cắt tóc trong khách sạn Park Sheraton ở New York để cạo râu.
Trong lúc ông ta ngồi đợi, 2 sát thủ xông vào hiệu cắt tóc và nã đạn vào cơ thể trùm mafia. Albert tử vong tại chỗ, còn 2 hung thủ chạy ra ngoài và cảnh sát không bao giờ bắt được chúng.
Sau đó Joe tập hợp một nhóm đàn em để lật đổ Joseph Profaci, kẻ đứng đầu gia tộc tội phạm Profaci. Kế hoạch thất bại và nhiều bạn, người thân của gã lần lượt chết vì sát thủ của Profaci.
Thuộc hạ của Profaci cũng nhử được Larry, anh trai của Joe, tới một hộp đêm để siết cổ. May mắn thay, một cảnh sát vô tình xuất hiện đúng lúc nên Larry thoát chết.
Tình hình trở nên tồi tệ hơn đối với Joe khi cảnh sát bắt gã vì tội tống tiền vào năm 1961. Trong phiên xử, thẩm phán tuyên mức án 10 năm tù đối với gã.
Khi chấp hành án phạt trong trại giam, Joe tìm cách sát hại nhiều phạm nhân bằng cách mời họ tới buồng giam để ăn những thực phẩm bị tẩm chất độc strychnine. Rất nhiều phạm nhân đổ bệnh vì chất độc, song không ai tử vong. Joe được ân xá sau khi sống trong tù 8 năm.
Vừa ra tù, Joe quyết định lật đổ Joe Colombo, kẻ đứng đầu gia tộc tội phạm Colombo. Năm 1971, một sát thủ người Mỹ gốc Phi bắn vào đầu Joe Colombo 3 phát theo lệnh của "tên điên".
Đám cận vệ của Joe Colombo bắn trả và giết sát thủ. Ông trùm không chết, song rơi vào trạng thái hôn mê tới khi chết. Ngay sau đó thuộc hạ của Joe Colombo quyết định giết "Joe lông vàng".
Hôm 7/4/1972, Joe tổ chức sinh nhật lần thứ 43 cùng gia đình tại một nhà hàng hải sản của quận Manhattan, thành phố New York. Một nhóm sát thủ của gia tộc Colombo tiến vào nhà hàng và nã đạn. "Tên điên" rút súng lục và nấp sau một bàn để chống cự.
Sau khi bắn khoảng 20 viên đạn, nhóm sát thủ rút khỏi nhà hàng, để lại Joe với những vết thương ở bụng, lưng và tay. Gã chạy ra đường và ngã gục. Xe cảnh sát tới và đưa người đàn ông 43 tuổi tới bệnh viện, nơi gã trút hơi thở cuối cùng.