Cậu trở thành linh mục ở tuổi 22. Một năm sau, năm 1905, ngài được bổ nhiệm trở thành thư ký giám mục giáo phận của ngài.
Năm 1921, Đức Thánh Cha Bênêđictô XV bổ nhiệm ngài trở thành Chủ tịch Hội Truyền Giáo Ý. Ngài cũng là đại diện Tòa Thánh tại Bulgaria và là sứ thần Tòa Thánh ở Istanbul, Athens và Paris.
Năm 1953, Đức Piô XII vinh thăng Hồng Y cho ngài và bổ nhiệm ngài trở thành Thượng Phụ thành Venice. Ngài phục vụ ở đó cho đến năm 1958, khi ngài được bầu chọn trở thành Giáo hoàng ở tuổi 77.
Trong 5 năm triều đại giáo hoàng của mình, ngài đã vinh thăng Hồng Y tiên khởi cho các quốc gia như Tanzania, Venezuela và Mexico.
Ngài là vị giáo hoàng đầu tiên tiếp kiến một giáo trưởng Anh giáo. Ngài cũng ra vạ tuyệt thông cho Fidel Castro vào thập niên 1960.
Ngài viết tám thông điệp và vào ngày 11 tháng Mười năm 1962, ngài khai mạc Công Đồng Vatican II.
Đức Gioan XXIII mời gọi: "Các con thân mến, cha nghe các con lên tiếng! Đại diện cho cả thế giới đều quy tụ nơi đây. Người ta có thể nói rằng ngay cả mặt trăng cũng tỏa sáng đêm nay, khi nhìn vào cuộc trình diễn này".
Ngài chủ trì Công đồng Vatican II chỉ trong tám tháng, mà ngài gọi là một cuộc 'cập nhật hóa Giáo Hội'. Vào ngày 03 tháng Sáu năm 1963, ngài qua đời vì căn bệnh ung thư dạ dày.
Người kế vị ngài, Đức Phaolô VI, bắt đầu tiến trình phong chân phước cho ngài sau khi Công Đồng Vatican II kết thúc. Đức Gioan Phaolô II phong chân phước cho ngài vào năm 2000, 37 năm sau khi ngài qua đời.
Vào thời điểm đó, Đức Hồng YY Jose Saraiva Martins là Tổng trưởng Thánh Bộ Phong Thánh.
Đức Hồng Y Jose Saraiva Martins, Tổng trưởng Danh Dự Thánh Bộ Phong Thánh cho hay vào ngày 15 tháng Bảy, 2008: "Tôi khâm phục Đức Gioan XXIII vì trong cuộc sống và đời sống tâm linh của ngài, tôi tìm thấy một vị mục tử thực sự, một người cởi mở và có tình cảm sâu sắc. Trong một thời gian dài, ngài khiến người ta gọi ngài là ‘Đức Giáo Hoàng nhân hậu’. Một nhân vật thực sự phi thường: ngài đã triệu tập Công đồng Vatican II, điều mà Đức Piô XII đã muốn thực hiện trước ngài".
Lễ kính ngài được chọn vào ngày 11 tháng Mười, cùng ngày Công Đồng Vatican II khai mạc. Cho đến ngày nay, nó được công nhận là công việc quan trọng nhất của cuộc đời ngài.