وقَّع جو مع نادي شريوسبيري تاون على يد ستيوارت بيرس في مايو/أيار 2006. وقد بدأ حياته الرياضية في فريق "شروز" في موسم 2003/2004، حيث لعب مباريات قليلة قبل أن يصبح الحارس الأول في موسم2005/2006.

كان جو حارس منتخب إنجلترا للشباب تحت سن 19 عندما انضم إلى نادي مانشستر سيتي. وظهر لأول مرة مع الفريق في 14 أكتوبر/تشرين في المباراة ضد فريق شيفيلد يونايتد ونجح في الحفاظ على نظافة شباكه في المباراة التي انتهت بالتعادل السلبي.

وقد أعير جو إلى فريق ترانمير في بداية يناير/كانون الثاني 2007 واختير في ذلك ضمن فريق إنجلترا للشباب تحت 21 سنة. وشارك في الشوط الثاني أمام أسبانيا في المباراة التي انتهت بالتعادل الإيجابي بهدفين.

واكتسب الحارس مزيداً من الخبرة خلال إعارته إلى فريق بلاكبول، وعندما عاد إلى مانشستر سيتي استطاع كسب المنافسة مع الحارس السويدي الأول أندرياس إساكسون وكاسبر شمايكل حيث أصبح الخيار الأول للمدرب سفين جوران إريكسون.

لعب جو هارت مباراته الدولية الوحيدة مع منتخب إنجلترا في يونيو/حزيران 2008 أمام ترينيداد وتوباجو ولكن الحارس الذي أنهى الموسم الأخير كحارس أساسي استُبدِل بالحارس شاي جيفن في يناير/كانون الثاني. وبعد أن شارك في أكثر من 50 مباراة مع الفريق الأول، لعب هارت مع منتخب إنجلترا تحت 21 عاماً في البطولة الأوروبية التي أقيمت بالسويد خلال صيف 2009. ولقد تمت إعارة جو لمدة موسم إلى فريق برمنغهام سيتي حيث حقق نجاح باهر، وكان اسمه في أفضل فريق (PFA) فضلاً عن إختياره في تشكيلة منتخب انجلترا من قبل الايطالي فابيو كابيلو لنهائيات كأس العالم.