Ο "Κάρα" ευτύχησε να πάρει τους πρώτους (!) συλλογικούς τίτλους της καριέρας του τη σεζόν 2009-2010, αφού από το 1998 που παίζει με το "τριφύλλι" στο στήθος εξωγενείς παράγοντες δεν επέτρεπαν στη "τυπάρα" να πανηγυρίσει. Aπό νεαρή ηλικία εντάχθηκε στις ακαδημίες του ΠΑΟ. Δόθηκε δανεικός στον Απόλλωνα και μετά από την άμεση εξέλιξή του επέστρεψε στoν Παναθηναϊκό για να αγωνιστεί βασικός και να συμμετέχει σε μεγάλες επιτυχίες, όπως η πρόκριση στους "16" του Τσάμπιονς Λιγκ το 2001, στους "8" μετά από 2 προκριματκούς ομίλους το 2002 και η πορεία στους "8" του ΟΥΕΦΑ το 2003. "Ο Καραγκούνης είναι η καρδιά του ΠΑΟ" έλεγε ο αείμνηστος Γιάννης Κυράστας, ο προπονητής που τον πίστεψε μέχρι παρεξηγήσεως, αφήνοντας στο πάγκο για χάρη του παίκτες της κλάσης ενός Καρλς Χάιντς Φλίπσεν ή Αλιόσα Ασάνοβιτς, τη σεζόν 1999-2000. Από τους πιο πολύτιμους παίκτες της εθνικής ομάδας στο έπος της Πορτογαλίας το 2004, ευτύχησε να φορέσει τις φανέλες κολοσσών  (Ίντερ, Μπενφίκα), πριν αποφασίσει να επιστρέψει στο σπίτι του, τη σεζόν 2007-2008. Ο ίδιος και μια γενιά πολύ μεγάλων παικτών ατύχησαν να πέσουν σε εποχές που η... παράγκα, οργίαζε, με αποτέλεσμα πλην του ευρωπαϊκού της Πορτογαλίας να μην έχει καταφέρει να πάρει εγχώριους τίτλους. Η αδικία όμως, έστω και αργά, αποκαταστάθηκε.