Ο Ρούντολφ Γκέργκελι ξεκίνησε τα πρώτα του ποδοσφαιρικά βήματα στην Νιρεγκιάζα. Δεύτερος σταθμός της καριέρας του ήταν η γαλλική Νανσί.Το 2005 αγωνίστηκε στη πρώτη ομάδα και στο Σαμπιονάτ, έχοντας πέντε συμμετοχές ενώ δεν κατάφερε να σημειωσει κάποιο γκόλ. Το 2007 επέστρεψε στη πατρίδα του για την Ντεμπρετσένι, όπου σε 3 σεζόν που αγωνίστηκε σε 52 ματς σημείωσε 25 γκολ. Το 2010 πήρε μεταγραφή στη Τζένοα και εκεί πέτυχε ένα τέρμα σε 12 παιχνίδια. Την μεταγραφική περιόδο του Ιανουαρίου δόθηκε δανεικός στη Μπάρι και σημείωσε άλλα δύο γκολ σε 13 ματς.