Kilpin aveva una debolezza: il bere. Un aneddoto che lo riguarda narra che lui usava portare sempre con sé in campo del whisky. Non rinunciava mai ad un bicchierino che beveva, come disse lui stesso, “prima delle partite per caricarmi, durante l’intervallo per rilassarmi, quando facciamo un gol per festeggiare e quando perdiamo per dimenticare”.