В 1999 — 2003 гг. Любченко занимал должность первого заместителя главы налоговой администрации в Кировоградской области. После этого, до 2005 года, он был руководителем Налоговой в Черкасской области, а потом занял должность замглавы Кировоградской ОГА.
С 2009 по 2011 год Любченко был заместителем главы Государственной налоговой администрации. В 2015 году претендовал на пост главы Государственной фискальной службы, являясь на тот момент советником руководителя.
Напомним, 24 апреля руководитель Государственной таможенной службы Максим Нефьодов и глава Государственной налоговой службы Сергей Верланов были уволены со своих должностей.
Чтобы ускорить новые назначения, Кабмин принял постановление, что председателя и заместителя главы Государственной налоговой службы теперь можно назначить без конкурса, просто заключив с ними контракт.