Федор Щербина родился 13 февраля 1849 года в станице Новодеревянковская, Краснодарский край. Воспитывался в казачьей семье. После школы окончил Черноморское духовное училище в городе Краснодар и Кавказскую духовную семинарию в городе Ставрополь. В 1872 году получил войсковую стипендию для обучения в Петровской сельскохозяйственной академии, где учился два года. Через год поступил в Новороссийский университет.

За участие в группе «Башенцы» подвергся аресту, однако вскоре выпущен под залог и отправлен в ссылку в Кировскую область, а затем в Вологодскую до 1877 года. Именно в ссылке Щербина начал изучать общинный быт России, стал регулярно печататься в «Отечественных записках», «Русских ведомостях» и других изданиях по проблемам земельной общины, артельного движения, казачьей хозяйственной жизни.

В 1884 году Щербина был принят в качестве статистика на службу в Воронежское земство. До 1903 года возглавлял организованное им Воронежское статистическое бюро. Через два года руководил экспедицией по исследованию областей Степного края, организованной Министерством земледелия и государственных имуществ. Первым в России произвел широкомасштабные бюджетные исследования крестьянских хозяйств Воронежской губернии.

С марта 1902 года Федор Андреевич являлся одним из активных участников либеральной оппозиции, что стало причиной административной ссылки, которую отбывал в своем имении в Черноморской губернии с января 1903 по октябрь 1904 года. В этом же году избран членом-корреспондентом Петербургской Академии наук.

С февраля по июнь 1907 года Федор Щербина являлся депутатом II Государственной думы Российской империи от Кубанского казачьего войска, где возглавил казачью фракцию и примкнул к партии народных социалистов.

С 1918 по 1919 год работал председателем Верховного суда Кубанской Республики. Помимо этого являлся членом финансово-бюджетной комиссии при Законодательной Раде, членом Кубанской краевой Рады, членом Кубанского войскового правительства, членом Верховного круга Дона, Кубани и Терека, профессором статистики Северо-Кавказского политехнического и Кубанского политехнического институтов.

В составе вооруженного отряда Кубанского краевого правительства под командованием полковника Виктора Покровского 28 февраля 1918 года Щербина выступил из Краснодара в поход, получивший впоследствии имя «Ледяного». Участия в боевых действиях не принимал. В походе Федор Андреевич возобновил свою литературную деятельность и писал поэму на украинском языке «Черноморцы» о переселении украинских казаков на Кубань и освоении ими этого края. Его участие в походе отметили вручением знака первопоходника.

В 1920 году Щербина оказался в эмиграции, в составе кубанской делегации в Королевстве Сербов, Хорватов и Словенцев. С 1921 года жил в чешском городе Прага, где с 1922 года на протяжении четырнадцати лет работал профессором Украинского свободного университета. С 1924 по 1925 год занимал должность ректора ВУЗа, одновременно являясь профессором статистики Украинской хозяйственной академии в городе Подебрады.

Писатель принимал участие в деятельности научного общества имени Тараса. Щербина писал на украинском литературном языке, являлся автором поэм «Черноморцы» и «Богдан Хмельницкий». Во время написания основного научного труда «История Кубанского казачьего войска» ему помогал Симон Васильевич Петлюра.

Федор Андреевич Щербина скончался в городе Прага 28 октября 1936 года. Похоронен в Праге на Ольшанском кладбище. В 2008 году при поддержке российских дипломатов и Чешской Православной церкви его прах перевезен из Праги в Краснодар и 17 сентября 2008 года торжественно перезахоронен в Свято-Троицком соборе.