Клейн родился в Дюссельдорфе в элитарной семье: его отец был секретарем главы прусского правительства. Он собирался стать физиком и отправился учиться в Университет Бонна, но устроился подрабатывать в лаборатории Юлиуса Плюккера. Тот вроде бы должен был заниматься прикладной математикой и экспериментальной физикой, но его интересы сосредоточились на геометрии, и Клейн попал под его влияние. Диссертация Клейна, датированная 1868 г., была посвящена линейной геометрии, ее приложениям к механике.
В 1870 г.
Клейн работал вместе с Ли над теорией групп и дифференциальной геометрией. В 1871 г. он совершил открытие, что неевклидова геометрия – это геометрия проективной поверхности с определенным коническим сечением. Этот факт весьма откровенно и бескомпромиссно доказал, что неевклидова геометрия логически обоснована, точно так же как и евклидова. Этот довод практически положил конец дискуссии о статусе неевклидовой геометрии.В 1872 г. Клейн стал профессором университета в Эрлангене, и в своей «Эрлангенской программе» 1872 г. он унифицировал практически все известные в то время виды геометрии и четко описал связи между ними, рассматривая геометрию через инварианты группы преобразований. Так геометрия стала ответвлением теории групп. Клейн написал статью по этой теме для своей торжественной речи (при утверждении его профессором), но так и не смог обнародовать ее в тот день. Сочтя Эрланген недостаточно продвинутым местом, ученый в 1875 г. перебрался в Мюнхен. Он женился на Анне Гегель, внучке великого философа. Через пять лет он переехал в Лейпциг, где расцвел его талант математика.
Клейн был уверен, что лучшая его работа была по теории функций комплексного переменного, где он провел глубокое исследование инварианта функций для различных групп преобразований комплексной плоскости. Особенно подробно в этом контексте он развил теорию простой группы порядка 168. В решении проблемы униформизации комплексных функций он вступил в соперничество с Пуанкаре, но резко подорвал здоровье – возможно, из-за слишком напряженной борьбы.
В 1886 г. Клейн занял должность профессора в Университете Гёттингена и сосредоточился на административной деятельности – учреждении самой внушительной в мире математической школы. Он возглавлял ее вплоть до ухода на пенсию в 1913 г.