Karl May pochodził z ubogiej rodziny tkackiej. Do piątego roku życia był niewidomy, odzyskał wzrok dzięki operacji. Początkowo pracował jako nauczyciel, jednak ze względu na popełnione wykroczenia został zwolniony z pracy. Popadał w konflikty z prawem, na skutek których kilka razy trafił do więzienia, głównie za drobne kradzieże. Właśnie w więzieniu odkrył swój talent pisarski. Po wyjściu na wolność (1874) podjął pierwsze poważniejsze próby literackie. W roku 1875 przybył do Drezna i pracował jako redaktor. W roku 1877 został etatowym pisarzem. Na początku swojej drogi literackiej pisarz tworzył tzw. powieści brukowe, ukrywając się pod pseudonimami, np. Capitain Ramon Diaz de la Escosura. Najbardziej znaną powieścią z tego wczesnego okresu twórczości jest Leśna Różyczka.
Pracując jeszcze w redakcji, poznał Emmę Pollmer, z którą wziął ślub w 1880 r. Pisarz mieszkał najpierw w Hohenstein-Ernstthal, aż w roku 1883 r. przeprowadził się ponownie do Drezna. Przełom w jego karierze literackiej nastąpił w 1882 r. – zaczął wtedy opisywać przygody swoich bohaterów w egzotycznych krainach: na Dzikim Zachodzie i Bliskim Wschodzie. Sławę przyniosła mu szczególnie seria powieści dziejących się na Dzikim Zachodzie, których najbardziej znanymi bohaterami byli Winnetou, szlachetny wódz Apaczów i jego biały przyjaciel Old Shatterhand – alter ego pisarza. Sukces powieści polega na tym, że fikcyjne wydarzenia zostały bardzo sugestywnie osadzone w geograficznych, obyczajowych i kulturowych realiach. Z postacią Old Shatterhanda pisarz niemal całkowicie się utożsamiał – jako bohater swoich powieści pozował do zdjęć, odpowiadał na listy, na drzwiach swojego domu w Radebeul umieścił wizytówkę „Karl May zwany Old Shatterhandem”.
Karl May zyskał popularność w Europie.
Na początku XX wieku stał się ofiarą licznych procesów i dociekań prasowych. Odkrycie kryminalnych czynów w młodości było powodem ataków krytyków literackich. Karl May musiał walczyć przed sądami o swoje dobre imię, prawa autorskie i uznanie jego twórczości. Dużym wstrząsem był dla niego również rozwód w 1903 r. z pierwszą żoną – Emmą. May nie pozostał jednak długo samotny – jeszcze w tym samym roku poślubił Klarę Plöhn. Przeżyte zdarzenia i osobiste kłopoty odbiły się na jego zdrowiu. 30 marca 1912 roku pisarz umarł nagle w swojej willi w Radebeul.
Większą część majątku pozostawił fundacji pod jego imieniem, która w 1928 r. otworzyła muzeum w Radebeul. W początkowej fazie pieczę nad fundacją sprawowała druga żona Maya – Klara.
May po raz pierwszy odwiedził USA dopiero w 1908 roku, już po napisaniu swoich dzieł, których fabuła rozgrywała się na Dzikim Zachodzie. Nieznajomość realiów miejsc akcji kompensował dobrym przygotowaniem teoretycznym, fantazją i kreatywnością. Karl i Klara Mayowie odbyli swoją podróż do USA na pokładzie sławnego, czterokominowego liniowca NDL-u – „Kronprinzessin Cecilie”.
Wszystkie jego utwory objęte były w 1951 roku zapisem cenzury w Polsce, podlegały natychmiastowemu wycofaniu z bibliotek.
Chociaż utwory Karla Maya były wielokrotnie krytykowane jako mało ambitna literatura, to kolejne pokolenia czytelników wciąż się nimi fascynują, głównie ze względu na wartką akcję, egzotykę i humor. Również humanitarne tendencje (dużą rolę odgrywa chrześcijański duch powieści) i poparcie uciskanych narodów (przede wszystkim Indian) stanowią o uniwersalności jego twórczości.
Książki Maya były tłumaczone na co najmniej 33 języki i wydane w łącznej liczbie ponad 200 mln egzemplarzy. Same niemieckie wydania osiągnęły nakład 80 milionów. Karl May należy dzięki temu do grona najpopularniejszych i najlepiej sprzedających się pisarzy niemieckich do czasów obecnych.