Sam Sienkiewicz przyznał później, że: „temat do powieści historycznej był to ze wszystkich opracowanych przeze mnie najtrudniejszy pod każdym względem. Pisząc o czasach Nerona rozporządza się tak bogatym materiałem historycznym, że nie wiadomo, co pierwej wziąć do ręki, choć jest to epoka prawie o dwa tysiące lat od nas odległa; tymczasem do wieku XV u nas brak zupełnie źródeł podobnych; choć o piętnaście wieków bliższa nas, wiemy o niej niezmiernie mało, tak, że prawie wszystko trzeba odgadywać intuicyjnie.”
Pisząc powieść o życiu ludzi w XV wieku, autor mógł oprzeć się na „Kronice” Janka z Czarnkowa, „Historii Polski” Jana Długosza, a także dziełach historyków: Marcina Kromera czy Smółki. Wiadomo, że miał możliwość skorzystania z dzieł niemieckich i francuskich twórców. Miał dostęp do map, aktów grodzkich i miejskich, najstarszych ksiąg i rachunków miasta Krakowa. Dzięki tym wszystkim źródłom zdobył wiadomości na temat średniowiecznego życia obyczajowego, dworskiego, kościelnego i rycerskiego. W wielu sprawach musiał się opierać na intuicji.
Powieść miała być napisana na jubileusz dwudziestopięciolecia pracy pisarskiej Sienkiewicza i stanowić uhonorowanie zainteresowań pisarza średniowiecznym zakonem krzyżackim. Pisanie „Krzyżaków” trwało od 1896 roku do roku 1900. Jedna z najdoskonalszych powieści historycznych powstawała w Zakopanem, Warszawie, Kaltenleutgebenie, Ragaz, Nicei, Ploumanach i Parc St. Maur pod Paryżem.
Ukazywała się w odcinkach na łamach „Tygodnika Ilustrowanego” od 2 lutego 1897 do 20 lipca 1900 roku.