Die zweite, innere Rahmenhandlung der Novelle gibt die Erzählung wieder, die der Ich-Erzähler des äußeren Rahmens in der damaligen Zeitschrift gelesen hat.
Sie spielt »im dritten Jahrzehnt unseres Jahrhunderts« (9), also zwischen 1820 und 1830.

Dort berichtet ein unbekannter Reisender, der in einer stürmischen Nacht auf einem nordfriesischen Deich entlang reitet, von seiner Begegnung mit einer unheimlichen Reitergestalt. Dieser zweite Ich-Erzähler war zu Besuch bei einem Verwandten und blieb dort wegen des bereits drei Tage andauernden Unwetters länger als geplant, nun muss er aber zu dringenden Geschäften in der Stadt und ist deshalb trotz des Sturms aufgebrochen. Schon bereut er es, bei diesem Unwetter losgeritten zu sein und will umkehren, doch nun ist der Rückweg bereits länger als der Weg zum Reiseziel.

Inmitten des nächtlichen Unwetters begegnet ihm auf dem Deich eine dunkle Gestalt mit brennenden Augen und flatterndem Mantel, die auf einem hageren Schimmel an ihm vorbeifliegt und den Deich hin und her reitet (vgl. 11). Der Ich-Erzähler weiß selbst nicht, ob er seinen Augen trauen kann, er sieht den unheimlichen Reiter mal hier, mal da, hört aber keinen Hufschlag und kein Keuchen des Pferdes.

Schließlich rettet der Reisende sich vor dem Sturm in ein Wirtshaus, wo er den dort versammelten Gevollmächtigten und dem Deichgraf von seiner rätselhaften Begegnung berichtet. Die Anwesenden bezeichnen den unbekannten Reiter sofort als den »Schimmelreiter« und erschrecken über die Begegnung des Reisenden.

Auf die Nachfrage des Reisenden, was es mit diesem Schimmelreiter auf sich habe, beginnt ein alter Mann, der pensionierte Schulmeister des Dorfes, die Geschichte vom Deichgraf Hauke Haien zu erzählen, der nach seinem frühen Tod in Sturmnächten als Schimmelreiter auf dem Deich umgeht. Dabei gibt der Schulmeister selbst zu, dass diese Geschichte mit viel Aberglauben verbunden ist. Er will sich bemühen, sie ohne diese Legenden zu erzählen.

Mit der Zeitangabe »es war im dritten Jahrzehnt unseres Jahrhunderts« (9) übernimmt der zweite Ich-Erzähler, ein namenlos bleibender Reisender, der die innere Rahmenhandlung eröffnet. Der Ich-Erzähler des äußeren Rahmen schaltet sich mit der Überleitung »so begann der damalige Erzähler« (ebd.) noch einmal ein, danach tritt er nicht mehr in der Novelle auf.

Der zweite Ich-Erzähler, der in der Sturmnacht über den Deich reitet, scheint nicht aus der Gegend zu sein, da er trotz dem dringenden Rat seines Vetters bei Unwetter losgeritten ist, das Wetter an der Küste also nicht gut einschätzen kann. Bei seinem späteren Eintreten in das Gasthaus wird er auf Plattdeutsch begrüßt und erfährt erst später, dass dies in der Gegend neben dem Friesischen schon seit über 100 Jahren gesprochen wird. Diese sprachliche Besonderheit baut Storm wie auch die vielen regionaltypischen Fachausdrücke zum Deichwesen zur Schaffung einer authentischen Atmosphäre in die Novelle ein und entspricht damit auch dem Anspruch des Realismus, die verhandelten Konflikte »in einen möglichst konkreten gesellschaftlichen und historischen Kontext« (Murrenhoff in Paulsen, S. 114) einzubetten und »auf diese Weise [...] die Handlung meist lokal und zeitlich eindeutig zu verorten« (ebd.).

Die Begegnung mit dem unheimlichen Reiter, der auf einem »hochbeinigen, hageren Schimmel« (11) vorbeizieht, trägt alle Kennzeichen einer Geistererscheinung; eingehüllt in einen dunklen Mantel, der ihm um die Schultern flattert, »zwei brennende Augen aus einem bleichen Antlitz« (ebd.), sehen ihn an. Trotz der räumlichen Nähe sind keine Atemgeräusche oder ein Hufschlag des Schimmels zu vernehmen, was die Irrealität der Begegnung noch unterstreicht und den Reisenden an seinen Sinnen zweifeln lässt. So spricht er wiederholt im Konjunktiv »mir war, als streifte mich« und »dann war`s, als säh ich» (ebd.). Obwohl seine unvoreingenommene Haltung, da er als Fremder die Legenden der Gegend nicht kennt, die Vorkommnisse eigentlich beglaubigen, bleibt sein Bericht doch im »Modus des Uneindeutigen« (Ehlers, S. 65). Auch der zweite Ich-Erzähler der Novelle erweist sich also als unzuverlässig, die Realität seines Erlebens bleibt in der Schwebe.

Mit der Begegnung mit dem Schimmelreiter auf dem Deich tritt das erste Mal das Unheimliche und Unerklärliche in der Novelle auf. Die Frage, was wirklich und was irreal ist, bestimmt die Novelle und kann nicht eindeutig aufgelöst werden. Dies setzt sich dann in der vom Schulmeister erzählten Binnenhandlung fort und verbindet beide Teile der Novelle. Während die äußere Rahmenhandlung vor allem zu Beginn und bis zur zweiten Erzählunterbrechung, als erneut ein schattenhafter Reiter am Fenster vorbeizufliegen scheint, vom Unheimlichen bestimmt wird und es dann abnimmt, ist es in der Binnenerzählung umgekehrt, hier nehmen die irrationalen Ereignisse ab der Hälfte der Erzählung zu und verdichten sich.

Auch die eng miteinander verwobenen Motive Deich und Meer sind bereits zu Beginn der inneren Rahmenhandlung bestimmend. Bereits hier tritt das Meer als ungezähmte bedrohliche Urkraft auf, es erinnert an ein Raubtier, mit »Wellen, die unaufhörlich wie mit Wutgebrüll an den Deich hinaufschlugen« (9). Diese Metaphorisierung des Meeres wiederholt sich noch an anderen Stellen der Binnenhandlung, am deutlichsten in der finalen Nacht der Sturmflut. Der Deich markiert dementsprechend die Grenze zwischen dem zivilisatorischen Raum der Dorfgemeinschaft und dem bedrohlichen Element des Meeres, das Tod und Verderben bringt. Die grundlegende »Zuordnung von Tod zum Meer, von Unheimlichem zum Wattenmeer und die Bestimmung des Deiches als Grenze zwischen Leben und Tod, Kultur und Wildnis« (Ehlers, S. 81) erfolgt schon hier.

Die Erwähnung seiner Begegnung mit dem unheimlichen Reiter auf dem Deich löst bei den im Gasthaus versammelten Gevollmächtigten und dem Deichgraf sogleich Erschrecken aus und dem Reisenden wird klar, dass seine Begegnung doch keine Sinnestäuschung war und es damit etwas Besonderes, ja Bedrohliches auf sich hat.

Als der Deichgraf dem Schulmeister den Auftrag erteilt, dem Reisenden die Geschichte vom Schimmelreiter zu erzählen, schränkt er gleich ein, dass dieser sie zwar von den Anwesenden am besten erzählen könne, »›freilich nur in seiner Weise und nicht so richtig, wie zu Hause meine alte Wirtschafterin Antje Vollmers es beschaffen würde‹« (13). Hier wird zum einen durch die im mündlich tradierten Erzählen bestehende Abhängigkeit und Auslegung des Erzählten durch den Erzähler hingewiesen. So bleibt der Wahrheitsgehalt des Erzählten in der Schwebe; auch der Schulmeister kann in der folgenden Geschichte nur ein unzuverlässiger Erzähler sein.

Vor allem aber wird durch die Gegenüberstellung des sich als aufgeklärt-rationaler Erzähler erweisenden Schulmeisters mit der abergläubischen Wirtschafterin Antje Vollmers auf den die Novelle bestimmenden Konflikt zwischen Rationalität und Aberglaube hingewiesen. »Bereits im inneren Erzählrahmen wird somit ein Gegensatz zwischen einer Weltsicht, die dem Unwirklichen und Phantastischen Raum gibt, und einer aufgeklärten Weltsicht, die das Abergläubische und Spukhafte negiert, deutlich« (Ehlers, S. 69). Dieser Konflikt spiegelt sich auch in der Binnenhandlung und spitzt sich dort zu.
So weist der Schulmeister auch auf die Schwierigkeit hin, die Geschichte ohne den Aberglauben und das Irrationale zu erzählen, was trotz seines aufgeklärten Standpunktes dann auch nicht gelingen wird.