Erbaut vermutlich auf einem bereits für kultische Handlungen genutztem Areal. (Bereits zur Zeit Karls des Großen gab es hier eine Art Krongut - mit mindestens 12 Hufen und 12 Mansen).
Der kalkgestampfte Boden der Krypta besitzt in regelmäßigen Abständen Quarzsteineinlagerungen. Eine Deutung geht auf die hier gemessenen Erdstrahlungsfelder zurück.
Der wohl älteste und erhaltenste Raum der Klosterkirche ist die im erhalten gebliebenen massiven Westturm liegende Krypta. Vier freistehende Säulen mit Würfelkapitellen (sämtlich aus Muschelkalk der Hainleite nahe Göllingen) und Halbsäulen an den Wänden tragen ein Kreuzgratgewölbesystem in neun gleichen Feldern, wobei die Gurtbögen - größtenteils aus Buntsandstein bestehend - hufeisenförmig ausgebildet sind. Dies verleiht dem romanischen Raum ein graziles Maßwerk, nicht gemein anderer solcher Räume der Harzromanik oder aus Thüringen bekannt.
Der Anlass dieser Bogenwölbung ist unklar. Während eine Meinung den Einfluss der Kreuzzüge und der arabischen Bauten in Südeuropa zitiert, ist andererseits die Nähe zum Königshaus,und zu Zeiten Günthers von Käfernburg und danach speziell zu den Pfalzen Wallhausen und Tilleda (Tilleda war Hochzeitsgeschenk für die Königsgemahlin Theophano aus Byzanz) nicht abwegig. Bauleute waren Baukünstler zu diesen Zeiten.
Interessant ist auch der Lichteinfall durch die nur südlich vorhandenen Fenster. Bei Führungen werden die kleinen Geheimnisse des Kryptaraumes nach eindringlicher Nachfrage zögerlich aber gern erklärt...
Auch die Größe und Breite des Westwerkes ist nicht vergleichbar mit romanischen Bauten der mitteldeutschen Region. Eher lassen sich Verwandtschaften und Einflüsse aus dem rheinischen oder französisch-italienischen registrieren...
Der Emporenbau über dem Kryptaraum eröffnet einen Platz für weltliche Herrscher: Auf der hohen, mit drei Kreuzgewölben überdachten Empore sah man von oben ins Kircheninnere, jedoch hinter der Empore öffnete sich ein eigens für den hier autorisierten Benutzer - durch eine mächtige Bogenöffnung flankiert - ein würfelförmiger Idealraum von je acht Meter Seiten- und Höhenlängen. Ein besonderer Raum für einen "ausgezeichneten" Herrscher. Wurde er für königliche Würdenträger gebaut? Ein Schutzvogt erscheint zu gering, solchen Umbaues würdig zu werden, wenngleich die Herren von Heldrungen ein Erbbegräbnis zu Göllingen besaßen. Der Eingangbogen trägt auf seinen beiden Halbsäulen Kapitelle, die mit karolingischen Spiralen geziert sind. St. Michael andeutend, den königlichen Schutzpatron? - Auch das Kloster steht auf einem Michaelsberg…
Zum Läuten der Glocken (drei waren vorhanden, wobei zwei nach 1650 gleich nach Kassel kamen, die kleinste in die thüringische Dorfkirche nebenan, seit dem II. Weltkrieg verschollen) konnte man nur über die Wendeltreppe des seitlich der Empore vorhandenen Treppenturmes gelangen, nicht über den königlichen Raum. Die Eingangstür zum Läutegeschoss lag in östlicher Flucht zum Kirchenschiff. Diese Etage wirkt auch heute noch sehr wohnlich, bedingt durch die Schießschartenfensterlichte und die Trompen, die hier den bisher viereckigen Turm in ein Achteck überführen. (Die Kaiserkrone?)
Dort, wo das Glockengeschoss war, ist heute die Aussicht auf die Göllingen umgebende Landschaft zu bewundern. Spätestens hier oben spürt man, nicht mehr in einer Kirche sondern auf einer Burg zu sein: Acht romanische Biforien richten sich ins Umland aus.
Über die Bauten späterer Nutzung und nachfolgenden Verfalls hinweg sieht man im Osten den Rest der Kirchenapsis. Unten erkennt man die auffallende Einfachheit dieser Apsismauern zum westlichen Bau der Kirche.
Funde, Spolien weisen gotische Bauelemente vor: Massive Verbindungsstücke zu gotischen Maßwerken wohl eines Fensters oder der Bogenläufe in einem Kreuzgang. Gestuckte Kapitelle aus dem Kirchenschiff sind ebenso nachweisbar wie Massivsteinsäulen und Kapitelle.
Ein besonderer Fund sind zwei Grabsteine, die aus dem 11. Jahrhundert vermutet werden:
Kreuzsteine, wie sie nicht selten Gründungsgräber markierten.
Wohl nicht der Bauernkrieg oder der 30-Jährige Krieg haben dem Kloster zusetzt und damit auch den Bau der Klosterkirche zerstört, erst die Zeiten der Säkularisation brachten den baulichen Rückbau.
Doch die vorhandenen Reste sind so einzigartig und von erhabenem Wert in der Reihe besonderer romanischer Baukunst sowohl in reiner wie in der Mischform mit maurischen bzw. byzantinischen Elementen.
Das Leben und Wirken Gunthers war selbst Heimatforschern und Historikern in Thüringen vor der Wende unbekannt. Die Überraschung über das Wirken eines adligen Thüringers als Kulturpionier und Mönch im Bayrischen Wald war groß.