Гурджаанская Квелацминда (Всех святых) — единственная двухкупольная церковь во всей Грузии.
Церковь расположена в глубоком ущелье, среди зелени. Она стоит совершенно одиноко в чаще леса, на склоне горы.
Несмотря на то, что план церкви базиликальный, ее венчают два купола. Три продольных нефа церкви перекрыты коробовыми сводами, в среднем нефе в двух квадратах из трех своды повышены и заканчиваются небольшими восьмигранными барабанами с пирамидальными кровлями. Купола в интерьере не так заметны из-за необычайной высоты среднего нефа. Они мало заметны и при взгляде на храм с востока и запада из-за незначительной высоты барабанов. Более ясно купола просматриваются с севера и юга.
Средний неф на востоке заканчивается широкой, подковообразной апсидой, с боковыми нефами он соединяется арками. Боковые нефы двухэтажные. С востока в первом этаже расположены дьяконник и жертвенник, имеющие четырехугольную конфигурацию и соединенные дверьми с алтарем. Восточные помещения второго этажа боковых нефов заканчивают подковообразные апсиды. Заметим попутно, что подковообразная форма вообще характерна для грузинской архитектуры раннего средневековья. Арки в интерьере храма в основном имеют подковообразную форму, но встречаются и слегка стрельчатые.
Снаружи храм, как и другие кахетинские памятники, обладает строгими формами и сдержанным декором. Наиболее нарядно решены фасады со стороны главных подходов к храму, восточный и южный.
Центральная часть восточного фасада обработана двумя высокими арками. Боковые части украшены двухъярусными подковообразными арками. На восточном фасаде помещены три небольших креста: один — высоко под фронтоном и по одному — над окнами боковых окон нижнего яруса.
Основная тема южного фасада — пять арок в верхней части стены. Когда-то арки были более широкими, а теперь они сужены и в них пробиты небольшие окна. Декор дополняет высокая и широкая бровка над дверью.
Наружную композицию завершают невысокие купола, восьмигранники которых заканчивают пирамидальные кровли. Окна в барабане прорезаны только с южной стороны.
Западная часть храма двухэтажная. Внизу довольно широкий притвор, вход в который с юга. С террасы притвора можно попасть на второй этаж церкви.
Стены церкви сложены из больших булыжников, а углы — из тесаных квадров пористого болотного туфа, так называемого ширим.
Документально время строительства храма неизвестно, но стилистические особенности позволяют его датировать VIII— IX вв.
Около храма течет небольшая речка и бьет родник.