1995
Маркус Тойвонен играл на гитаре со своими друзьями в группе Dark Reflections. Группа играла в основном каверы на известные металл группы - Megadeth , Pantera и многие другие. Позже Маркус почувствовал, что от группы, в которой он играл, он не получал должного удовольствия и вообще ему хотелось бы играть немного другую музыку. Маркус в тот момент очень был вдохновлён народной музыкой и тащился от melodic death metal групп в духе Amorphis и Dark Tranquillity. Тогда он и решил отделиться и организовать свою группу. Он спросил барабанщика Dark Reflections Киммо Миттинена, хотел бы тот играть с ним heroic-folk-death metal (так тогда Маркус видел будущий стиль своей банды). Киммо согласился. Далее к двум участникам новой группы присоединился их общий друг, басист Саули Саволяйнен. Пришло время как-то назвать вновь организованный коллектив. Однажды Маркус зашёл к Саули в гости и ему случайно попал в руки словарь латыни. Маркус небрежно открыл книгу, и при беспорядочном перелистывании ему попалась страница, на которой он заметил слово Ensiferum. Увидев значение этого слова (в переводе на русский язык это будет означать нечто вроде “вооружённый мечом” или "меченосец"), Маркус однозначно решил остановиться на нём. Так появилось название группы – Ensiferum.
1996
В январе 1996, в том же самом месте, где репетировали Dark Reflections, Ensiferum начали свои репетиции. Первыми песнями группы стали – Knighthood, Old Man и Frost, написаные Маркусом ещё в 1995-ом году. Позже в этом же году Маркус переманил в Ensiferum на роль второго гитариста и по совместительству вокалиста Яри Маенпа (в то время члена группы Immemorial). Яри пришёл в группу с большими навыками и превосходными музыкальными идеями. Таким образом, группа Ensiferum больше не была трио, а стала квартетом. Яри показал себя хорошим поэтом и написал текст к песне Old Man. Две других песни были уже “готовы”, так как Маркус написал текст к Knighthood, а Саули – к Frost. Их первый концерт состоялся в декабре 1996 в Pasila Youthcenter в Хельсинки. По иронии судьбы они сыграли лишь одну песню – Old Man, так как на тот момент она была единственной с полностью завершённым текстом.
1997
В начале года Яри был призван в армию, и всей группе пришлось взять вынужденный перерыв. Остальные участники группы использовали образовавшееся свободное время, чтобы совершенствовать свои навыки игры. За год без Яри они дали два концерта в Хельсинки в неполном составе. После возвращения Яри группа приступила к репетициям перед записью первого демо. Демо включало в себя всё те же три песни и разошлось тиражом в 300 копий в следующем году.
1998
После выпуска демо Ensiferum дали ещё два концерта. Наконец-то были дописаны новые песни, включая Little Dreamer. В это же время группе пришлось взять небольшой перерыв. Отдых не пошёл группе на пользу, так как Киммо Миттинен присоединился к группе ArthemesiA , а Саули Саволяйнен сконцентрировался на своей работе и школе. Параллельно с этим Оливер Фокин покинул группу ArthemesiA и провёл несколько коротких джем-репетиций с Маркусом в старом бомбоубежище в Хельсинки. Всё шло к тому, что место барабанов в группе займёт Оливер. Можно сказать, что Ensiferum и ArthemesiA просто поменялись барабанщиками. В то же самое время Саули потерял интерес к Ensiferum и на его место пришёл младший брат Киммо Миттинена, Юкка-Пекка Миттинен. Интересный факт - в то время когда он начал играть на басу в Ensiferum, ему было всего четырнадцать лет. Обновлённым составом, музыканты готовились к записи второго демо. Также они сменили место для репетиций. Теперь они репетировали в бомбоубежище.
1999
Второе демо было записано в январе 1999 в MD-Studios. Демо состояло из четырёх песен: The Dreamer's Prelude, Little Dreamer, Warrior's Quest и White Storm. Второе демо было качественнее первого и, хоть музыканты и не получили предложения о контракте от звукозаписывающей компании, придало уверенности группе. В ноябре 1999 они начали записывать их третье и заключительное демо. Писали опять в MD-Studios. Помогал им при записи Янне Йоутсенниеми, который накопил и свёл материал в самые кратчайшие сроки. Демо включало 5 песен: Intro, Hero In A Dream, Eternal Wait, Battle Song и бонус песню Guardians Of Fate , которая была записана у Яри дома с помощью драм-машины. В песне Eternal Wait звучит женский бэк-вокал, партии которого исполнила Йоханна Ваккури, друг группы. Демо было выпущено с новым логотипом группы, который был разработан Туомасом Таванайненом, тем же самым парнем, который разработал два более ранних лого.