Küçükaltıağaç köyü ile Büyükaltıağaç köyünün kuruluşu tarihte aynı zamana tesadüf ettiğinden anılan bir rivayete göre köylerin kurulduğu yerde altıağaçlık bir mer'a bulunduğu ve her iki köyünde ismini buradan aldığı söylenmektedir.

 Küçükaltıağaç köyünün kuruluş tarihi kesin olarak bilinmemektedir, Kuruluş Osmanlı İmparatorluğu dönemine dayanmaktadır ancak 1935 yılında yapılan nüfus mübadelesinde Romanya'nın Köstence bölgesinden 12 hane köye yerleşmiş, 1957 yılında ise Bulgaristan’ın Deliorman, Şhumnu bölgesinden 8 hane gelerek köye yerleşmiştir.
Köyün kuruluşundan beridir köyde yaşayan vatandaşlar gacal, köye daha sonradan yerleşenler ise muhacir (gelme) olarak adlandırılırlar. Köyün tamamı Müslüman olup, Sünni mezhebindendirler. Köyde ayrıca 1956 yılında Küplü beldesinden gelerek köye yerleşen ve Pomak olarak bilinen (3) aile bulunmaktadır.