Fshati i Delvinës që sot mban emrin Bajkaj, është fshat relativisht i ri pasi këtu, deri në vitin 1950, nuk kishte më shumë se 3 ndërtesa, që ishin 3 kullat e ndërtuara prej pronarëve të tokave të këtij vendi.

Toka të cilat u shtetëzuan nga regjimi diktatorial që në atë kohë të pasluftës, hartoi dhe zbatoi plane për pastrimin e sistemimin e tyre nga banorët që thirreshin për t’i punuar nga zona përreth.

Në vazhdim, u krijuan fermat dhe kooperativat bujqësore e blegtorale me njerëz që i’u afruan kësaj fushe për të punuar e që më pas qëndruan e u strehuan këtu duke ngritur shtëpitë e para.

Emri Bajkaj, nuk lë asnjë dyshim se i ka mbetur këtij fshati nga vathët dhe stallat e lopëve të cifligjeve të pronarëve të parë të kësaj fushe.Banorët e mbetur pohojnë se përgjatë rendit socialist, sipas kushteve të kohës, fshati ishte mjaft i pavarur ekonomikisht, pasi ata zhvillonin bujqësinë e blegtorinë duke mos lënë asnjë cep të tokës, të pashfrytëzuar.

Kulmi i numrit të popullatës duket se arriti në mbi 700 banorë, viteve 1990-94 kur filloi gjakderdhja që njihet si mërgim, teposhtë kufirit jugor.

Pas gjithë asaj pune sakrifikuese për dekada të tëra që mbante njerëzit në vendin e tyre, sot fshati me burime të shumtë natyrorë, Bajkaj i Delvinës, mbahet me kujtimet e së kaluarës së begatë, mureve të shtëpive të lëna, rrugicave të pluhurosura dhe tokave djerrina që as që shpresojnë më, në rikthimin e ditëve të bukura për fshatin.