1867年，槟榔屿发生大暴乱，私会党大伯公会（建德堂）联合红旗党，与白旗党联盟的义兴公司，在乔治市械斗十天。大伯公会以福建人为主，当时的盟主是来自邱公司的邱天德。义兴多属广府人，而白旗和红旗则是马来人，印度人皆有的私会党。

大銃巷的由来有两种说法，有一说是殖民政府为了平息暴乱，发射大炮（大銃）在这大伯公会地盘，导致街上出现大銃空（洞），由此人们称为“大銃空”，久而久之，銃空消失了，大銃空就被改称为“大銃巷”。

另一说法为当时在这巷内，大伯公会曾架设大銃（大炮）以御敌，故称大銃巷。

根据当年的调查报告，大伯公会在械斗中确实有大炮和火药，而大銃巷也比现在的宽度窄甚多，是充满防御性质的通道。其实英文Cannon Square地名早在1867年出现，说明Cannon Square可能随之命名。