百色城，不但风景秀丽，而且地势险要，交通便利，是通往云南、贵州的咽喉。由于右江水量大，四季可通航，百轮货轮可直通广州、香港。因此，云南、贵州乃至全国各地，特别是广东商贾云集百色。因为粤商的日益增多，粤语也就自然而然地成为百色的城市语言。随着商业的发展，城内相继建起一批专为各地商人提供服务的会馆，诸如粤东会馆、灵州会馆、云南会馆、贵州会馆、江西会馆等，其中粤东会馆规模最大、最豪华气派。遗憾的是，由于人为的破坏，现在除粤东会馆、灵州会馆外，其余会馆已不复存在。粤东会馆，由广东商人集资兴建，始建于清朝康熙59年（1721年），后多次重修。凡粤商来到百色，都喜欢到粤东会馆投宿、聚会、洽谈生意等。
粤东会馆，是一座砖木结构的古建筑，具有南方古建筑的艺术传统和风格。位于百色市解放步行街，整个建筑占地面积2331平方米，建筑面积2661平方米。会馆座西向东，以前、中、后三大殿宇为主轴，两侧配以相对称的四进厢房和庑（音：wu）廊，构成“日”字形封闭式独立建筑群。殿宇庑廊，布局严谨，庭院通道，铺设红色阶砖和长方形条石，殿堂廊下，全为是实木大圆柱或花岗岩方形石柱支撑。中间主体建筑三大殿宇的内山墙上现今还完整保存着十分精美的水墨壁画。可以说，整个建筑就是一件文化教育艺术精品。
1929年12月11日，邓小平同志成功发动发百色起义，同时，中国工农红军第七军在百色成立。军部设司令部和政治部，司令部就设在粤东会馆，司令部所属的参谋处、经理处、副官处、军医处等就在这里办公。邓小平、张云逸的办公室和住室摆设十分俭朴，每人一张办公桌和一张床铺，坐着床铺办公。他们的床铺也是由松木板和长条凳搭建而成的，他们和其他指站员穿一样的衣服，盖一样的铺盖，吃一样的饭菜，为全军树立了艰苦奋斗的良好风范。
党中央、国务院和广西壮族自治区党委、人民政府对红七军军部旧址的保护极为重视。1961年3月26日，自治区人民政府把红七军军部旧址列为自治区重点文物保护单位，同时又在旧址里建立了“右江革命文物馆”。1977年8月17日邓小平同志挥毫为红七军旧址题名：中国工农红军第七军军部旧址。1988年1月13日，国务院又把红七军军部旧址列为“全国重点文物保护单位”。
