在处理倒卖银元的投机倒把分子时，新政权遇到了一个全新的问题。
在这些投机者中，有一大批是那些交易量在10元以下的小贩子，对这些人基本上是抓后即放，但他们往往是上海缺少生活保障的底层市民。打击银元投机，基本上断绝了这批人在解放初期的生活来源。军管会干部想了一个临时的解决办法，将他们组织起来协助抓大贩子，并为其提供食物。问题是，这个群体之庞大，必须要有一个制度性的办法来管理和安置。
“上海游民数量的庞大是要比其他城市艰巨得多的课题。”解放初任上海民政局秘书、后在上海市委政治法律委员会下属里弄工作委员会任办公室主任的屠基远回忆说，“我们接管了30个区，1193个保，28552个甲，1033206户，5406644人口的户籍册。上海市是一个情况极为复杂的大城市，有产业职工100万人，有大中小学生，散居在里弄中。一个区的人口少则几万，多则40万。”
19世纪20世纪上半叶中国地方政府对基层的控制，向来依靠的是地方官员和绅士之间力量的巧妙平衡。保甲制度就是这种平衡下的产物。
“光是区一级的机构是管理不了的，保甲制度取消后，必须考虑，区以下用什么组织来代替保甲？政治如何通达基层？国家如何调控社会？”
与国民政府管理上海时面对的困难相似，上海这座城市的高度流动性，一直是对管理者的挑战。在1958年以前，上海实行的城市户籍制度的基本原则是“自由流动，重在管理”，因此，人口流转十分频繁。据屠基远统计，从1950年至1955年，有263万余人迁入上海，迁出人口231万余，净迁入人口约32万。加之50年代早期涌入上海的大量灾民、难民，上海城市的人口流动处在高峰时期，这对人民政府在基层社会划定各种政治空间的范围和人们的阶级成分带来了相当的难度。
到1920年，上海黑社会已经聚集了十万个流氓，随着社会无产者和破产者的增加，这个数字一直在扩大。“在一些工人集中的居住区，每一次大规模的人口迁徙往往注入了许多外来因素——诸如地方帮派势力，不断改变小区原有的阶级结构和社会生态。普陀区南英华里原是日商内外棉纱厂的工房，是工人聚居之地，抗日战争时期从闸北逃来一批人情况就日见复杂，苏北帮、山东帮、安徽帮、河南帮常常发生械斗。镇反时共逮捕51人，枪毙主要骨干5人，尚需处理的还有46人。”上海史研究者张济顺说。
另一些本已杂乱的下层居住区，随着50年代早期人口流动的加剧，各种社会势力的此消彼长愈益增强。一份关于嵩山区恒茂里的情况调查称，这是“上海著名的三大桥之一——八仙桥附近的一条里弄，位于商业区的中心，是被大世界、青年会、大众剧院、小菜场、几家大商店及旅馆、银行包围起来的一个正方形……该弄共住839户，3711人。以店员为最多……人口的流动性很大，每天报（户口）进报（户口）出的约有20人左右……（弄内）社会情况复杂，黄金荣、杜月笙门下的徒弟不少，已处理的各类罪犯56名外，尚有贩毒犯2名，流氓17名，小偷2名，私娼、地下舞女8名，黑律师1名。弄内的新生活旅馆专为嫖客服务，赌风、窃风都很盛”。
依照共产党对城市基层社会政治生活的基本安排，政治运动分别在单位和里弄两大空间进行。最初的部署是单位为主，里弄为辅；单位先行，里弄后续。屠基远说，这种考虑和做法源自于新政权管理城市社会的基本思路和构想，即把基层控制和管理分为两大系统：单位人和非单位人。“我们最初认为，近140万职工和文教工作者是‘城市工作的主要对象’。”“基层政治动员的最大难点便存在于后者：非单位人群中，这个群体因为多年流动变化而极难界定。据上海市委民政部门统计，到1954年8月，全市街道里弄中有163万多名摊贩，15万名左右失业人员、1万多名未登记的工场、作坊、小店以及未经过民主改革的人员都未进行系统的清理，有不少里弄变成了各地逃亡反革命分子和其他不法分子的藏身之所。”
尽管如此，新政权仍然需要将这笔巨大的社会资源转化为可以调控的政治力量。屠基远回忆中提起，在潘汉年跟他的一次交流中，打开了一条新的思路。“潘市长对我说：‘抗日战争时期，你不是在上海工作吗？那时候，不是有很多人同我们一起搞抗日活动吗？有些人因为环境关系，没有跟我们一起到根据地，或者没有参加党，有的人可能做了太太，到里弄里去了。我所知道的就有不少这样的人。他们受过革命的教育，不少人为我们出过力，今天是拥护我们，也愿意做点工作的。你们可以找找妇联，介绍一些老积极分子。’”屠基远回忆，“后来，我们找到了不少老积极分子，当时不过三四十岁，一般都有文化，熟悉里弄情况。那时什么报酬也没有，为里弄做了许多工作，成为基层工作中一批骨干。”
1949年下半年，一些居民区和里弄的无业者和一部分居民开始被组织起来，上海陆续出现了自治性的“房客联谊会”、“自来水管理委员会”、“卫生委员会”。
居民委员会在上海是一个创举。新政权找到了一条实际的途径通过其政治功能的发挥，将50年代前半期的上海里弄大规模动员起来。张济顺说，自1950年起，遍布上海的11155条里弄就逐步建立了居民委员会。到1954年1月，全市共有居民委员会1847个，居民小组约有3.6万个，居民委员会委员95284人，形成了一个自上而下的覆盖到社会基层的组织网络。“在居民委员会的有效运作下，非单位人群投身政治运动之热烈可说是史无前例。”