小洋山旧称羊山，以岛上多羊而得名，又因岛域较小而改称小羊山，后演写为洋山、小洋山，别有三塔山和猴山等名。岛居大洋山之北，位菜园镇西南39公里处，距上海芦潮港30公里，面积仅1.76平方公里。岛上平地甚少，多秃岩，高大的观音山，海拔141.7米。1934年始建小洋乡，乡政府驻地南岙村。居民约3500余人，其先辈大多从宁波、温州、岱山、南汇等地迁入。