South Melbourne, tra la riva sud del fiume Yarra e Port Phillip Bay, ha avuto origine nell'area conosciuta come Emerald Hill, a 2 km. a sud di Melbourne. Emerald Hill, un antico affioramento vulcanico, spiccava dalla palude circostante e aveva una vegetazione più verde. La sua elevazione sopra il delta dello Yarra attirò l'insediamento iniziale. Durante l'estate, il terreno paludoso si prosciugava e poteva essere utilizzato per attività ricreative o di addestramento militare. L'insediamento a sud del fiume Yarra era concentrato su Sandridge (Port Melbourne), che era collegato a Melbourne da un binario proveniente da un molo sulla spiaggia di Sandridge. Le vendite di terreni a South Melbourne furono poche durante il 1840, ma nel 1852 un'indagine di Emerald Hill portò all'asta di lotti suddivisi. L'insediamento è avvenuto rapidamente e nel giro di due anni i suoi residenti si sono lamentati del fatto che il consiglio comunale di Melbourne non stava dando loro un valore per le loro tariffe. Il 26 maggio 1855, Emerald Hill fu proclamato un distretto separato.

Al momento del rilevamento di Emerald Hill nel 1852, fu creata una township temporanea a ovest di St. Kilda Road, a sud del fiume. Era Canvastown, un'area pianeggiante con tende per gli immigrati dei giacimenti d'oro. Durò due anni e diede il nome alla prima scuola (1853) nell'area all'angolo tra Clarendon e Banks Street. Poco dopo, a Emerald Hill, furono aperte le scuole primarie della chiesa: Presbyterian (1854), Catholic (1854), anglicana (1856) e gli Orphanages, Protestant (1856) e Catholic (1857). Un istituto di meccanica fu aperto nel 1857. L'apertura della ferrovia da Melbourne a Hobsons Bay nel 1854 non giovò molto a Emerald Hill perché costeggiava l'area, ma la linea da Melbourne a St. Kilda (1857) aveva una stazione di Emerald Hill da 1858.

La terra intorno a Emerald Hill è rimasta inadatta per l'edilizia abitativa o l'industria fino a quando non è stata prosciugata. La Victoria Barracks, su un terreno più alto in St. Kilda Road, fu costruita nel 1859 e i militari vagavano liberamente nell'area: i calci dei fucili erano ad Albert Park e una batteria costiera si trovava alla fine di Kerford Road. Nel 1863 massicce inondazioni inondarono l'area circostante e le poche industrie nascenti ottimiste. Sebbene la mitigazione delle inondazioni non ottenne un impulso significativo fino al Canale di Coode (1887), i lavori di bonifica, drenaggio e argine del fiume incoraggiarono l'insediamento nell'area pianeggiante. La laguna di Albert Park è stata scavata per formare un lago per gite in barca nel 1875.

Il 1 marzo 1872, Emerald Hill fu proclamata una città che portò il consiglio a spostare il suo municipio da Cecil Street al sito occupato dal Protestant Orphan Asylum. Le scuole statali sostituirono le scuole ecclesiastiche: la scuola di Eastern Road (1877), la scuola di Dorcas Street (1881), la scuola di City Road (1884) e Montague (1889), tutte crebbero fino a diventare affollate, poiché la popolazione di South Melbourne è più che raddoppiata in vent'anni, raggiungendo quasi 42.000 nel 1891. Prima che i tram arrivassero a South Melbourne, Clarendon Street emerse con una principale via di vendita al dettaglio.

Le industrie lungo il fiume erano state principalmente nocive, conferendo sgradevolezza alle aree residenziali in crescita. L'Harbour Trust (1877) costrinse le industrie a spostarsi a valle, e la manifattura le sostituì, attratte dal miglior accesso attraverso il Falls (Queens Street) Bridge e dalla costruzione di South Wharf.

I club di calcio furono formati negli anni 1870 e nel 1879 il club di South Melbourne con i colori rosso e bianco prese il suo posto nella Victorian Football Association. Fu uno dei club fondatori della Victorian Football League nel 1897. La città di Emerald Hill cambiò in South Melbourne il 25 settembre 1883.

Le linee di tram lungo Clarendon Street e Park Street furono aperte nel 1890, insieme al collegamento effettuato con la città sette anni prima con un traghetto a vapore tra Clarendon e Spencer Street. Le industrie manifatturiere e di trasformazione alimentare si sono espanse dalla riva del fiume. Il gigantesco edificio in mattoni rossi della Tea House, in origine un magazzino di cartoleria (1890), è un esempio sopravvissuto in Clarendon Street. Notevoli produttori di cibo erano Hoadley's Chocolates (in seguito Allens Sweets) e il gelato Sennits. Le fabbriche tessili, i commercianti di legname e i commerci di mobili sono stati istituiti negli anni '80 dell'Ottocento. Clarendon Street, oltre ad avere molti rivenditori di cibo e tendaggi, aveva rivenditori di mobili. Maples, Tyes e Andersons hanno iniziato a South Melbourne e sono cresciuti fino a diventare catene metropolitane. Anche i negozi di alimentari Crofts hanno iniziato a South Melbourne.

L'istruzione si allarga al livello secondario con una scuola tecnica (1919-92), la scuola tecnica St. Joseph (1924-88) e la conversione della scuola elementare di City Road alla scuola d'arte domestica (1930). Un altro fu il trasferimento della Melbourne Girls' High School alla MacRobertson Girls' High School, in un angolo di Albert Park, nel 1934.

Dall'inizio di Emerald Hill con gli orfani, il welfare ha avuto un forte sostegno da parte della comunità a South Melbourne. L'asilo Montague aprì nel 1909, insieme agli asili metodisti e cattolici nel giro di pochi anni. Il centro di assistenza e igiene dei bambini è stato aperto negli anni '20. Quando un abitante di South Melbourne, Harold Alexander, fu nominato Town Clerk nel 1936, il consiglio approfondì il suo interesse per le attività assistenziali. Il fondo di beneficenza della comunità e l'aumento delle tariffe delle proprietà commerciali aiutano a finanziare le attività di welfare. A quel tempo South Melbourne riceveva i primi migranti del dopoguerra, che aumentarono nel nido di due decenni. Il cricket e il calcio venivano giocati accanto al South Melbourne Hellas Soccer Club (1959), e le lezioni di inglese per migranti per adulti venivano tenute presso la scuola elementare di Eastern Road. L'industria di Riverside si espanse e l'asilo di Montague chiuse nel 1959. Montague stava scomparendo.

South Melbourne ha una striscia di terra sul lato ovest di St. Kilda Road dal fiume fino alla fine dell'Albert Park. Parte di esso proveniva dalla separazione dalla riserva di Albert Park nel 1875, fornendo siti per ville di boulevard. Più vicino al fiume c'erano diversi usi istituzionali del suolo: l'ospedale omeopatico (poi Prince Henry's), 1882, la casa degli immigrati (1852-1911) e l'ospedale della polizia di Victoria. Sul sito che sarebbe poi diventato il complesso dell'Arts Center c'erano il Green Mill, l'Olympia di Wirth e (in seguito) i luoghi di intrattenimento del Trocadero e del Glaciarium.

Negli anni del dopoguerra il quartiere centrale degli affari di Melbourne si estendeva lungo St. Kilda Road. La terra era più economica e il consiglio incoraggiava lo sviluppo attratto dall'aumento delle tariffe. Nel 1944 il governo statale concordò con il consiglio di South Melbourne che il sito del circo Wirth doveva essere riservato a un centro culturale. La carenza del dopoguerra ha ritardato il progetto e la prima parte dell'Art Center è stata aperta nel 1968. Quando la cultura è arrivata ufficialmente a South Melbourne, la gentrificazione è arrivata nella sua zona residenziale. L'Emerald Hill Precinct è un'area storica registrata e ha ispirato iniziative di conservazione sia private che municipali. Nel 1981 la popolazione era meno della metà di quella del dopoguerra e il sostegno locale alla squadra di calcio era diminuito. Nel 1982 gli Swans divennero i Sydney Swans e l'ovale del lago perse il suo principale inquilino.

I cambiamenti particolarmente evidenti dagli anni '60 hanno incluso i grattacieli della Housing Commission (Emerald Hill Court, 1962 e Park Towers, 1969), la Westgate Freeway (1975-95) e lo sviluppo di Southbank. Su scala minore ci furono la conversione del South Melbourne Gas Works in un parco (1982) e la conversione della Castlemaine Brewery al Malthouse Theatre (1987).

Il 18 novembre 1993, l'area di South Melbourne definita Southbank e che si estendeva fino a Docklands fu annessa alla città di Melbourne. Il 22 giugno 1994, la città di South Melbourne è stata unita alle città di St. Kilda e Port Melbourne per formare la città di Port Phillip.

Le popolazioni censite del comune di South Melbourne erano:

1861: 8.822
1881: 25.374
1891: 41.724
1921: 46.873
1961: 32.528
1991: 17.712