Budova leží na Bannelong Pointu na východní straně přístavu, v blízkostí Přístavního mostu. Velmi krásný pohled na operu je z vody, při projížďce po přístavu.  

Roku 1957 byla vládou Nového Jižního Walesu vyhlášena mezinárodní architektonická soutěž na operní budovu. Na tuto soutěž bylo podáno 233 návrhu z 23 zemí. Dle zadání měla mít budova jeden velkým sál pro 3000 diváků a jeden menší sál pro 1200 diváků.

V soutěži nakonec zvítězil návrh v té době nepříliš známého mladého dánského architekta Jørn Utzona. V době kdy podával návrh na budovu, na místě kde měla opera stát sám nikdy nebyl. Místo znal jenom z fotografií.  
Jeho inspirací pro vzhled stavby byly částečně plachty a částečně chrámové stavby Mayů a Aztéků, které viděl v Mexiku.


Stavba Opery začala v roce 1959 a slavnostně byla otevřena 20. října 1976 královnou Alžbětou II.

Stavbu neprovázely právě  příznivé okolnosti. Roku 1965 došlo v Austrálii k výměně vlády a k velkým neshodám mezi ní a architektem. Utzon se nedohodl s vládou o dalším postupu – technickém i finančním a v roce 1966, v pokročilém stadiu hrubé stavby, na její dokončení rezignoval. Stavbu pak dokončili čtyři australští architekti dle Utzonova návrhu a svých technických a konstrukčních – mimochodem  vynikajících - výkonů.

Stavba měla stát v původním rozpočtu sedm miliónů dolarů a měla být dokončena v roce 1963. Realita ale byla, že stavba trvala o deset let déle a výdaje dosáhly výše sto miliónů dolarů. Největší část těchto peněz byla získána loteriemi.

Dnes je stavba světově známá a stala se architektonickým symbolem Austrálie.
Budova má tvar lastur (či plachet nebo labutě) a nachází se na výběžku do moře a tak je na ni výhled zdaleka ze všech stran. Je 183 metrů dlouhá a 118 metrů široká. V nejvyšším bodě se tyčí do výšky 67 metrů nad hladinou moře. Budova sahá i 25 metrů pod moře, kde je vybudováno hlavně technické zázemí budovy.


Vevnitř je 5 samostatných hal, které jsou určeny ke koncertům a jiným hudebním i divadelním produkcím. Dále pak zde najdeme ještě výstavní prostory, 3 restaurace, 6 barů, knihovnu a 60 šaten.

Budova má cekem 1 000 místností, celková kapacita hledišť je 5 467 míst. Na střechu bylo použito 1 000 000 dlaždic a 6 224 čtverečních metrů skla položeného na koncích lastur. Dlaždice byly vyrobeny ve Švédsku a mají rozměr 12 x 12 cm a jsou dvou barev - jedny jsou lesklé bílé a druhé matné žlutohnědé. Hmotnost střechy je 27 229 tun.

Interiér je ve stylu, který by se mohl označit jako gotiku kosmického věku. Budova má největší divadelní opony na světě a také největší mechanické varhany na světě. Jsou umístěny  v koncertní hale a mají 10 500 píšťal.

Jørn Utzona se při odchodu ze Sydney  zapřísáhl, že se sem již nikdy nevrátí. Ale vrátil se! Roku 2003 zde přebíral nejslavnější cenu, Pritzkerovu cenu za architekturu.