De eerste moeilijke jaren
Op een koude novembermorgen in 1749, zeventien jaar oud, stond Haydn op straat zonder geld of onderkomen. Door een gelukkig toeval kwam hij een jonge muziekleraar tegen die hij vaag kende. Johann Michael Spangler woonde met vrouw en kind op een kleine zolder en bood hem onderdak aan. Haydn studeerde goed en begon ook in opdracht te componeren. Hij hield zich in leven met kleine muzieklessen en gelegenheidsoptredens. Het waren magere jaren, maar hij bleef werken en studeren.
Een collega van Mathias Haydn, Anton Buchholz, leende de jonge arme componist geld en daarmee kon Haydn in 1752 een zolderkamer huren in het Michaelershaus aan de Kohlmarkt in Wenen. Hier woonde ook de beroemde Italiaanse dichter en libretto-schrijver Pietro Metastasio. Deze bezorgde hem een veelbelovende pianoleerling, Maria(nna) Martines, die Haydn drie jaar lang les gaf tegen kost en inwoning. Door haar kwam hij in contact met muziekliefhebbers uit hogere kringen.
In (waarschijnlijk) 1753 ging in Wenen zijn eerste opera in première: Der krumme Teufel. Het stuk had succes, maar werd kort daarna verboden, omdat een Weense edelman dacht dat hij de hoofdpersoon voorstelde en belachelijk werd gemaakt. Toch gaf deze ervaring Haydn moed en liet het zien dat hij over komisch talent beschikte.
Haydn leerde veel door klavecimbelsonates van Carl Philipp Emanuel Bach te bestuderen. In 1754 maakte hij kennis met de Italiaanse zangleraar Niccolò Porpora. Haydn hielp hem als een soort leerling en begeleider en in ruil daarvoor kreeg hij waardevolle lessen in zang en compositie. Porpora hielp Haydn om zijn Italiaans te verbeteren en gaf waardevolle kritiek op zijn eerste composities. Tijdens een van de reizen met Porpora ontmoette Haydn de componist Willibald Gluck.
Ook in 1954 kreeg hij het verdrietige nieuws dat zijn moeder op 47-jarige leeftijd was overleden. Zijn vader hertrouwde kort daarna met de jonge Anna Maria Seeder, een dienstmeid die drie jaar jonger was dan Joseph Haydn. In 1763 overleed ook zijn vader.
Langzamerhand begon Haydn naam te maken in Wenen. Op kamermuziekavonden maakte hij kennis met Karl Joseph von Fürnberg, die hem als violist in dienst nam. Voor deze gelegenheden schreef Haydn waarschijnlijk zijn eerste strijkkwartetten, die hem meteen bekendheid gaven. Hoewel hij van vroeg tot laat werkte, kon Haydn in deze periode voor het eerst zeggen dat hij van zijn muziek kon leven.