Die Elbphilharmonie verfügt im oberen Teil des Gebäudes über zwei Veranstaltungssäle. Wie der Große ist auch der Kleine Saal akustisch vom Rest des Gebäudes entkoppelt.
Wer von der Außenplaza der Elbphilharmonie einen Blick auf den angrenzenden Hamburger Hafen wirft, ahnt, warum dies nötig ist: Die Motorengeräusche und Nebelhörner von Container- oder großen Kreuzfahrtschiffen, die durch das Elbwasser gut übertragen werden, können den Musikgenuss durch diese Entkoppelung nicht beeinträchtigen. Andererseits dringt auch die Musik aus den Konzertsälen so nicht ungewollt in die Hotelzimmer und Wohnungen, die zum Nutzungskonzept des Gebäudes gehören.
Allerdings unterscheidet sich der Klang in beiden Sälen. Im Großen Saal wird stärker Dynamik ausgespielt. Die Balance des Orchesters ergreift den Raum. Im Kleinen Saal erscheint der Klang etwas gedämpfter, auch weil im Kleinen Saal – wie fast überall in der Elbphilharmonie – Parkett verlegt wurde.
Zudem werden im Kleinen Saal, in dem vorwiegend Jazz- und Kammermusik-Darbietungen aufgeführt werden, hochmoderne Beschallungskomponenten eingesetzt.
Residenzensemble des Kleinen Saals ist das Ensemble Resonanz, das von vielen Musikfreunden zu den führenden Kammerorchestern weltweit gezählt wird.
Schlussendlich ist der Kleine Saal als Multifunktionssaal ausgelegt. Er ist nicht fest bestuhlt, sondern sehr flexibel für verschiedenste Arten von Veranstaltungen von Kammermusik bis zu Pop-Konzerten geeignet. Durch eine einfahrbare Tribüne und diverse Hubpodien ist der Saal dafür sehr variabel einsetzbar. So lassen sich bis zu einer maximalen Kapazität von 526 Plätzen verschiedene Szenarien einrichten, wie „eine große Tribüne“ oder „zwei Tribünen und eine Mittelbühne“ etc.