1802 wurde dieses große Schärenanwesen von dem legendären Kapitän Carl Peter Blom gekauft, der sein Vermögen mit gefährlichen Missionen für König Gustaf III und hochprofitablen Handelsexpeditionen an das Mittelmeer machte. Im Jahre 1810 ließ er ein prächtiges Steinhaus bei Hemviken bauen, das heute als Hauptgebäude für Smådalarö Gård dient. Carl Peter Blom lebte allein und hinterließ keine Kinder, als er 1818 starb.
Sein Neffe Anders Berg erbte das Anwesen. Nach seinem Tod im Jahre 1835 verwaltete seine Witwe das Anwesen bis zu ihrem Tod. Danach wurde das Anwesen über viele Jahre für unterschiedliche Zwecke verwendet. Das Haus stand über einen langen Zeitraum leer und wurde reparaturbedürftig.
Das Anwesen wurde dem heutigen Hauptbesitzer zum Kauf angeboten und dieser ließ umfassende Renovierungen und Erweiterungen durchführen. Smådalarö Gård wurde im Jahre 1983 als Hotel und Konferenzzentrum eröffnet. 2003 wurde der hoteleigene 9-Loch-Golfplatz mit einem speziellen Galaturnier, an dem zahlreiche Mitglieder der schwedischen Golfelite teilnahmen, eröffnet.