Die Burg dürfte im letzten Drittel des 12. Jahrhunderts erbaut worden sein und bewachte gemeinsam mit der gegenüberliegenden Feste Rauheneck den Eingang zum Helenental. Sie wird erstmals 1186 mit "Alber et Chonrat de Ruhinstein" im Klosterneuburger Traditionskodex erwähnt.

1203 scheint ein Otto Turse von Rauhenstein auf. Die Tursen dürften gegen 1299 ausgestorben sein. Vermutlich durch Heirat kam die Burg in den Besitz der Familie Pillichsdorfer. Von ihnen erbte 1386 Hans III von Puchheim die Herrschaft. Gegen Ende des 15. Jahrhunderts war Rauhenstein landesfürstlicher Besitz und wurde von Pflegern verwaltet. 1529 wurde die Burg von den Türken zerstört, aber bald wieder aufgebaut.

1583 verkaufte Kaiser Rudolf II den Besitz an Georg Sauer von Sauerburg. 1617 wurde Hans Paul Bayer Rauhensteiner neue Eigentümer. Nachdem die Burg bereits öde und verlassen war, wurde sie unter den Freiherren von Bayer in der ersten Hälfte des 17. Jahrhunderts wiederhergestellt. 1660 kaufte Johann Christoph Menner von Greifenfeldt die Burg. 1705 erwarb sie Franz Anton von Quarient und Raal. Anfang des 18. Jahrhunderts wurde das Bauwerk dem Verfall preisgegeben. 1741 kam der Besitz an die Familie Doblhoff-Dier, der Rauhenstein bis heute gehört. Zu Beginn des 19. Jahrhunderts wurden die noch benutzbaren Teile der Ruine durch die Firma Mühlbeck & Hebenstreit als Terpentinfabrik genützt, was der Bausubstanz nicht gut tat und zur Schwarzfärbung der Ruinenmauern führte. In den letzten Jahren wurde das Mauerwerk gesichert und saniert.

Weitere Informationen: Burgen Austria