Pre-RTM Uninstall Instructions
http://lab.msdn.microsoft.com/vs2005/uninstall/preRTMuninstall/default.aspx
FAQである上に期間限定の情報になりそうですが、Visual Studio 2005や .NET Framework 2.0のベータ等を"きれいに"アンインストール手順が書かれています。
が、わざわざここに書かれている手順で進めるのは面倒なので、上のページからもリンクされている自動アンインストールツールを使うのがいいでしょう。
＃自分がいろいろ入れたり消したりしてわけがわからなくなってきれいにしたくなったので、自動ツールのお世話になりました。