弊社では、色々と設置レイアウトが変わるので、普通のラックサーバ
ですが、机の横に置くと分かっているのであれば、「オフィスラックサーバ」
って手もあると思います。

サーバの機種選定がこれからならば、CPUにCore2DuoやそれをベースとしたXeon。またはAthlon(できるだけ低電圧)を使用した物を選ぶといいでしょう。
CPUの消費電力が減るので、電源にも余裕ができますし発熱も減らせます。
CeleronD・PentiumDは消費電力・発熱の視点からすれば天敵ですね（滝汗）

特に個人の机では電源の確保も難しいでしょうから、消費電力がかなりの敵となります。
UPSの導入は当然として、コンセントの状況を確認して、その他家電品（特にポットやコーヒーメーカーなどの電熱品）と電源（ブレーカー）が異なるように工夫しましょう。
そうしないと朝（ポットやコーヒーメーカーがフル稼働する時間）電源が落ちます。

ラックマウント用サーバは自分の机にはあまりお勧めできません。
ラックマウントサーバは元来人が立ち入らぬデータセンター向けなので、静音性を全く無視した物もあります。
実際薄っぺらい筐体→必然的にファンは小型→どうしても高回転にしないと風量を確保できない→騒音発生となりやすいので不利です。
（静音パソコンのファンは大型低速で風量を確保した上で騒音を減らすのがセオリーです）

上記の低消費電力版のCPUを勧めるのは、この騒音の問題に対する意味もあります。
（低消費電力→低発熱→廃熱対策のファンを減らせる）

いっそのこと、それを理由に自身のパソコンを低電力CPUの新品に変えてしまうように会社に交渉するのも手かもしれません（苦笑）
「パソコンとサーバの２台では電源が足りなくて運用できません」とか。

ノークリサーチ社からの報告に「サーバの性能向上に伴う物理的弊害（設置場所、騒音）」がありますので、そちらが参考になるかもしれません。お時間がある際に読んでみてください。
また、そちらに付けたコメントの参考URLを、こちらでも紹介しておきます。
主催者側としては、スポンサーである「NEC 水冷サーバー」が一番お薦めなのかなぁとは思います。

音とか熱、電源など結構心配

音と熱は参考URLの静音タイプのサーバーを選択すれば、ある程度軽減されると思います。（使用している訳ではありませんので、可能であれば実機で確認されてみてください）
電源に関しては、なんとかしてUPSを置く場所も確保して、万が一に備えるという事が、一番すぐに対応な対策だと思います。出来れば、通常の電源とは別（系統の）電源が確保出来れば、さらに良いとは思います。この辺りは可能であれば電気工事業者の方と相談して、事前に専用の電源を確保する工事が出来れば、言う事無しですが、なかなか難しいですね。

うまい使い方、置き方

「使い方」とは、例えばKVMを使用して専用のKVMセットを用意しないようにするとか、という事でしょうか？　それぐらいしか、今はわかりませんね。他にも便利な使い方があるとは思います。
「置き方」に関しては、出来るだけ人目につきにくい場所というか、人が作業している時にじゃまにならないような場所に置く、という事でしょうか？
レイアウトにもよりますが、机と机の間のスペースが確保できれば、タワー型を置くにはピッタリだと思います。机の足を入れるスペースの奥では、無意識にサーバーをけとばしてしまう可能性があるため、避けた方が良いとは思います。

もう皆さんりっぱなコメントをつけていらっしゃるのですが私の体験を．．．

私の机の横にはＤＥＬＬのＰｏｗｅｒＥｄｇｅ１４２０がありますがこれはうるさくありません。
別の部署がＮＥＣ Ｅｘｐｒｅｓｓ５８００　１２０ｈを買いましたがこれはうるさいです。　常時ウォンウォンなってますので近くの者が気が散る　といっていやがっています。　（ラックサーバなみにうるさいです）
もちろんスペックが違うからなのですが　用途によっては１４２０程度でもよいのに１２０ｈ程度のものを選択しているかもしれませんね。
"みたらしだんご"さんの場合はどうでしょうか　高可用性を追求しないなら低いスペックのマシンにすることで机の上（横）においてもよいこともあります。
ＫＶＭ（キーボード切替器）はサーバが何台かあるなら必需品です。
私のところではＫＶＭだけでも４つも持っています。　ラック以外のものは金具を作ってディスプレイの上端に固定しています。これは使いやすいです。

電源については自動運転をするならＵＰＳは必須ですが私のところは２４ｈ稼働なので全部まとめて１５ｋのＵＰＳをつけました。　このＵＰＳ２００Ｖ１００Ａ入力にはびっくりしました。風音も大きかったので木製ダクトを作って室外に排気しています。（こんな過激なことをするのは私くらいでしょう）