デスクトップにてPDAのウェブサイトの開発ってできますか？
少し調べてみたのですが確かPocketIEって言うブラウザーを
使っているんですよね。バージョンによってはフォームにて
ファイル選択ボタンがサポートできなかったりしている様なので
PDAを購入しないでPocketIEのHTMLサポートなど確認したいのですが
どなたか知りませんか？

多分OSがWindowsCEになるので、それに合わせて作ればいいのではないでしょうか。
PDAというよりもバージョンによって動きが違ってくるのはPDAだけの話ではないので、Microsoftのサイトをこまめに検索するとかhtmlに特化したサイトを調べてみるくらいしか方法はないと思います。確認の仕方はPDAエミュレータなどでやればいいのではないでしょうか。