アプリケーション独自のファイルフォーマットを、独力で調査しフォーマット文章として起こして公開することは合法か否か。
特許：
使用するのは権利者の許可がない限り違法ですが、単なる情報を含んだままの公開は違法か？
特許自体公開しなきゃ取れない物なので、情報の公開は問題なさそうだが詳細は見つからず。
著作権：
ファイルフォーマットには著作権は発生しない。
ただし、プログラムAをリバースエンジニアリングしてフォーマットAの情報を得た場合、その情報を元に作成したプログラムBはプログラムAの翻案物であるとされ違法になりうる。
とはあるものの、フォーマットAの情報公開については言及されているものを見つけられなかった。
見た感じ、情報公開だけならば問題が無いように読み取れる。
規約：
リバースエンジニアリングを禁ずるとの規約が存在している場合、リバースエンジニアリングによって得た情報を公開した場合は規約違反となる。
リバースエンジニアリング：
>リバースエンジニアリング（Reverse engineering）とは、機械を分解したり、製品の動作を観察したり、ソフトウェアの動作を解析するなどして、製品の構造を分析し、そこから製造方法や動作原理、設計図、ソースコードなどを調査する事である。(WikiPediaより引用)
とあるので、逆アセンブラやリソースエディタやメモリーエディターやデバッガーでの解析、また実際に使用したことによる動作の推測はリバースエンジニアリングの範疇に含まれると思われる。
が、例えば付属しているファイルを、ただバイナリエディタで開くなどして観察するだけでフォーマット情報を得た場合
それはリバースエンジニアリングに含まれるのか否か。
もし含まれなかった場合、規約にてリバースエンジニアリングを禁止していても問題が無い事になり、得た情報を元にプログラムを作った場合でも翻案物として扱われない事になる。
長々書きましたが、ぶっちゃけぐぐっただけなので信憑性はありません。
とりあえず、バイナリエディタでこねこねした情報を公開するだけなら合法と思っておきます