MINCUT for memory encoder, Int8 TransposeConv for mask decoder

[kyakuno]

• Memory Encodeにおいて、nn.LayerNormを使用することで、MINCUTに対応
• Mask Decoderにおいて、TransposeConvにAnnotationを適用することで、Int8演算に対応
• Mask Decoderにおいて、geluをInt8に固定
• Memory Attentionにおいて、outputをInt8に固定

Memory Encoderにおいて、MINCUTのパーティショニングでエラーが発生している問題を解消します。

独自のLayerNorm2Dの実装の、Residual Blockの分岐で、NHWCとNCHWが衝突しているのが原因であるため、
公式のnn.layernormに置き換えることで問題を回避します。
独自実装のウエイトをnn.layrernormに登録する必要があるため、checkpointの読み込み時に、load_weights_from_old_modelを呼び出します。

これにより、Addのepsilonが量子化されて0になる問題も回避することが可能です。
MemoryEncoderとMaskDecoderのLayerNormで0加算とsqrtでinfが発生する問題を解消します。

公式のnn.layernormに置き換えずに、NHWC変換後に独自のLayerNormを呼び出す方法でも回避可能です。
その場合、ai-edge-torch 0.2.0だと、ai_edge_torch/convert/fx_passes/optimize_layout_transposes_pass/pass_body.pyのinsert_dq_t_qのself.get_paired_q_dq_ops(input_q.target)をutils.get_paired_q_dq_ops(input_q.target)に修正が必要です。

[kyakuno]

nn.layernormはlast dimmensionを縮退するため、NHWCに変換して適用します。
pytorch/pytorch#71465

[kyakuno]

#9 にマージした。