[Encode] HEVC update Cmd2Settings for xe hpm

HEVCe update Cmd2Settings for xe hpm
intel · Oct 11, 2024 · 4fe64bd · 4fe64bd
1 parent 6da802d
commit 4fe64bd
Showing 1 changed file with 1 addition and 1 deletion.
diff --git a/.../Xe_XPM_base/codec/hal/enc/hevc/features/encode_hevc_vdenc_const_settings_xe_xpm_base.cpp b/.../Xe_XPM_base/codec/hal/enc/hevc/features/encode_hevc_vdenc_const_settings_xe_xpm_base.cpp
@@ -451,7 +451,7 @@ MOS_STATUS EncodeHevcVdencConstSettingsXe_Xpm_Base::SetVdencCmd2Settings()
                     static const uint32_t dw53Lut[3][8][2][2][2][2] = { { { { { { 0, 0,}, { 0x80000000, 0x80000000,},}, { { 0, 0,}, { 0x80000000, 0x80000000,},},}, { { { 0, 0,}, { 0, 0,},}, { { 0, 0,}, { 0, 0,},},},}, { { { { 0xffffffff, 0xffffffff,}, { 0x80000000, 0x80000000,},}, { { 0xffffffff, 0xffffffff,}, { 0x80000000, 0x80000000,},},}, { { { 0xffffffff, 0xffffffff,}, { 0xffffffff, 0xffffffff,},}, { { 0xffffffff, 0xffffffff,}, { 0xffffffff, 0xffffffff,},},},}, { { { { 0xffffffff, 0xffffffff,}, { 0x80000000, 0x80000000,},}, { { 0xffffffff, 0xffffffff,}, { 0x80000000, 0x80000000,},},}, { { { 0xffffffff, 0xffffffff,}, { 0xffffffff, 0xffffffff,},}, { { 0xffffffff, 0xffffffff,}, { 0xffffffff, 0xffffffff,},},},}, { { { { 0xff000000, 0xff000000,}, { 0x80000000, 0x80000000,},}, { { 0xff000000, 0xff000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xff000000, 0xff000000,}, { 0xff000000, 0xff000000,},}, { { 0xff000000, 0xff000000,}, { 0xff000000, 0xff000000,},},},}, { { { { 0xff000000, 0xff000000,}, { 0x80000000, 0x80000000,},}, { { 0xff000000, 0xff000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xff000000, 0xff000000,}, { 0xff000000, 0xff000000,},}, { { 0xff000000, 0xff000000,}, { 0xff000000, 0xff000000,},},},}, { { { { 0xff000000, 0xff000000,}, { 0x80000000, 0x80000000,},}, { { 0xff000000, 0xff000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xff000000, 0xff000000,}, { 0xff000000, 0xff000000,},}, { { 0xff000000, 0xff000000,}, { 0xff000000, 0xff000000,},},},}, { { { { 0xffff0000, 0xffff0000,}, { 0x80000000, 0x80000000,},}, { { 0xffff0000, 0xffff0000,}, { 0x80000000, 0x80000000,},},}, { { { 0xffff0000, 0xffff0000,}, { 0xffff0000, 0xffff0000,},}, { { 0xffff0000, 0xffff0000,}, { 0xffff0000, 0xffff0000,},},},}, { { { { 0xffff0000, 0xffff0000,}, { 0x80000000, 0x80000000,},}, { { 0xffff0000, 0xffff0000,}, { 0x80000000, 0x80000000,},},}, { { { 0xffff0000, 0xffff0000,}, { 0xffff0000, 0xffff0000,},}, { { 0xffff0000, 0xffff0000,}, { 0xffff0000, 0xffff0000,},},},},}, { { { { { 0, 0xfff0,}, { 0, 0xfff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0, 0xfff0,}, { 0, 0xfff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},}, { { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},}, { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0x80000000, 0x80000000,}, { 0x80000000, 0x80000000,},},},},}, { { { { { 0, 0xfff0,}, { 0, 0xfff0,},}, { { 0, 0xfff0,}, { 0, 0xfff0,},},}, { { { 0, 0xfff0,}, { 0, 0xfff0,},}, { { 0, 0xfff0,}, { 0, 0xfff0,},},},}, { { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},},}, { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},},},}, { { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},},}, { { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},}, { { 0xffffffff, 0xfffffff0,}, { 0xffffffff, 0xfffffff0,},},},}, { { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},},}, { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},},},}, { { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},},}, { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},},},}, { { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},},}, { { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},}, { { 0xff000000, 0xff00fff0,}, { 0xff000000, 0xff00fff0,},},},}, { { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},},}, { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},},},}, { { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},},}, { { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},}, { { 0xffff0000, 0xfffffff0,}, { 0xffff0000, 0xfffffff0,},},},},},};
                     data[53] |= dw53Lut[CodingTypeMinus1][tu][currPicRef][Wa_22012463389][Wa_22011549751][Wa_14010476401];
 
-                    static const uint32_t dw54Lut[8][2] = { { 0, 0,}, { 0xc0, 0xc0,}, { 0, 0,}, { 0x44000000, 0x44000000,}, { 0x44000000, 0x44000000,}, { 0x4000000, 0x4000000,}, { 0xbc000004, 0x34000004,}, { 0xbc000004, 0x34000004,},};
+                    static const uint32_t dw54Lut[8][2] = { { 0, 0,}, { 0xc0, 0xc0,}, { 0, 0,}, { 0x44000000, 0x44000000,}, { 0x44000000, 0x44000000,}, { 0x4000000, 0x4000000,}, { 0xbc000000, 0x34000000,}, { 0xbc000000, 0x34000000,},};
                     data[54] |= dw54Lut[tu][Wa_22011531258];
 
                     static const uint32_t dw55Lut[2] = { 0, 0xcdef0123,};