<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Aug 12, 2015 at 1:05 PM, Steve Borho <span dir="ltr"><<a href="mailto:steve@borho.org" target="_blank">steve@borho.org</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On 08/11, <a href="mailto:ashok@multicorewareinc.com">ashok@multicorewareinc.com</a> wrote:<br>
> # HG changeset patch<br>
> # User Ashok Kumar Mishra<<a href="mailto:ashok@multicorewareinc.com">ashok@multicorewareinc.com</a>><br>
> # Date 1439283627 -19800<br>
> #      Tue Aug 11 14:30:27 2015 +0530<br>
> # Node ID 854f0f9aabf7ec45da3cb301e0f78a5bd1e96391<br>
> # Parent  3eb2ec5922be1cd934dec7f7ed886d03c0125ef5<br>
> Quant: fix for decoding hash mismatch in lossless mode<br>
><br>
> diff -r 3eb2ec5922be -r 854f0f9aabf7 source/common/quant.cpp<br>
> --- a/source/common/quant.cpp Wed Aug 05 12:20:01 2015 +0530<br>
> +++ b/source/common/quant.cpp Tue Aug 11 14:30:27 2015 +0530<br>
> @@ -228,9 +228,6 @@<br>
><br>
>  void Quant::setQPforQuant(const CUData& ctu, int qp)<br>
>  {<br>
> -    m_tqBypass = !!ctu.m_tqBypass[0];<br>
> -    if (m_tqBypass)<br>
> -        return;<br>
<br>
</span>that's a bit unexpected. what field needs to be initialized for<br>
cu-lossless to work right?<br>
<span class=""><br>
>      m_nr = m_frameNr ? &m_frameNr[ctu.m_encData->m_frameEncoderID] : NULL;<br>
>      m_qpParam[TEXT_LUMA].setQpParam(qp + QP_BD_OFFSET);<br>
>      setChromaQP(qp + ctu.m_slice->m_pps->chromaQpOffset[0], TEXT_CHROMA_U, ctu.m_chromaFormat);<br>
</span>> _______________________________________________<br>
> x265-devel mailing list<br>
> <a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
> <a href="https://mailman.videolan.org/listinfo/x265-devel" rel="noreferrer" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<span class="HOEnZb"><font color="#888888"><br>
--<br>
Steve Borho<br>
_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" rel="noreferrer" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a></font></span></blockquote><div><br></div><div>When cu-lossless mode is set, we are comparing rate distortion cost for normal encoding and lossless encoding.</div><div>For that tq_bypss flag is OFF for normal encoding and ON for lossless encoding. But since the qgSize is set to 32,</div><div>qp value will change for depth 1 (32x32 CU). So for normal encoding we need to set the new qp value. The reason for hash mismatch</div><div>was we were encoding the CU with the old qp value and signalling the decoder new qp value.   </div></div><br></div></div>