<div dir="ltr"><div>I see what you're trying to do here. m_baseQP is always zero in normal vbv operation, but contains previous QP values during re-encode. <br><br></div>A better solution would be to find out which field in TComDataCU actually contains uncleared values, and clear them in TComDataCU::initCU. <br>
<div><div><div><br></div><div class="gmail_extra"><br><br><div class="gmail_quote">On Sat, Apr 19, 2014 at 1:07 AM, Steve Borho <span dir="ltr"><<a href="mailto:steve@borho.org" target="_blank">steve@borho.org</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="">On Fri, Apr 18, 2014 at 7:31 AM,  <<a href="mailto:santhoshini@multicorewareinc.com">santhoshini@multicorewareinc.com</a>> wrote:<br>

> # HG changeset patch<br>
> # User Santhoshini Sekar <<a href="mailto:santhoshini@multicorewareinc.com">santhoshini@multicorewareinc.com</a>><br>
> # Date 1397824258 -19800<br>
> #      Fri Apr 18 18:00:58 2014 +0530<br>
> # Node ID 3d680a36ea9acc45f3db128a5efe557a79a3026b<br>
> # Parent  03aa222ff8eb5ffbe65bd5bf522cad6561210024<br>
> vbv:reinit cu data when row vbv re-rencode is triggered.<br>
<br>
</div>space after colon<br>
no need for end punctuation on summary line<br>
<div class=""><br>
><br>
> diff -r 03aa222ff8eb -r 3d680a36ea9a source/encoder/frameencoder.cpp<br>
> --- a/source/encoder/frameencoder.cpp   Fri Apr 18 17:32:14 2014 +0530<br>
> +++ b/source/encoder/frameencoder.cpp   Fri Apr 18 18:00:58 2014 +0530<br>
> @@ -1100,6 +1100,8 @@<br>
>          {<br>
>              if (!row)<br>
>                  m_pic->m_rowDiagQp[row] = m_pic->m_avgQpRc;<br>
> +            if (cu->m_baseQp != 0)<br>
> +                cu->initEstData(0);<br>
<br>
</div>this doesn't look to be the appropriate place for this sort of reset.<br>
If it needs to happen after a row restart shouldn't it be done in the<br>
restart loop below?  Here it looks like it could be calling<br>
initEstData() many times, redundantly.<br>
<div class="im HOEnZb"><br>
><br>
>              if (row >= col && row && m_vbvResetTriggerRow != row)<br>
>                  cu->m_baseQp = m_pic->getCU(cuAddr - numCols + 1)->m_baseQp;<br>
> _______________________________________________<br>
> x265-devel mailing list<br>
> <a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
> <a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<br>
<br>
<br>
</div><span class="HOEnZb"><font color="#888888">--<br>
Steve Borho<br>
</font></span><div class="HOEnZb"><div class="h5">_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
</div></div></blockquote></div><br></div></div></div></div>