<div dir="ltr">Yeah - beats me as well, but this is clearly a bug. The output has no change, I can only surmise it's some lucky permutation of those constant arrays in ScalingList.  <br></div><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Mar 18, 2015 at 9:39 PM, Steve Borho <span dir="ltr"><<a href="mailto:steve@borho.org" target="_blank">steve@borho.org</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On 03/18, <a href="mailto:deepthi@multicorewareinc.com">deepthi@multicorewareinc.com</a> wrote:<br>
> # HG changeset patch<br>
> # User Deepthi Nandakumar <<a href="mailto:deepthi@multicorewareinc.com">deepthi@multicorewareinc.com</a>><br>
> # Date 1426664785 -19800<br>
> #      Wed Mar 18 13:16:25 2015 +0530<br>
> # Node ID 3a913041edebc6198c78800b63337d3c5afe8f1e<br>
> # Parent  14aec6dc4d3b6c7b295fe1ead34c0f9f89a08cc4<br>
> quant[BUG]: correct scaling list type<br>
<br>
</span>how did this not cause serious hash mismatches before?<br>
<span class=""><br>
> diff -r 14aec6dc4d3b -r 3a913041edeb source/common/quant.cpp<br>
> --- a/source/common/quant.cpp Wed Mar 18 12:41:16 2015 +0530<br>
> +++ b/source/common/quant.cpp Wed Mar 18 13:16:25 2015 +0530<br>
> @@ -422,7 +422,7 @@<br>
>      {<br>
>          int deltaU[32 * 32];<br>
><br>
> -        int scalingListType = ttype + (isLuma ? 3 : 0);<br>
> +        int scalingListType = (cu.isIntra(absPartIdx) ? 0 : 3) + ttype;<br>
>          int rem = m_qpParam[ttype].rem;<br>
>          int per = m_qpParam[ttype].per;<br>
>          const int32_t* quantCoeff = m_scalingList->m_quantCoef[log2TrSize - 2][scalingListType][rem];<br>
</span>> _______________________________________________<br>
> x265-devel mailing list<br>
> <a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
> <a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<span class="HOEnZb"><font color="#888888"><br>
--<br>
Steve Borho<br>
_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
</font></span></blockquote></div><br></div>