<div dir="ltr">Thanks, just sent a fix for it.<div><br></div><div><br></div><div>Regards,</div><div>Praveen</div></div><div class="gmail_extra"><br><br><div class="gmail_quote">On Tue, Aug 12, 2014 at 7:18 PM, chen <span dir="ltr"><<a href="mailto:chenm003@163.com" target="_blank">chenm003@163.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="line-height:1.7;color:#000000;font-size:14px;font-family:arial"><pre><div class="">>-        X265_CHECK((int)numSig == primitives.count_nonzero(coeff, 1 << log2TrSize * 2), "numSig differ\n");
>+        /* This section of code is to safely convert int32_t coefficients to int16_t, once the caller function is
>+         * optimize to take coefficients as int16_t*, it will be cleanse.*/
>+        int numCoeff = (1 << (log2TrSize * 2));
>+        assert(numCoeff <= 1024);
>+        ALIGN_VAR_16(int16_t, qCoeff[32 * 32]);
>+        for (int i = 0; i < numCoeff; i++)
>+        {
>+            qCoeff[i] = (</div>coeff[i] & 0xFFFF);
>+        }
I suggest use clip on it, to avoid value problem (eg: 0x10000 become zero) and asm instruction match to clip</pre></div><br>_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<br></blockquote></div><br></div>