<div dir="ltr"><br><div class="gmail_quote">---------- Forwarded message ----------<br>From: <b class="gmail_sendername">Steve Borho</b> <span dir="ltr"><<a href="mailto:steve@borho.org">steve@borho.org</a>></span><br>Date: Tue, Nov 18, 2014 at 11:35 PM<br>Subject: Re: [x265] [PATCH] refactorizaton of the transform/quant path<br>To: Development for x265 <<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a>><br><br><br><span class="">On 11/18, <a href="mailto:praveen@multicorewareinc.com">praveen@multicorewareinc.com</a> wrote:<br>
> # HG changeset patch<br>
> # User Praveen Tiwari<br>
> # Date 1416299427 -19800<br>
> # Node ID 706fa4af912bc1610478de8f09a651ae3e58624c<br>
> # Parent  2f0062f0791b822fa932712a56e6b0a14e976d91<br>
> refactorizaton of the transform/quant path.<br>
> This patch involves scaling down the DCT/IDCT coefficients from int32_t to int16_t<br>
> as they can be accommodated on int16_t without any introduction of encode error,<br>
> this allows us to clean up lots of DCT/IDCT intermediated buffers, optimize enode efficiency for different<br>
> cli options including noise reduction by reducing data movement operations, accommodating more number of<br>
> coefficients in a single register for SIMD operations. This patch include all necessary<br>
> changes for the transfor/quant path including unit test code.<br>
<br>
</span>Testbench failure with this patch applied:<br>
<br>
$ ./test/TestBench<br>
Using random seed 546B89D8 8bpp<br>
Testing primitives: SSE2<br>
Testing primitives: SSE3<br>
Testing primitives: SSSE3<br>
Testing primitives: SSE4<br>
denoiseDct: Failed!<br>
<br>
Mac OS X x86_64 8bpp<br>
<br>>>I'm going to hold this patch until you can send a new patch to resolve<br>>>this issue.</div><div class="gmail_quote"><br></div><div class="gmail_quote">[MC] Can we disable this single assembly code and push the patches so that this and other patches don't have to wait, once we done with this issue we can enable denoise asm code.<br>
<div class="HOEnZb"><div class="h5"><br>
--<br>
Steve Borho<br>
_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
</div></div></div><br></div>