<div dir="ltr">To correct an error spotted by our smoke tests on Darwin.For a particular case where the seed is 56B3EFA7 in 12 bit build and for a one particular input buffer, the primitive fails because the difference in the C and ASM values is more than 0.0001. The ASM function uses the same algo as C.</div><div class="gmail_extra"><br clear="all"><div><div class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div><span style="color:rgb(56,118,29)"><br></span></div><div><span style="color:rgb(56,118,29)">Thank you<br></span></div><span style="color:rgb(56,118,29)">Regards<br></span></div><span style="color:rgb(56,118,29)">Ramya</span><br></div></div></div></div></div>
<br><div class="gmail_quote">On Thu, Feb 11, 2016 at 1:27 PM, Pradeep Ramachandran <span dir="ltr"><<a href="mailto:pradeep@multicorewareinc.com" target="_blank">pradeep@multicorewareinc.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Why is this necessary?<div class="gmail_extra">Pradeep.</div><div class="gmail_extra"><br><div class="gmail_quote"><div><div class="h5">On Thu, Feb 11, 2016 at 1:04 PM,  <span dir="ltr"><<a href="mailto:ramya@multicorewareinc.com" target="_blank">ramya@multicorewareinc.com</a>></span> wrote:<br></div></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="h5"># HG changeset patch<br>
# User Ramya Sriraman <<a href="mailto:ramya@multicorewareinc.com" target="_blank">ramya@multicorewareinc.com</a>><br>
# Date 1455173784 -19800<br>
#      Thu Feb 11 12:26:24 2016 +0530<br>
# Node ID b22558e286d95befb2730bcfd8b3613c981ff9d2<br>
# Parent  822782933427f19e76b34f340a3c52fb4bc95424<br>
testbench: Change error range in check_ssim_end4 from 0.0001 to 0.001<br>
<br>
diff -r 822782933427 -r b22558e286d9 source/test/pixelharness.cpp<br>
--- a/source/test/pixelharness.cpp      Tue Feb 09 12:05:42 2016 +0530<br>
+++ b/source/test/pixelharness.cpp      Thu Feb 11 12:26:24 2016 +0530<br>
@@ -858,7 +858,7 @@<br>
         int width = (rand() % 4) + 1; // range[1-4]<br>
         float cres = ref(sum0, sum1, width);<br>
         float vres = checked_float(opt, sum0, sum1, width);<br>
-        if (fabs(vres - cres) > 0.0001)<br>
+        if (fabs(vres - cres) > 0.001)<br>
             return false;<br>
<br>
         reportfail();<br></div></div>
_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org" target="_blank">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" rel="noreferrer" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
</blockquote></div><br></div></div>
<br>_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" rel="noreferrer" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<br></blockquote></div><br></div>