<div dir="ltr">As discussed today, we shall have 64bit int and 32 bit int versions of the primitives for high bit depth and low bit depth cases. </div><div class="gmail_extra"><br><br><div class="gmail_quote">On Sun, Oct 6, 2013 at 12:59 AM, Steve Borho <span dir="ltr"><<a href="mailto:steve@borho.org" target="_blank">steve@borho.org</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="im"><br><div class="gmail_extra"><br><br><div class="gmail_quote">On Fri, Oct 4, 2013 at 11:07 PM, Aarthi Priya Thirumalai <span dir="ltr"><<a href="mailto:aarthi@multicorewareinc.com" target="_blank">aarthi@multicorewareinc.com</a>></span> wrote:<br>

<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div dir="ltr">I understand. If High_Bit)Depth = 1, you could still choose uint32 version for the primitives  but in <span style="font-family:arial,sans-serif;font-size:13px">ssim_end_1(int..) you might get an overflow when bitdepth > 9, as mentioned in the comments there. I could use a 64bit int there for all cases to store intermediary calculations , if you want to remove those if conditions. </span></div>

<div><div>
<div class="gmail_extra"></div></div></div></blockquote></div><br></div></div><div class="gmail_extra"><font color="#500050">If uint64 is big enough for 12bit pixels, then that would be preferable over floats, I think.</font></div>

<div class="gmail_extra"><font color="#500050"><br></font></div><div class="gmail_extra"><span style="color:rgb(80,0,80)">But we would still want a 32bit int version for the 8bit pixel case, so you would still need a run-time decision to pick the right version of the function.</span><br>

</div><div class="gmail_extra"><font color="#500050"><br></font></div><div class="gmail_extra"><font color="#500050">Am I misunderstanding the need for the float version? Is it just for higher pixel bit depths?</font></div>

<div class="gmail_extra"><br></div><div class="gmail_extra">--</div><div class="gmail_extra">Steve</div></div>
<br>_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<br></blockquote></div><br></div>