<div dir="ltr">This patch is pending, right Nabajit? I havent pushed the luma_vss /chroma_vss assembly patches or the testbench edits to luma_vss. <br><br><br></div><div class="gmail_extra"><br><br><div class="gmail_quote">
On Wed, Jan 29, 2014 at 1:56 PM, chen <span dir="ltr"><<a href="mailto:chenm003@163.com" target="_blank">chenm003@163.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div style="line-height:1.7;font-size:14px;font-family:arial"><div class="im"><div>>@@ -5105,8 +5108,9 @@<br>>     pmaddwd    m5, [r6 + 3 * 16]<br>>     paddd      m1, m5                          ;m1=[1+2+3+4+5+6+7+8]  Row2 end<br>
>     psrad      m1, 6<br>>-<br>>-    packssdw   m0, m1<br>>+    pand       m1, m7<br>>+<br>>+    packusdw   m0, m1<br>> <br>>     movlps     [r2], m0<br>>     movhps     [r2 + r3], m0<br></div>

</div><div>PAND + PACKUSDW may avoid overflow problem, but it is wrong way here</div>
<div>as you said, you got a result value 0x8D84, it is overflow on 16bits, so we need to find really reason,</div>
<div>I check the HM code, it use Short, so I suggest you catch input data and put into HM to check HM's output.</div>
<div> </div></div><br>_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<br></blockquote></div><br></div>