<div dir="ltr">psy-rd is enabled for full-rdo decision(rd>=5) and for rd= 4<div>m_rdCost.setPsyRdScale(top->param->rdLevel >= 4 ? top->param->psyRd : 0);<br></div><div>so this patch is required for rd=4 where inter uses psyrdcost and intra was using rdcost. For other lower rd levels < 4, m_psyRdScale = 0, so psycost will not have much effect on RDcost</div>
</div><div class="gmail_extra"><br><br><div class="gmail_quote">On Thu, May 22, 2014 at 3:45 PM, Deepthi Nandakumar <span dir="ltr"><<a href="mailto:deepthi@multicorewareinc.com" target="_blank">deepthi@multicorewareinc.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">psy-rd is enabled only in full-rdo decisions (rdLevel >= 5). Your patch calculates intra-psy rd cost for rd=4 and lower, which is where xEncodeIntrainInter is called.<br>
</div><div class="gmail_extra"><br>

<br><div class="gmail_quote"><div><div class="h5">On Thu, May 22, 2014 at 3:31 PM,  <span dir="ltr"><<a href="mailto:sumalatha@multicorewareinc.com" target="_blank">sumalatha@multicorewareinc.com</a>></span> wrote:<br>
</div></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="h5">

# HG changeset patch<br>
# User Sumalatha Polureddy<<a href="mailto:sumalatha@multicorewareinc.com" target="_blank">sumalatha@multicorewareinc.com</a>><br>
# Date 1400752845 -19800<br>
# Node ID fc400f71de9dcbaeda5c0669edabd27e288cdf2c<br>
# Parent  f39484bb3eecc8cfca0448c63f16fe8dacc54d7f<br>
psyrd: use psyrdcost for intra for rdLevels > 5<br>
<br>
diff -r f39484bb3eec -r fc400f71de9d source/encoder/compress.cpp<br>
--- a/source/encoder/compress.cpp       Tue May 20 22:02:00 2014 -0500<br>
+++ b/source/encoder/compress.cpp       Thu May 22 15:30:45 2014 +0530<br>
@@ -70,7 +70,18 @@<br>
     m_rdGoOnSbacCoder->store(m_rdSbacCoders[depth][CI_TEMP_BEST]);<br>
<br>
     cu->m_totalBits = m_entropyCoder->getNumberOfWrittenBits();<br>
-    cu->m_totalCost = m_rdCost->calcRdCost(cu->m_totalDistortion, cu->m_totalBits);<br>
+    if (m_rdCost->psyRdEnabled())<br>
+    {<br>
+        int part = g_convertToBit[cu->getCUSize(0)];<br>
+        uint32_t psyRdCost = m_rdCost->psyCost(part, m_origYuv[depth]->getLumaAddr(), m_origYuv[depth]->getStride(),<br>
+            m_tmpRecoYuv[depth]->getLumaAddr(), m_tmpRecoYuv[depth]->getStride());<br>
+        cu->m_totalCost = m_rdCost->calcPsyRdCost(cu->m_totalDistortion, cu->m_totalBits, psyRdCost);<br>
+<br>
+    }<br>
+    else<br>
+    {<br>
+        cu->m_totalCost = m_rdCost->calcRdCost(cu->m_totalDistortion, cu->m_totalBits);<br>
+    }<br>
 }<br>
<br>
 void TEncCu::xComputeCostIntraInInter(TComDataCU* cu, PartSize partSize)<br></div></div>
_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org" target="_blank">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
</blockquote></div><br></div>
<br>_______________________________________________<br>
x265-devel mailing list<br>
<a href="mailto:x265-devel@videolan.org">x265-devel@videolan.org</a><br>
<a href="https://mailman.videolan.org/listinfo/x265-devel" target="_blank">https://mailman.videolan.org/listinfo/x265-devel</a><br>
<br></blockquote></div><br></div>