<DIV><FONT style="BACKGROUND-COLOR: #ffffff">Hi,</FONT></DIV>
<DIV>
<DIV dir=ltr><FONT style="BACKGROUND-COLOR: #ffffff"></FONT> </DIV>
<DIV dir=ltr><FONT style="BACKGROUND-COLOR: #ffffff">The reason for more fluctuation of PSNR is  that the value of cfg->param.rc.rateTolerance has been set too small. And I try testing with -F 1, the result is same, maybe it depends on video context.</FONT></DIV>
<DIV dir=ltr> </DIV>
<DIV dir=ltr>I have written a patch to fix some bugs of ABR,  </DIV>
<DIV dir=ltr><FONT size=+0>1. modify rateTolerance from 0.1 to 1.0, in order to allow the final bitrate to fluctuate more(CBR to ABR)</DIV>
<DIV dir=ltr><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT style="FONT-FAMILY: Times New Roman">2. the value of ncu in initialization of ratecontrol has been set according to 16x16 block size which is same to x264, for corresponding empirical formula in x264 is for 16x16 block</FONT></PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT style="FONT-FAMILY: Times New Roman">3. do more modification to make ratecontrol algorithm of x265 more similar to x264, for x264 has been developed for about 10 years and is very mature , it is reasonale to take its methods first.</FONT><FONT face="Times New Roman"></FONT></PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT face="Times New Roman"></FONT> </PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT face="Times New Roman">The result is good,  red line is old version and blue line is new version with patch.   I am not familar with HG, would you please give some suggestion of how to update a patch, thanks a lot!</FONT></PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT face="Times New Roman"><IMG src="cid:part1.1382965933.3556.996"></FONT></PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT face="Times New Roman"></FONT> </PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT face="Times New Roman">thanks,</FONT></PRE><PRE style="TEXT-INDENT: 0px; MARGIN: 0px; -qt-block-indent: 0"><FONT face="Times New Roman">idxa</FONT></PRE></FONT></DIV>
<DIV dir=ltr><FONT style="BACKGROUND-COLOR: #cccccc"></FONT> </DIV>
<DIV dir=ltr><FONT style="BACKGROUND-COLOR: #cccccc"></FONT> </DIV>
<DIV dir=ltr><FONT size=+0>Interesting! There is more fluctuation in the psnr, the overflow/underflow must have been excess and when rate control corrects it abruptly, there is a sharper psnr drop or peak..I am guessing the extent of psnr fluctuation are mainly due to the lambda tables that we have currently. </FONT></DIV>
<DIV dir=ltr><FONT style="BACKGROUND-COLOR: #cccccc">Can you try if it persists when we run it with 1 frame Thread instead of 4. I took a file dump of the psnr , the fluctuation wasn't quite bad when -F1.. </FONT></DIV>
<DIV><BR><BR>
<DIV><FONT style="BACKGROUND-COLOR: #cccccc">On Fri, Oct 25, 2013 at 4:48 PM, <SPAN dir=ltr><<A href="mailto:idxa@sina.com" target=_blank _act="check_domail"><FONT color=#184382>idxa@sina.com</FONT></A>></SPAN> wrote:<BR></FONT>
<BLOCKQUOTE style="BORDER-LEFT: #ccc 1px solid; MARGIN: 0px 0px 0px 0.8ex; PADDING-LEFT: 1ex">
<DIV><FONT style="BACKGROUND-COLOR: #cccccc">I tested with the following steps,</FONT></DIV>
<DIV><FONT style="BACKGROUND-COLOR: #cccccc"></FONT></DIV>
<DIV><STRONG><FONT style="BACKGROUND-COLOR: #cccccc">1.encoding a clip with qp=34(crf maybe better), and getting bitrate of the output file(is 490Kb/s)</FONT></STRONG></DIV>
<DIV><FONT style="BACKGROUND-COLOR: #cccccc">x265.exe --input source\NBA.yuv -o output_test\NBA_qp_34.hevc --recon output_test\NBA_recon_qp_34.yuv --fps 30 --input-res 640x360 --keyint 300 --frames 300 --rd 1 <FONT color=#ff0000>--qp 34</FONT> -F 4</FONT></DIV>
<DIV><BR><FONT style="BACKGROUND-COLOR: #cccccc"><STRONG>2. using the bitrate(=490Kb/s) which is got frome the previous step to encode the same video with ABR method</STRONG> <BR>x265.exe --input source\NBA.yuv -o output_test\NBA_bitrate_490.hevc --recon output_test\NBA_recon_bitrate_490.yuv --fps 30 --input-res 640x360 --keyint 300 --frames 300 --rd 1 <FONT color=#ff0000>--bitrate 490</FONT> -F </FONT></DIV>
<DIV><FONT style="BACKGROUND-COLOR: #cccccc"></FONT></DIV>
<DIV><FONT style="BACKGROUND-COLOR: #cccccc"><STRONG>3.Compare PSNR of the two output files.</STRONG> <BR>Here using MSU VQM to calculate PSNR, and the following graph shows the result, red line is ABR and blue line is CQP, and ABR is of big fluctuation.</FONT></DIV>
<DIV></DIV>
<DIV><IMG src="cid:part2.1382965933.3556.996"> <BR></DIV></BLOCKQUOTE></DIV></DIV></DIV><BR>
<DIV id=origbody><FONT style="BACKGROUND-COLOR: #f2f2f2"></FONT> </DIV>