It crashes with the patch applied with the following parameters.<br>c:\mobile_cif.y4m --pass 1 --bitrate 100 --stats &quot;mobile.stats&quot; --ref 8 --mixed-refs --bframes 3<br>
--b-adapt 2 --b-pyramid --weightb --direct auto --filter -1:-1 --subme  8 --trellis 2 --partitions p8x8,b8x8,i4x4,i8x8 --8x8dct <br>--me umh --threads auto --thread-input --progress --no-psnr --no-ssim -o c:\mob.mkv<br><br>
The crash happens always in ssd_plane function&nbsp; after the patch is applied but this time the function ssd_plane crashes <br>when it&#39; is called from x264_rd_cost_i8x8 function and not from x264_rd_cost_part.<br><br>It seems that the patch is useful only if the call to ssd_plane comes from the function ssd_mb.<br>
In this case the variable named &quot;size&quot; ( static inline int ssd_plane( x264_t *h, int <span style="color: rgb(255, 0, 0);">size</span>, int p, int x, int y )&nbsp; )<br>has always (in my case) the value 0 that is h-&gt;pixf.hadamard_ac[size] = 0x0045db60 _x264_pixel_hadamard_ac_16x16_mmxext<br>
and no crash appens.<br><br>If the call comes from x264_rd_cost_part function, the variable named &quot;size&quot; is set to 3 and the corresponding value of <br>h-&gt;pixf.hadamard_ac[size] = 0x0045db60 _x264_pixel_hadamard_ac_16x16_ssse3 and so it crashes.<br>
<br>I see more.<br><br>Tnx<br>David<br><br><br><br><div class="gmail_quote">2008/10/21 Gabriel Bouvigne <span dir="ltr">&lt;<a href="mailto:gabriel.bouvigne@joost.com">gabriel.bouvigne@joost.com</a>&gt;</span><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
David Sullivan a écrit :<br>
<div class="Ih2E3d"><br>
&gt; 2) If I try a compression in two passes, (c:\mobile_cif.y4m --pass 1<br>
&gt; --bitrate 100 --stats &quot;mobile.stats&quot; --ref 8 --mixed-refs --bframes 3<br>
&gt; --b-adapt 2 --b-pyramid --weightb --direct auto --filter -1:-1 --subme<br>
&gt; 8 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;--trellis<br>
&gt; 2 --partitions p8x8,b8x8,i4x4,i8x8 --8x8dct --me umh --threads auto<br>
&gt; --thread-input --progress --no-psnr --no-ssim -o c:\mob.mkv)<br>
&gt;<br>
&gt; on the first pass (frame 12) and the first time the execution reaches<br>
&gt; the instruction uint64_t acs = h-&gt;pixf.hadamard_ac[size]( fdec,<br>
&gt; FDEC_STRIDE ); , it crashes.<br>
<br>
</div>I&#39;m not sure about what you meant there: does is still crashes with the<br>
patch applied, or does it crashes only without the patch?<br>
<br>
--<br>
<font color="#888888">Gabriel<br>
</font><div><div></div><div class="Wj3C7c">_______________________________________________<br>
x264-devel mailing list<br>
<a href="mailto:x264-devel@videolan.org">x264-devel@videolan.org</a><br>
<a href="http://mailman.videolan.org/listinfo/x264-devel" target="_blank">http://mailman.videolan.org/listinfo/x264-devel</a><br>
</div></div></blockquote></div><br>