↑というわけで該当ページ読んでみました。

http://www.phrack.org/show.php?p=56&a=5
この記事非常に面白いです。スタックガード・スタックシールド等のコンパイラレベルでのオーバーフロー対策がされていても、なおオーバフローによりシェルコードの実行が出来る事を実演しています。日本語訳してみようかと思ったのですが、そういう柄じゃないので*1しません。

結論からいえば上で触れた MacOSX のオーバーフローを利用してシェルコードを実行出来るかどうかよくわかりません。そもそもその話題とこの記事はあまり関係ない気がするのですが…。今回の件(System/Library/Filesystems/cd9660.fs/cd9660.util のオーバーフロー)では main 関数内のセグメーション違反であり、その場合は普通にはシェルコードを実行させる事は出来ないはずです。残念ながらこの記事を見てもそれは変わらなそうですね。

どちらにせよ。細かい条件が必要だとしてもスタックガードを超えた攻撃が可能なのは非常に興味深いので、読んでみることをおすすめします。バッファオーバーフローの仕組みがおおまかに分かっていれば読めると思います。

*1:いいわけです、はい。