Linux で何かの制限にひっかかってそうなら

せっかくのオープンソースなので、ソースを見てみるとすぐわかるかもしれません。

例えば、システムコールがエラーとなってしまう場合、
errno に E*** という値が入ります。
その E*** をカーネルのソースから検索して、付近のコードを読めば、何かつかめるかもしれません。

もし、特定出来ない場合は、怪しい数カ所に printk() というカーネルの中で使える printf()関数のようなもので、
デバッグメッセージを入れ込んで、動かしてみます。
カーネルと言うと、取っつきにくそうですが、C言語で書かれたプログラムには違いないので、
恐れずにやってみることが重要です。

そうすれば、どこを通っているときに、制限に引っかかったりしてエラーになっているかかなりわかります。

やってみると、意外と楽しい作業です。