そこまで手をかけても、実はAVXの方が早いのでした残念、という結果になる可能性は高いと思うよ？

nnet.cおよびlpcnet.cの、該当するコードの該当する関数が使うバッファを、ベクタエンジン用のバッファに挿げ替えるという面倒な作業があるけど…手間がかかるだけで（再帰とかstaticとか使ってなさそうだと）厳しいものではないと思う多分きっとおそらく。