GenAIを活用したモデル開発にはいくつかの課題や限界があります。まず、GenAIは特定のデータセットや問題に対する深い理解を持たないため、データ依存の操作においては効果的でないことがあります。例えば、特定のデータの特性に基づいたハイパーパラメータの最適化を行う際、GenAIが生成するコードは長時間の実行を要し、期待通りの結果を得られないことがあります。また、生成されたコードにはバグが含まれることがあり、これを修正するために追加の手間がかかることもあります。さらに、GenAIの出力にはバイアスが存在し、これはトレーニングに使用されるデータセットの特性やモデルの設計に起因します。このため、初期のコード提案が最適でない場合があり、開発者は生成されたコードを慎重に検証する必要があります。これらの課題は、GenAIを「ターンキー」ソリューションとして扱うことができないことを示しています。