質問: 現在仕事とは別に個人でRails5とpostgresqlでウェブアプリを作成しているのですが、 ページを表示した時にそのページにておすすめしてる商品についてA,B,Cの店舗の値段を参照して(もしくはバッチなどで定期的に参照しにいってデータ保持) サイト上に表示するような仕組みを作りたいと思っているのですが、 このような仕組みはどのような手法を使えば実現できるのでしょうか?そもそも可能なのでしょうか? APIは結局参照サイト側が何かしら提供していないと実現出来ないでしょうから、ほぼ無理だと思うのですが、 クローリングをすることでサイト表示を解析して表示するのかなと思っているのですが、どのような手法を取るべきなのでしょうか?
回答: スクレイピング、クローリングですね。 rubyならNokogiriという、スクレイピングのライブラリがあります。 注意点として、収集元のサイトに大きな負荷がかからないよう配慮が必要です。