NortonSafeWebのサイト評価で思いもよらないところがネックになった話

# 概要
長い説明文になりそうなので、まず結論から先に。
+ webサイト（https://num-0x06.floppy.jp/black_staffrole-bot/ ）を立ち上げたところ、NortonSafeWebに「評価：注意」を付けられた。その評価に異議があるため異議申し立てを行う。※　オタク向けサイトなので苦手な方はスルーしてください。
+ 該当URLがシマンテックのツールからアクセスできないとシマンテックから返答。
+ 自宅の開発機のブラウザからは該当URLは閲覧可能。curl可能。しかしHTML文法チェックサイト（http://www.htmllint.net/html-lint/htmllint.html ）からアクセスすると500エラーで蹴られる事が判明。httpはOK、httpsはNG。（ **世の中のhttpsがすべて蹴られているわけではありません　←　重要**）
+ 上記をシマンテックのサポートに伝えると「評価：注意」を取り下げてもらえた。

自分の場合はたまたま対応してもらえただけなのかもしれないので、この一連の事がほかの方にも通じるかどうかはわかりません。ただ、こういう事がありましたという事をまとめておきたくてこの記事を書きました。

# NortonSafeWebの評価に疑問を抱く
先日、自分が運営しているTwitterBotに関するサイトをレンタルサーバに開設しました。Googleにもクロール依頼をし、数日後にふと検索結果一覧を見てみると、サイト名の横にオレンジ色のビックリマークアイコンが表示されています。
![注意アイコン.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1207708/54060bef-f920-4918-43b9-a427e7e648bf.png)
※　自分のサイトで現象が出ている時にスクショを撮り忘れたので、この画像は参考画像です
ノートンのセーフウェブレポートに「評価：注意」を付けられていました。詳細は「侵害したサイト」の判定。
そんなやましい内容書いていないし、凝ったcssとかスクリプトとかも置いてない。なぜ「侵害したサイト」評価を付けられるのかがわからない。ただでさえ弱小サイトなのに、マイナス要素を付けられては来訪者はさらに少なくなる事は目に見えています。

# 評価の異議申し立て
幸いサイト評価の異議申し立てができるのでやってみました。オレンジのビックリマークアイコンをクリックすると別タブでNortonSafeWebの評価結果の画面が表示されます。画面に表示されるオレンジ色のアイコン。
画面中央の「ここをクリックして異議を送信」をクリック。メールアドレス、提案するカテゴリ、コメントを入力して送信を行いましょう。
送信して数時間～数日まてば再評価がされて結果がメールで送られてきます。
![異議申し立て.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1207708/e0df179a-90db-f8bc-7e0d-827ea8877e24.png)
※　自分のサイトで現象が出ている時にスクショを撮り忘れたので、この画像は参考画像です
# サポートに問い合わせ
・・・が。「二日ぐらいで手続き完了」との事だったが、完了のメールが送られてこない。
同じ工程を繰り返す事３回ぐらい。待てど暮らせどメールは来ない、評価も治らない。仕方ないのでシマンテックに問い合わせをすることにしました。
数あるユーザーサポートのうち、自分はチャットによるサポートを希望。ブラウザ上から氏名、メールアドレス、電話番号、サポート内容、評価内容の異議申し立ての返答が来ない旨を記入してオペレータにつないでもらいます。
![チャットサポート.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1207708/a61e3365-7821-7fe5-805a-4add9ffaa687.png)

オペレータから、「ノートン提出ポータル」経由による異議申し立てをするように指示が出ました。入力画面が英語ですがブラウザの機能で日本語化しても構わないそうです。オペレータに少し待ってもらい、「ノートン提出ポータル」から異議申し立てを記入し送信。しばし待機。数分ののち結果が出ました。
![ノートン提出ポータル.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1207708/138755b4-6996-0d05-08ed-92e3a71e3380.png)

:::note warn
不正なグループまたは個人による悪意のあるコンテンツや許可されていないコンテンツを使用してハッキングまたは侵害された正当なサイト
:::

変わってない！
オペレータからさらに別の申し立てフォームを提示され異議を申し立てるよう案内がありました。
![シマンテック評価サイト.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1207708/5cac808c-acc0-23b8-4e01-0b23025e8a29.png)

こちらのフォームに入力後、返答が専門部署からやってくるという事でチャットサポートはひとまず終了です。
チャットサポート、レスポンスもよく対応していただいて助かりました。ありがとうございます。

# 現象再現・検証
その日の夜中、シマンテックのサポートから返答メールが届きました。その内容は以下の通り。

:::note warn
Symantec の Web コンテンツアナリストが、お送りいただいた URL を分類しようとしましたが、その URL に関連付けられている Web コンテンツにアクセスできませんでした。この理由としては、サーバーの問題 (評価を試みたときにサイトがオフラインになっていたなど) や、サイトまたはサイトのアドレスが無効であることが考えられます。サイトにアクセスできなかったために、アナリストはサイトを分類できませんでした。
:::

…サンドウィッチマンの富澤の「ちょっと何言ってるのかよくわからない」の画像が頭をよぎりました。この文を素直に読み下すとつまりは「該当URLにアクセスできない」との事。
内容に問題があって評価が下がるのはしょうがないんですが、「アクセスできない」と言われてしまうとどうにもこうにもなりません。

この後に行った検証は以下のとおり

+ chrome、Firefoxによる該当URLが表示できるかの検証　→　表示できてる
+ レンタルサーバのapacheの生ログの解析　→　ノートンが来た形跡がない
+ curlで該当URLが見に行けるか　→　windows、linaxともに見に行ける
+ 上位ディレクトリにアクセスしてきた際は/black_staffrole-bot/にリダイレクトするようmode_rewriteを設定していたのをいったん止める →　現状変わりなし

この時、ふと思い立ちHTML文法チェックサイトから見に行くというのを思い立ちました。Another HTML-lint の「URLで検証」で該当URLをチェック。（ちなみになんでこれを思い立ったのかは失念しました。たぶん「リクエスト時のUserAgentで珍しいのは蹴ってるのかもしれないからやってみよう」というノリでやったんだと思います。）

実行結果は以下の通り。

:::note warn
指定されたHTML (https://num-0x06.floppy.jp/black_staffrole-bot/) を取得することができませんでした。
500 Can't connect to num-0x06.floppy.jp:443
:::

これが原因？ちなみにURLをhttpsからではなく、httpからにするとすんなりと構文チェックが動作します。
「httpsだと蹴られるっぽい」（ **ただし世の中のhttpsから始まるサイトがすべて蹴られているわけではありません　←　重要。大事だから２回書きました**）。だいぶおおざっぱではありますが原因の切り分けが出来ました。

該当URLの中身が取得できないんだったらそりゃシマンテックもコンテンツ評価のしようがありません。

ちなみにこのHTML文法チェックサイトはPerl5で記述されているそうです。
「500 Can't connect to」の文字列でgoogle検索を行うと、perlでhttpsをGETしようとすると証明書関係のエラーで怒られるという事例が出てきます。

# 再度サポートに問い合わせ
「おそらく難しいだろうなー」と思いつつも一応こんな事象が出ていることを伝えたく、上記現象をシマンテックとレンタルサーバのサポートにそれぞれ投げました。

シマンテックからの返答（英文で来たのを翻訳）
> やあ！君のサイトの評価を直しておいたので後でチェックしてね！

本当に直ってました。しかもメールを出して３０分そこそこ。びっくりした。

レンタルサーバからの返答
> お客様のサイト「 https://num-0x06.floppy.jp/black_staffrole-bot/ 」を確認したところ、
サイト自体は正常に表示が行われており、Google Chromeの検証ツールにて
エラー表示等も行われていない状態となっておりました。
また、ご申告いただいている各ツールについては外部ツールのため、誠に恐れ入りますが弊社でもどのような理由でエラーが出ている状態がわかりかねます。
お手数ではございますが、ツールの提供元までエラーの原因についてご確認いただきますようお願い申し上げます。
ツールの提供元より弊社に確認する事項等ございましたら、本メール内に提供元からの回答等をお伝えいただけますと幸いです。

うん、この答え。予感していました。個別の外部ツールまでは対応できないですもん。

こうして根本的解決に至っていないような気もするのですが、なんとか自サイトの評価に「安全」を付けていただく事ができました。

# 感想
今回のノートンセーフウェブの評価の件で色んなサイトを見て回ったのですが、一見問題なさそうなサイトなのに注意評価がつけられているサイトはボチボチあるなという印象を受けました。

ひとつ今回の件で検証してみたかったのは、現在使用しているSSLがレンタルサーバーが予め用意してある無料のだったので、これを有料版にしたらどうなるのか。それを見てみたかった。

今回対応していただいた各社のサポートの方々、ありがとうございました。