天網
中国国内のメディアなどから問題点も指摘されており、化粧やアクセサリーを使った顔認識のディープラーニングを欺く手口が挙げられている。中華人民共和国香港特別行政区では、中国本土と同様の監視社会化を恐れ、2019年逃亡犯条例改正案に抗議するデモ参加者が当局による顔認証をマスクやレーザーポインターなどで回避して監視カメラ搭載のスマート街灯を「天網」として破壊する姿が世界で報じられた。これに対し、香港政府も2019年10月に1967年の香港暴動以来52年ぶりとなる戒厳令に近い権限を林鄭月娥香港特別行政区行政長官に与える「緊急状況規則条例」を発動してデモ隊の覆面禁止で応じた。なお、同じ一国二制度の中華人民共和国マカオ特別行政区では、2016年から顔認識機能も搭載する電子監視システム「天眼」(スカイアイ)の導入が推し進められている。中国企業はマスクなどで顔認識を回避しても歩容解析するAIシステムなどの開発でこうした動きに対抗している 。また、DNAフェノタイピング(英語版)で遺伝子情報によって生成した顔画像に基づく特定も積極的に行われている。
中国の反体制派弾圧に利用されていると伝える欧米など西側のメディアに対し、中国の国営紙である環球時報は天網は専ら犯罪者に対して利用されていると反論しており、行方不明者の特定にも役立っているとされる。
中国の新疆ウイグル自治区では監視カメラや携帯電話などから収集した個人情報を人工知能と機械学習でアルゴリズム解析する「一体化統合作戦プラットフォーム」によってプレディクティブ・ポリシング(英語版)や人種プロファイリングで選別された少数民族のウイグル族を法的手続きを経ずに2017年6月19日から25日にかけてだけでも約1万5千人をテロや犯罪を犯す可能性があるとして新疆ウイグル再教育キャンプに予防拘禁している政府の内部文書とされるチャイナ・ケーブル(英語版)が報じられており、国家規模で特定の民族を自動識別する人種差別やコンピュータの判断に基づいて人間を強制収容所に送る人権侵害は前例がないとして国際問題になっている。2019年10月にアメリカ合衆国商務省産業安全保障局は新疆ウイグル自治区の人権侵害への関与を理由にハイクビジョンや香港のAI企業センスタイムなど中国の28法人への米国製品の輸出をエンティティ・リストによって禁止した。