前回の続きʕ•ᴥ•ʔ ちょっと雲行きが怪しくなってきた。 ブライトラインは、AIを縛るだけではない。悪用もできる。 　 児童性的搾取の判定は「見逃し」と「誤検知」のコストがまったく釣り合わない。見逃せば法的責任と信用の崩壊、誤検知なら一般ユーザーが数日困るだけ。 だから判定器は必ず「疑わしきは止める」側に閾値を置く。これはAIのミスではない。運営がそう設計している。 　 ここに穴がある。 　 「児童性的搾取」として通報されたポストは、同じ内容を「スパム」として通報されたときより、少ない証拠で止まる。通報カテゴリそのものが、判定の重みを引き上げる信号になるからだ。 　 つまり攻撃者は、相手が本当に違反しているかどうかを気にする必要がない。一番審査が甘くなるカテゴリで通報すればいい。それだけで通る。 　 実際、今回の凍結祭りでは「引っかかりそうなワードで相手の過去発言を検索し、片っ端からその名目で通報する」という手口が広まっていた、という証言が複数出ている。 誰がやっているかは知らない。知る必要もない。構造上、誰にでもできる攻撃だということが問題なのだ。 　 ただし通報一発で即凍結ではない。通報は閾値を越えさせるきっかけであって、普段から閾値のそばにいるアカウントが落ちる。 綾波レイとロキシーの話を毎日している人は、一回の通報で越える。 　 防ぎようがあるとすれば一つだけ。普段の発言で、線から距離を取っておくこと。 　 審査員は冗談の通じない相手だ、と前回書いた。 状況は、どうやらより悪いようだ。 冗談の通じない相手に、匿名で密告できる窓口がついている。